CCTest · Blog
Hugging Face 被指缺少平台级防护:图像编辑模型可被用于生成非自愿亲密深伪
AI 安全
cctest.ai
AI 安全

Hugging Face 被指缺少平台级防护:图像编辑模型可被用于生成非自愿亲密深伪

AI Forensics 的报告称,Hugging Face 上多个热门图像编辑模型能直接响应“脱衣”类请求,平台层面的安全过滤明显不足。研究还发现,测试用的诱捕空间收到的大量请求带有性化目的,其中包括针对儿童的内容。

阅读全文
CCTest · Blog
Claude 共享聊天被搜索引擎收录:AI 工具的“公开链接”风险再敲警钟
AI 安全
cctest.ai
AI 安全

Claude 共享聊天被搜索引擎收录:AI 工具的“公开链接”风险再敲警钟

Claude 的部分共享聊天和 Artifacts 近期被发现可通过 Google 搜索到,其中可能包含医疗记录、公司内部文档和儿童联系方式等敏感信息。这起事件暴露了生成式 AI 产品在“链接分享”与隐私预期之间的灰区。

阅读全文
CCTest · Blog
青少年为何需要“安全可用”的 AI,而不是简单隔离
AI 安全
cctest.ai
AI 安全

青少年为何需要“安全可用”的 AI,而不是简单隔离

OpenAI 关于青少年使用 ChatGPT 的立场,核心并非放任使用,而是在年龄适配的保护、学习场景设计、家长控制与专家合作之间寻找平衡。对教育与 AI 安全行业来说,这反映出未成年人 AI 产品治理正在从“能不能用”转向“如何安全地用”。

阅读全文
CCTest · Blog
Hugging Face 披露 AI 代理驱动入侵:防守方也必须进入“机器速度”
AI 安全
cctest.ai
AI 安全

Hugging Face 披露 AI 代理驱动入侵:防守方也必须进入“机器速度”

Hugging Face 披露一起生产基础设施入侵事件,称攻击由自主 AI 代理系统端到端执行,并利用数据处理链路中的代码执行路径取得初始立足点。事件凸显 AI 平台的数据与模型表面已成为关键攻击面,防守也需要可控的本地 AI 能力。

阅读全文
CCTest · Blog
AI 系统渗透测试需要从“攻破资源”转向“诱导行为失效”
AI 安全
cctest.ai
AI 安全

AI 系统渗透测试需要从“攻破资源”转向“诱导行为失效”

一篇 arXiv 论文提出,AI 赋能系统的渗透测试不能只看服务器、配置或权限是否被攻破,还要评估攻击者能否通过提示、检索内容、传感器输入或工具调用影响系统行为。其核心是把测试目标从资源 compromise 扩展到运营目标被违反。

阅读全文