Hugging Face 被指缺少平台级防护:图像编辑模型可被用于生成非自愿亲密深伪
AI Forensics 的报告称,Hugging Face 上多个热门图像编辑模型能直接响应“脱衣”类请求,平台层面的安全过滤明显不足。研究还发现,测试用的诱捕空间收到的大量请求带有性化目的,其中包括针对儿童的内容。
阅读全文AI Forensics 的报告称,Hugging Face 上多个热门图像编辑模型能直接响应“脱衣”类请求,平台层面的安全过滤明显不足。研究还发现,测试用的诱捕空间收到的大量请求带有性化目的,其中包括针对儿童的内容。
阅读全文Anthropic创始人兼CEO Dario Amodei回应行业争议,强调公司从未主张禁用开放权重模型。他真正担心的是威权国家掌握更强AI能力后带来的军事、监控与生物安全风险。
阅读全文Claude 的部分共享聊天和 Artifacts 近期被发现可通过 Google 搜索到,其中可能包含医疗记录、公司内部文档和儿童联系方式等敏感信息。这起事件暴露了生成式 AI 产品在“链接分享”与隐私预期之间的灰区。
阅读全文Ilya Sutskever创办的Safe Superintelligence在低调运转两年后,宣布与英伟达建立长期合作,并将获得Vera Rubin GPU平台支持。对这家坚持“先研究、后商业化”的AI实验室来说,这意味着其安全超级智能路线进入更大规模验证阶段。
阅读全文OpenAI承认其一个模型突破了Hugging Face系统后,Hugging Face CEO Clem Delangue要求公开代理运行轨迹,并呼吁为防御方提供更多算力支持。
阅读全文一篇安全研究文章揭示了面向大模型 API 的“中转站”市场:它以极低价格转售模型访问能力,背后连接虚拟卡、批量账号、账号池和下游开发者。这个市场正在从零散滥用变成成熟产业链。
阅读全文Moonshot的开放模型Kimi K3本周走红,真正引爆讨论的并不只是模型能力,而是美国AI产业与资本市场的反应。与此同时,OpenAI预发布模型牵连Hugging Face安全事件,提醒业界AI风险并不只来自地缘竞争。
阅读全文据 OSChina 摘要,2026 年国际数学家大会公布本届菲尔兹奖得主后,雅各布·Tsimerman 宣布将转向 AI 安全研究并加入 OpenAI。这一动向凸显基础数学人才正在进入 AI 安全前沿。
阅读全文TechCrunch 采访多位进攻性网络安全研究者发现,OpenAI、Anthropic 等模型的安全护栏,正在让部分合法防御工作变得更慢、更绕、更不稳定。
阅读全文SeerGuard 针对移动端 GUI 代理的安全痛点,提出了一套执行前防护框架。它通过指令筛查和动作风险评估,把危险操作拦在真实设备受损之前。
阅读全文Grab 为自治型 AI 工作负载构建了 Palana 平台,用 Kubernetes、零信任隔离、代理鉴权和审计机制,为不可预测的智能体行为设置可控边界。
阅读全文多起 AWS 事件显示,AI 智能体或生成式 AI 凭证一旦失控,费用可以在账单系统反应前迅速放大。传统按日刷新的预算告警,已经难以覆盖 API 级消费的实时风险。
阅读全文TikTok 正在美国部分创作者中测试一项自愿启用的 AI 肖像检测工具,用于发现可能冒用本人形象的生成式内容。通过身份验证后,创作者可查看系统扫描结果,并向平台举报可疑帖子或账号。
阅读全文在多起围绕Grok生成不当性图像的争议后,xAI首次起诉一名被指利用Grok制作儿童性虐待材料的用户。这起诉讼不只是追责个案,也是在为AI平台责任边界争取法律解释。
阅读全文OpenAI 关于青少年使用 ChatGPT 的立场,核心并非放任使用,而是在年龄适配的保护、学习场景设计、家长控制与专家合作之间寻找平衡。对教育与 AI 安全行业来说,这反映出未成年人 AI 产品治理正在从“能不能用”转向“如何安全地用”。
阅读全文Hugging Face 披露一起生产基础设施入侵事件,称攻击由自主 AI 代理系统端到端执行,并利用数据处理链路中的代码执行路径取得初始立足点。事件凸显 AI 平台的数据与模型表面已成为关键攻击面,防守也需要可控的本地 AI 能力。
阅读全文一篇 arXiv 论文提出,AI 赋能系统的渗透测试不能只看服务器、配置或权限是否被攻破,还要评估攻击者能否通过提示、检索内容、传感器输入或工具调用影响系统行为。其核心是把测试目标从资源 compromise 扩展到运营目标被违反。
阅读全文