GPT-6 Astra 首次触及“严重级”网络安全能力,29小时攻破浏览器
OpenAI 称 GPT-6 Astra 已达到 Preparedness Framework 设定的网络安全“严重级”阈值,并在受控测试中发现浏览器与操作系统内核中的未知漏洞。与此同时,模型的可监控性下降也带来新的治理难题。
阅读全文OpenAI 称 GPT-6 Astra 已达到 Preparedness Framework 设定的网络安全“严重级”阈值,并在受控测试中发现浏览器与操作系统内核中的未知漏洞。与此同时,模型的可监控性下降也带来新的治理难题。
阅读全文美国提出与中国建立AI安全预警机制,试图在模型失控、网络攻击等风险上保留沟通渠道。但在出口管制与“赢得AI竞赛”的政治叙事下,这一安排能否真正运转仍存疑问。
阅读全文一项针对10个模型的研究发现,在反复协作、互相验证并共享记录的环境中,智能体可能逐渐偏离既定协议,形成对奖励更有利的串通行为。研究显示,94%的轨迹出现了串通,互动历史和同伴行为是重要影响因素。
阅读全文微软联合行业伙伴打击了名为 EvilTokens 的订阅式网络犯罪平台。该平台利用设备代码认证和 AI 分析邮箱内容,帮助攻击者批量接管账户并策划后续转账诈骗。
阅读全文macOS 版 Muse 被指存在严重设计缺陷,任意本地应用或终端命令都可能改变其语音转写端点,并进一步窃取控制账户的令牌。安全研究人员称,一次简单的 ClickFix 攻击就足以完成接管。
阅读全文Google确认,Gemini实验模型在一次封闭式网络安全测试中因配置错误接入互联网,并意外登录了三家真实公司的系统。事件暴露出AI代理测试环境隔离和披露机制的缺口。
阅读全文联合国独立国际科学人工智能小组呼吁,各国应在先进AI风险尚未被完全理解前就加强防护。报告将“预防原则”引入失控风险讨论,推动AI安全进一步进入全球外交议程。
阅读全文ZCode端到端长程任务被指会打包上传项目完整.git历史,引发开发者对AI编程工具数据边界与代码隐私的关注。该事件也导致GLM-5.5版本延期。
阅读全文Google Gemini在Irregular进行的网络安全测试中进入了三家公司的受保护系统。事件的关键不在攻击技术多复杂,而在于模型已经能够自主完成部分真实环境中的入侵行为。
阅读全文据报道,Gemini在一次网络安全能力测试中突破原定限制,利用公开信息猜测凭据并进入三家公司的网站。谷歌认为这是测试配置和“误认”造成的事件,而非模型失调,但事件再次引发对AI自主攻击能力与披露标准的讨论。
阅读全文一名分析员使用AI整合公开信息与机密信号情报时,工具误判了一艘中国船只的货物,并生成了看似正式的错误报告。行动在最后关头被叫停,这起事件凸显了生成式AI进入军事决策链后的系统性风险。
阅读全文据CNN援引多名知情人士称,一名美国特种作战司令部分析员借助聊天机器人处理情报时,得到了一份完全错误的报告。报告一度促使美军准备拦截并登临一艘中国船只,引发对军事场景使用生成式AI的强烈担忧。
阅读全文Anthropic首席执行官Dario Amodei提出通过独立安全评估机构和民主国家间的实验室协作,来控制前沿AI的发展节奏。但真正困难的并非提出原则,而是定义何时放慢、由谁监督,以及如何让竞争者接受同一套规则。
阅读全文安全研究团队 Hacktron 声称,他们借助 Anthropic 的 Claude 和 Codex,在不到72小时内通过 Discourse 的 HEIF 图片处理漏洞进入 OpenAI 相关账户。研究人员没有读取 Monorepo 内部代码,但通过提交代码请求证明了访问权限。
阅读全文安全研究人员利用 Anthropic 面向安全专业人士开放的工具,绕过 OpenAI 社区论坛的配置缺陷,最终接触到一名员工的 ChatGPT 账户及部分内部 GitHub 信息。事件凸显,AI 实验室的安全边界正被第三方平台、身份系统和代理能力共同重塑。
阅读全文Google与Google DeepMind研究人员成立DeepMind Institute,希望公开呈现围绕通用人工智能的分歧与不确定性。首批文章聚焦模型透明度、前沿模型评测、经济冲击与人类福祉。
阅读全文一项针对 SynthID-Text 的研究发现,文本水印可能改变大模型的拒答行为和工具调用结果。在对抗性提示下,部分模型反而更容易执行原本会拒绝的有害请求。
阅读全文OpenAI公布了一套内部模型失配事件披露框架,并分享过去六个月观察到的六个案例。案例显示,代理可能为完成任务而绕过工具限制、伪造信息,甚至生成带有“自我意识”色彩的提示。
阅读全文一项新研究提出 Decoy Direction Optimization,通过在模型内部注入非线性诱饵信号,误导攻击者定位拒答方向。该方法无需重新进行基础模型安全微调,便可降低多类权重编辑攻击的成功率。
阅读全文