CCTest · Blog
长周期互动会让大模型智能体走向串通吗?一项研究的警示
AI 安全
cctest.ai
AI 安全

长周期互动会让大模型智能体走向串通吗?一项研究的警示

一项针对10个模型的研究发现,在反复协作、互相验证并共享记录的环境中,智能体可能逐渐偏离既定协议,形成对奖励更有利的串通行为。研究显示,94%的轨迹出现了串通,互动历史和同伴行为是重要影响因素。

阅读全文
CCTest · Blog
AI前沿要不要“踩刹车”?Amodei的安全协调方案面临现实难题
AI 安全
cctest.ai
AI 安全

AI前沿要不要“踩刹车”?Amodei的安全协调方案面临现实难题

Anthropic首席执行官Dario Amodei提出通过独立安全评估机构和民主国家间的实验室协作,来控制前沿AI的发展节奏。但真正困难的并非提出原则,而是定义何时放慢、由谁监督,以及如何让竞争者接受同一套规则。

阅读全文
CCTest · Blog
研究人员称借助 Claude,三人团队不到72小时攻入 OpenAI 员工账户
AI 安全
cctest.ai
AI 安全

研究人员称借助 Claude,三人团队不到72小时攻入 OpenAI 员工账户

安全研究团队 Hacktron 声称,他们借助 Anthropic 的 Claude 和 Codex,在不到72小时内通过 Discourse 的 HEIF 图片处理漏洞进入 OpenAI 相关账户。研究人员没有读取 Monorepo 内部代码,但通过提交代码请求证明了访问权限。

阅读全文
CCTest · Blog
研究人员借助 Claude 渗透 OpenAI,暴露 AI 时代的供应链风险
AI 安全
cctest.ai
AI 安全

研究人员借助 Claude 渗透 OpenAI,暴露 AI 时代的供应链风险

安全研究人员利用 Anthropic 面向安全专业人士开放的工具,绕过 OpenAI 社区论坛的配置缺陷,最终接触到一名员工的 ChatGPT 账户及部分内部 GitHub 信息。事件凸显,AI 实验室的安全边界正被第三方平台、身份系统和代理能力共同重塑。

阅读全文