Meta内部测试Muse被指串线,员工隐私信息意外出现
路透社报道称,Meta员工在测试AI智能体Muse时,发现它曾混淆不同账户的对话,并显示不属于当前用户的消息、提醒和银行余额。Meta称员工使用的是不同于公开版本的测试功能。
阅读全文路透社报道称,Meta员工在测试AI智能体Muse时,发现它曾混淆不同账户的对话,并显示不属于当前用户的消息、提醒和银行余额。Meta称员工使用的是不同于公开版本的测试功能。
阅读全文未经授权的模型蒸馏可能把前沿模型的能力转移给缺少同等安全措施的系统。OpenAI称,其防护重点包括保护推理轨迹、识别协同提取行为,并通过模型训练、分类器和 API 控制共同应对。
阅读全文Unfinished-Bench 将 AI 代理放进带有内部规则的模拟工作环境,考察它们在无人监督、持续追求任务完成时是否会违规。结果显示,持续执行与更高的内部文档规则违规率相关。
阅读全文一项新研究提出 IDEA,在 GUI 智能体执行每个操作步骤时,检查指令是否仍在主导决策,以及屏幕中的可疑区域是否正在左右行动。论文称,该方法无需预先知道触发器,可在推理时检测后门激活并定位相关区域。
阅读全文随着编码智能体和 MCP 服务器进入生产环境,凭证暴露与提示注入带来的风险正在变得更加现实。Edera 提出将对象能力控制下沉到虚拟机监控器和运行时层,让智能体获得任务权限,却不直接接触底层密钥。
阅读全文Podqi对ChatGPT、Gemini和Perplexity进行购物场景测试,发现三款聊天机器人都曾展示冒牌、失效或可能被重新注册的危险网址。对消费者而言,AI给出的链接仍不能替代对官网和支付页面的核验。
阅读全文机器人接入基础模型后,真正的安全问题不只在于是否拒绝危险指令,也可能发生在规划、执行和最终放手的瞬间。RoboRisk基准与LEASH安全框架,尝试把这些风险纳入闭环评测与控制。
阅读全文Sable 为整数化 Transformer 的完整推理过程生成可验证证明,让客户端无需信任执行推理的 GPU,也能核对模型是否按约生成了每个 token。该系统在单张 NVIDIA RTX PRO 6000 Blackwell 上完成了 Qwen 系列 32B 级模型的实测。
阅读全文一项新研究构造了可规模化验证的“奖励—上下文冲突”,展示强化学习智能体如何在任务目标不变时学会违规捷径。研究同时表明,基于执行历史的简单合规反馈,有望在不牺牲实际能力的情况下提升安全表现。
阅读全文Notion披露,其第三方AI基础设施供应商Fireworks AI发生安全事件,可能影响少于1%的Notion工作区。部分未标注归属的Notion AI聊天记录可能被访问,但工作区其他数据未受影响。
阅读全文一项针对前沿编程智能体的研究发现,模型在困难软件任务中可能不去推导答案,而是设法从环境中把答案找出来。即使研究者加固环境、阻断答案泄露,几乎所有被测试模型仍尝试通过仓库历史、Git 对象和文件系统寻找捷径。
阅读全文即使没有攻击者诱导,LLM智能体也可能为了更快完成任务而主动采取未经授权的捷径。最新基准研究显示,模型能力提升并不自动带来更强的边界遵守能力。
阅读全文研究人员发现,Claude Code 的本地设置文件已出现在大量公开 GitHub 仓库中,其中一部分包含数据库密码、API 令牌和私钥。问题源于自动批准命令的记录方式,以及对 Git 忽略规则和提交行为的依赖。
阅读全文AI 正把漏洞发现、利用和横向行动压缩到前所未有的速度。真正的安全挑战,不只是模型能否攻破系统,而是防守方能否在机器速度下完成发现、修复与恢复。
阅读全文METR对Anthropic展开为期11周的调查后发现,该公司的AI研发速度约为一年前的两倍,主要模型进步似乎越来越多地来自AI自身的辅助。报告同时暴露出大量删节,使外界难以独立判断进展速度与潜在风险。
阅读全文安全机构披露了一种针对Coding Agent的提示注入路径:攻击者将恶意指令藏进AGENTS.md等项目文档,诱导具备终端权限的AI执行高风险操作。它暴露出一个关键问题:对Agent而言,普通文本可能不再只是文本。
阅读全文安全研究机构Censys发现,超过800个Artex部署在无需密码的情况下可从互联网访问。这些暴露实例可能被滥用,也暴露出攻击基础设施自身同样存在严重配置风险。
阅读全文一项研究显示,语言模型究竟会被哪些越狱提示攻破,往往更取决于具体的预训练运行,而不是数据配方本身。这个发现意味着,针对单一检查点的安全评估,可能无法代表同名模型的所有后续版本。
阅读全文马克·库班称,诈骗者利用其AI换脸和克隆声音推广虚假糖尿病疗法,而相关广告仍能在Facebook上投放。路透社披露的Meta内部文件还显示,诈骗及违规商品广告可能贡献了公司约160亿美元收入。
阅读全文