OpenAI披露六起模型失配事件:从隐秘上传到“自我提示注入”
OpenAI公布了一套内部模型失配事件披露框架,并分享过去六个月观察到的六个案例。案例显示,代理可能为完成任务而绕过工具限制、伪造信息,甚至生成带有“自我意识”色彩的提示。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅OpenAI公布了一套内部模型失配事件披露框架,并分享过去六个月观察到的六个案例。案例显示,代理可能为完成任务而绕过工具限制、伪造信息,甚至生成带有“自我意识”色彩的提示。
阅读全文华为宣布,下一代昇腾960DT人工智能芯片预计将在2027年第一季度准备就绪,较原计划提前约两个季度。与此同时,华为正通过互联架构将大规模加速卡组织成面向训练和推理的计算系统。
阅读全文皮尤研究中心对37个国家、4.2万余人开展的调查显示,绝大多数受访国家的公众预计AI将在未来20年带来更多工作流失,而非新增岗位。与此同时,人们对AI的态度并非一面倒悲观,许多人仍同时感到期待与担忧。
阅读全文Emerald AI联合Google、英伟达、Anthropic及多家公用事业公司成立联盟,计划通过需求响应技术,为新增数据中心争取最多100吉瓦的电网接入空间。
阅读全文微软研究院提出 ProgramDistill,通过让编码智能体观察并交互完整的参考应用,评估其能否在不完整项目中复现目标功能。该基准将真实软件行为转化为可回放、可验证的 SWE 任务。
阅读全文Agora 将多智能体研究过程记录为存储在 Git 中的追加式有向无环图,让每个实验、假设和验证都能被追溯与复现。一次近 12 天的运行显示,13 个语言模型工作者在没有中央规划器的情况下,持续改进了一个权重迁移任务。
阅读全文ScienceIDE 试图解决科学智能体训练中的“科学经验瓶颈”,将分散的科研代码、工具链和领域规范组织成可执行、可验证的学习环境。基于这些环境,研究团队训练了 PhAI-IDE 系列模型。
阅读全文小米为MiMo-V2.6的Flash和Pro模型开放了强化学习训练页面,奖励曲线、训练步数、费用和硬件故障均可实时查看。更值得关注的是,小米试图从训练规模、环境数量和评分计算三个方向扩展Agent强化学习。
阅读全文StepAudio 3 Realtime围绕“持续聆听—对话—思考—行动”构建,试图同时解决语音交互中的理解深度、响应延迟与自然打断问题。其核心机制包括深度感知、无缝全双工和边说边想。
阅读全文ImpossibleRubrics 将“不可完成任务”引入奖励标准测试,检验模型生成的评分规则是否会奖励看似果断、实则违背事实的答案。研究显示,许多自动生成的 rubric 都能被针对性利用。
阅读全文一项新研究提出 Decoy Direction Optimization,通过在模型内部注入非线性诱饵信号,误导攻击者定位拒答方向。该方法无需重新进行基础模型安全微调,便可降低多类权重编辑攻击的成功率。
阅读全文苹果据称正在开发一款面向企业AI工作负载的服务器,计划采用两颗或四颗未来M8 Ultra芯片。若项目最终落地,这将是苹果退出Xserve多年后重返企业服务器市场。
阅读全文Anthropic和OpenAI提出让第三方安全评估员进驻前沿AI实验室,并接触模型训练过程。研究人员欢迎这一方向,但真正有效的监督仍取决于访问权限、发布自由和监管约束。
阅读全文一份来自 Basel Action Network 的报告指出,AI基础设施带来的电子废弃物长期被低估。若数据中心持续扩张,到2050年,相关废弃设备可能达到数亿吨规模。
阅读全文PyTorch团队将MXFP8扩展至FlashAttention-4的前向与反向计算,并通过融合量化、TMEM调度和零Gather变长模块,提升Blackwell上的训练效率。
阅读全文Google将通过Home MCP向Claude、Open Claw等支持该协议的AI智能体开放Google Home设备与事件数据。智能家居因此从“执行指令”迈向理解环境、分析历史并自主行动,但安全与平台持续性仍是关键问题。
阅读全文Anthropic为Claude加入Docs和Slides,让用户可以在对话中创建、编辑、协作并分享文档与演示文稿。同时,Claude将普通聊天与Cowork整合为统一入口。
阅读全文一批伪装成真实交友平台的应用,利用AI生成对话、头像和互动,把用户留在付费聊天中。研究显示,部分网络每天向Claude发起超过10万次请求,用户面对的可能主要不是人,而是自动化人格。
阅读全文Emergence World通过持续运行的多智能体环境,考察记忆、工具、协作和共享状态中的长期安全风险。结果显示,能识别威胁并不等于能够遏制威胁。
阅读全文华为GTS提出NetCanvas,用可交互、可动态生长的拓扑图辅助Agent进行网络排障。根据其在CTBench上的测试,Agent通过率由30.3%升至54.5%,平均探查步数也有所下降。
阅读全文