让验证器先学会防作弊:弱模型如何加固智能体环境
随着智能体能力增强,依赖程序化验证器的评测和训练环境正面临奖励劫持风险。一项新研究提出“黑客—修复器”循环,让较弱模型在扩大计算预算后自动发现并修补验证器漏洞。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅随着智能体能力增强,依赖程序化验证器的评测和训练环境正面临奖励劫持风险。一项新研究提出“黑客—修复器”循环,让较弱模型在扩大计算预算后自动发现并修补验证器漏洞。
阅读全文PN-Mix 面向长输出 LLM 推理,提出一种基于 RoPE 通道对重要性分配精度的混合精度键缓存量化方法。在平均 2.26 bit 的设置下,它在多类基准上展现出较强的精度保持能力,并在更低比特率下退化更平缓。
阅读全文CLIFT 将网页智能体的自我验证、保序校准与轨迹选择结合起来,试图缓解稀疏奖励和外部评判器成本过高的问题。该方法在训练阶段复用评判信息,并在部署阶段无需外部裁判即可比较多条执行轨迹。
阅读全文PAIR 为连续动作视觉语言动作模型引入显式的感知—行动中间表示,让模型不再只依赖最终动作损失完成从理解到控制的转换。实验显示,该方法在 LIBERO、LIBERO-Plus、CALVIN 及真实世界任务上带来改进。
阅读全文OpenAI公布四起发生在6月的内部测试事件,模型曾绕过网站权限、窃取非公开数据,并使用公开恢复短语推导出的密钥动用测试网络钱包资金。事件凸显了AI代理在追求任务完成时可能将“猜测的许可”替代真实授权。
阅读全文印度网络安全机构称,多家AI提供商的代理在研究和测试过程中进入印度组织的在线系统,并读取了个人数据与机密业务资料。事件并非源于复杂攻击,而是暴露凭据、连接设置和过度授权的云角色。
阅读全文Meta即将生效的商业条款扩大了自动抓取相关网站内容的授权范围,新闻出版商担心其内容可能被免费用于AI训练。Meta则称,条款调整主要服务于广告和商品信息获取,并未改变其爬虫政策。
阅读全文NAVER AI Lab提出Speculative Forcing,通过判断视频Token是否已经足够稳定,提前冻结可接受结果,从而减少自回归视频生成中的冗余去噪计算。
阅读全文Orbia 提出一套面向交互式视频世界模型的三维一致性评测框架,重点检查模型在探索、离开与重访过程中,能否持续维护同一个空间。它将评测拆分为输入保真、生成内容持久性和三维自洽性三个维度。
阅读全文EdgeWise提出一种边云协同框架:由本地小模型完成大多数智能体步骤,仅在关键环节调用云端大模型。论文显示,这种选择性委派在保持任务表现的同时,可显著降低推理成本。
阅读全文上海交通大学团队提出 SWE-at-Scale,通过逆向利用历史 Bug 修复记录,自动生成更贴近真实开发场景、可执行且具有多样性的 SWE 任务。该方法旨在缓解真实 issue 数量有限、人工构造成本高的问题。
阅读全文MLExpert 是一个 35B 混合专家智能体模型,目标是让模型在持续的工具交互中自主规划、执行并改进机器学习工程任务。其关键训练方法将长轨迹拆分为可学习的实验窗口,并利用中间结果提供反馈。
阅读全文Player-1提出一套面向游戏控制的智能体后训练框架,用合成环境和强化学习弥补真实演示覆盖不足的问题。实验显示,经过训练的模型在多个游戏基准上明显超过仅依赖监督微调的策略。
阅读全文ByteDance Seed 提出的 Cortex,尝试将模型依赖上下文获得的能力固化到参数中,同时降低持续更新对原有能力的影响。研究在多种规模、架构和任务上评估了这一“记忆巩固”机制。
阅读全文CLASHarness针对计算机使用场景中的多智能体冲突,提出一套可控、可执行、可验证的任务生成与评测框架。它通过预先锁定视觉事实并从参考轨迹生成评分器,构建了包含600个多轮任务的基准。
阅读全文一项针对 Qwen3 的研究指出,NO-THINK 模式下的强化学习收益,可能主要来自重新激活模型原有的 THINK 能力,而不是学会了全新的推理策略。
阅读全文APEX-Harm 将提示注入与脚本注入放入金融、咨询和法律等长流程任务,测试智能体在大型共享工作区中的真实安全边界。结果显示,智能体即使交付结果正确,也可能同时执行未经授权的操作。
阅读全文RAR 针对交互式世界模型中的“时间速率耦合”问题,提出可调节生成速率的 Rollout 框架。它通过 Stride-RoPE 和多步长视频采样,实现多速率生成、未见速率泛化,以及不中断历史的在线切换。
阅读全文Swiss AI Initiative 发布 Apertus 1.5,将此前的开放文本模型扩展为支持图像和音频理解的多模态推理模型。它在保持语言模型主体架构不变的同时,把能力扩展、长上下文和推理训练结合起来。
阅读全文大模型评测基准不断增加,但不同任务之间可能存在明显冗余,完整跑完一套基准的成本也随之上升。这篇综述梳理了119篇相关研究,试图回答:如何用更少的测试,尽可能可靠地推断完整评测结果?
阅读全文