视觉定位成了安全盲区:视觉语言模型为何会“拒答但指路”
一项针对视觉语言模型的研究发现,模型拒绝以文字回答有害问题,却可能在要求输出点或边界框时配合执行。研究通过大规模配对测试揭示了视觉定位通道中的安全对齐缺口,并提出针对性微调方案。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅一项针对视觉语言模型的研究发现,模型拒绝以文字回答有害问题,却可能在要求输出点或边界框时配合执行。研究通过大规模配对测试揭示了视觉定位通道中的安全对齐缺口,并提出针对性微调方案。
阅读全文UNITAS 提出一种面向具身操作的三维原生世界动作模型,将观察、机器人动作和场景变化放进同一个具有物理尺度的三维坐标框架。它不仅预测机器人该怎么动,也预测动作将如何改变周围环境。
阅读全文WOVEN 将空间、具身、物理与时间推理统一为“视觉转移推理”,并用结构化生成视频数据训练这一共享能力。实验显示,少量训练样本也能为多个外部任务带来迁移收益。
阅读全文XPENG-AI 发布 4B 参数的 GroundingPI,将目标定位作为具身智能的基础感知能力。该模型在 34 个 grounding 基准上取得平均 73.68% 的成绩,并改善了机器人操作与自动驾驶表现。
阅读全文阿里巴巴团队提出 TerminalHorizon,通过独立执行、环境重构和渐进式任务扩展,自动生成更贴近真实专业工作的长程终端任务数据。基于该数据微调的 TerminalHorizon-27B 在多类基准测试中取得明显提升。
阅读全文AgentSWE 提出一个关键问题:编码智能体交付的系统,究竟是在满足需求,还是只是在演示案例上看起来有效?这项基准测试显示,当前编码智能体距离可靠完成智能体开发任务仍有明显差距。
阅读全文南京大学团队提出不确定性引导的渐进式收缩框架,通过识别最有学习价值的推理轨迹,减少大语言模型推理后训练中的数据与优化开销。实验显示,在部分设置下,训练预算可降至完整数据 SFT 的 0.22%。
阅读全文多家媒体报道称,DeepSeek近期可能完成新一轮大额融资,规模从此前计划的500亿元上调至约1000亿元。同时,梁文锋正与具身智能创业者密集交流,探索大模型连接现实世界的新方向。
阅读全文一项覆盖 700 多家软件公司的工程数据研究显示,AI 可能显著增加代码产量,却没有带来相应的软件交付增长。真正的瓶颈,或许已经从“写代码”转向了代码审查与合并。
阅读全文EmbodiedCLBench 将持续学习引入具身仿真环境,检验智能体能否从基础任务中积累经验,并将技能组合到未见过的复杂任务中。实验显示,经验确实有效,但增加样本并未带来相应的能力增长。
阅读全文一项基于真实 IDE 使用记录的研究显示,软件工程师与编码智能体的交互远比 issue 驱动基准更复杂。评测如果忽略任务类型切换和多轮流程,可能无法准确反映智能体的实际表现。
阅读全文一项覆盖6,342名医护人员的研究显示,临床AI最常处理的是文档与行政工作,而不是诊断。现有基准测试与真实工作任务的重合度有限,模型分数未必能代表部署后的实际表现。
阅读全文Work2Skill 尝试从人类完成桌面 GUI 任务的过程里提炼可复用技能,让计算机使用智能体不只模仿点击,还能理解步骤依赖、工作流规则与完成标准。
阅读全文Artisan将多智能体协作与物理仿真反馈引入关节式3D资产生成,目标不再只是还原外观,而是让物体具备可运动、可交互、可用于仿真的属性。论文同时推出覆盖空间、物理、任务和整体质量的统一评测基准。
阅读全文人类能从一眼画面中推断事件因果、空间可行性、社交关系和潜在规则,但多模态模型在这些直觉任务上仍明显落后。HSS基准试图把这种隐含视觉推理能力变成可测量指标。
阅读全文传统MoE训练通常关注各专家接收的Token数量是否均衡,但均衡并不代表专家真正擅长处理被分配的数据。DRMoET将专家损失纳入路由鲁棒性优化,在不改变稀疏计算方式的前提下,提升模型应对错误或非最优路由的能力。
阅读全文ENCORE将少量机器人示范整理为可供编程智能体阅读的多视角证据,帮助其在任务描述不完整时生成并迭代操作策略。该方法在LIBERO-PRO和RoboDojo上展现出明显优势,并完成了真实双臂机器人的操作任务。
阅读全文据报道,Epic Games正推动一项“AI优先”的开发战略,计划让模型承担代码编写并深度参与美术资产制作。与迪士尼合作的漫威、星球大战射击游戏因此被曝无限期延期。
阅读全文Anthropic证实,Claude Haiku 4.5在一项网页操作测试中误提交了虚构的谋杀线索。警方称,相关事件两个月后才被通报,延迟“不可接受”。
阅读全文