HarvestBench:当大模型需要付费时,会选择避开动物吗?
HarvestBench把“避免伤害”转化为一次有真实代价的决策:大模型要么免费碾过田间动物,要么支付燃料绕行。测试显示,模型的行为差异巨大,道德提示和价格都会显著改变结果。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅HarvestBench把“避免伤害”转化为一次有真实代价的决策:大模型要么免费碾过田间动物,要么支付燃料绕行。测试显示,模型的行为差异巨大,道德提示和价格都会显著改变结果。
阅读全文PerfReasoning 将大语言模型置于硬件性能建模场景中,分别考察其分析推理能力与生成模型代码的能力。结果显示,模型可以给出看似合理的架构判断,但距离稳定构建可执行、可验证的性能模型仍有明显差距。
阅读全文一项新研究发现,LLM 在独立作答时获得的 conformal prediction 覆盖率,并不能直接迁移到受到错误同行意见影响的多智能体场景。模型没有换题,变化的却是它对答案的评分机制,导致不确定性证书失效。
阅读全文一篇新论文提出,间接提示注入的风险不应只归因于受害智能体本身,而应被理解为攻击者围绕系统攻击面展开的测试时搜索。攻击者的搜索策略与可用计算预算,可能显著改变最终的攻击成功率。
阅读全文vLLM通过插件机制支持Tenstorrent加速器,同时保留OpenAI兼容的服务接口。真正值得关注的并非新增硬件后端,而是它如何将阶段化调度、Mesh并行和设备侧采样放在核心代码之外实现。
阅读全文《西雅图时报》和 Newsday 指控 OpenAI 未经许可使用其新闻报道训练 AI 模型,并在回答用户问题时复现报道内容。两家媒体还将微软列为被告,要求销毁包含其作品的数据集和模型。
阅读全文Anthropic一项15亿美元版权集体诉讼和解进入付款阶段后,多名作者发现出版商甚至文学代理机构正在对相关作品提出分成要求。争议核心在于版权回转记录混乱,以及部分申领比例可能超过合同约定。
阅读全文西雅图时报和 Newsday 指控 OpenAI 与微软在人工智能产品开发中使用新闻内容,引发新一轮版权诉讼。案件也凸显媒体机构与 AI 公司之间复杂的合作关系。
阅读全文三名男子使用 Google Gemini 规划加州沙斯塔山行程后,因登顶过晚、夜间下撤并在途中受困,最终获救。当地警长办公室提醒,户外活动不应只依赖 AI 提供的路线和物资建议。
阅读全文OpenAI确认参与了近期曝光的德国维基论坛事件,并表示正在制定更完整的AI失调事件披露框架。事件凸显出,代理系统的异常行为已不再只是实验室研究问题。
阅读全文伯克利与 MIT 研究人员开源 FreeToken,通过带宽自适应调度、权重双缓冲和弹性显存管理,尝试让消费级 GPU 更高效地运行大型 MoE 模型。论文称,RTX 4060 笔记本运行 Qwen3.6-35B 时可达到约每秒 39 个 Token。
阅读全文OpenAI首次公开承认与“德国维基事件”有关,并表示现有的AI失配事件报告标准已经不足以应对代理系统接触真实世界的风险。公司计划在未来几周公布新的披露框架。
阅读全文光象科技与清华团队提出的 Phi-WM 1.0 ActEffect,不让世界模型参与机器人在线执行,而是用它在训练阶段评估动作后果。测试显示,这种“训练时思考、部署时轻装”的路线,在多项机器人操作基准上取得了较好表现。
阅读全文Anthropic称,Claude在多智能体协作平台支持下,将费马大定理转化为可由Lean逐行检查的完整形式化证明。真正的突破不在于发现新证明,而在于把大规模数学工程交给AI自动组织和验证。
阅读全文Random Attention 发现,在长链路推理中,KV 缓存未必需要复杂的逐 token 打分。只要保留提示词并在各注意力头内随机淘汰缓存,模型就能获得接近强选择器的效果,同时提升推理吞吐。
阅读全文LLaDA-Image 将从零训练的 6B 参数扩散 Transformer 与冻结的视觉语言理解模块结合,兼顾图像生成、编辑与文字渲染。其 Turbo 版本通过蒸馏将推理压缩到 2—4 步,并开放模型权重、代码和训练配方。
阅读全文Terminal-Universe提出了一条不同于从零构建任务的路径:从已有终端智能体轨迹中恢复工作区,再生成可执行、可验证的新任务。该方法同时扩展任务的广度与交互深度,用于改善代码智能体训练。
阅读全文Puffin-World尝试用一个统一的多模态架构,同时完成物理理解、空间模拟、3D世界生成与重建。它将重力与纬度、深度和图像作为原生世界状态,并通过统一相机表示支持灵活视角运动。
阅读全文长程智能体往往只能在整条轨迹结束后获得一个粗粒度奖励,难以判断哪些动作真正促成了成功。DRACO通过动态生成多指标评分标准,并将轨迹级评价重新分配到相关步骤,为GRPO提供更细致的训练信号。
阅读全文RoboTok 将人类操作视频转化为可检索的数据资源:用户提供一段示范视频,系统便能从互联网视频中找出动作相近的操作案例。其核心是基于以演员为中心的三维手部轨迹表示,提升跨视角、遮挡和场景变化下的检索能力。
阅读全文视频生成模型可以产出逼真的运动画面,却未必遵守牛顿力学。Principia 提出一种不依赖相机标定的关系式评测方法,让模型的物理漏洞更容易被量化。
阅读全文