OPD²:用“差分信号”改进大模型在线策略蒸馏
NAVER AI Lab 提出的 On-Policy Delta Distillation(OPD²)不再直接模仿教师模型完整输出,而是学习推理调优前后产生的能力增量。论文称,这一设计在数学、科学与代码推理任务上稳定优于传统在线策略蒸馏。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅NAVER AI Lab 提出的 On-Policy Delta Distillation(OPD²)不再直接模仿教师模型完整输出,而是学习推理调优前后产生的能力增量。论文称,这一设计在数学、科学与代码推理任务上稳定优于传统在线策略蒸馏。
阅读全文一项基于 TokaMark 数据集的新评测把问题从“干净数据上谁更准”转向“传感器失效时谁还能工作”。结果显示,靠时间序列建模的 LSTM、Transformer 等模型在临近等离子体破裂的信号损坏下尤其脆弱。
阅读全文NVIDIA 在 Hugging Face 上发布 Cosmos 3 Edge,一个面向机器人与视觉 AI 的 4B 参数开放世界模型。它试图在边缘设备上同时承担场景理解、未来预测与动作生成任务。
阅读全文Grab 为自治型 AI 工作负载构建了 Palana 平台,用 Kubernetes、零信任隔离、代理鉴权和审计机制,为不可预测的智能体行为设置可控边界。
阅读全文xHC 试图把 Hyper-Connections 从常见的 N=4 推向更大规模,让残差流宽度成为大模型预训练中的可用扩展轴。论文显示,它在 18B 和 28B MoE 模型上相较 mHC 带来稳定收益,同时控制了额外训练成本。
阅读全文Sakana AI 等研究者提出 Recursive Harness Self-Improvement(RHI),把智能体运行框架视为可迭代优化的提示级规范。论文显示,少量迭代就能改善低推理强度智能体的表现,并降低推理成本。
阅读全文Hugging Face Daily Papers 收录的论文介绍了 Loopie,一个以循环计算提升 Transformer 表达能力的 MoE 模型系列。作者称,在相同预训练计算预算下,Loopie 超过了常规 Transformer 基线,并在后训练后展现出强推理能力。
阅读全文Cura 1T 不是把通用大模型简单“加一点医疗语料”,而是围绕医疗场景的多项能力做分阶段自我进化。它试图同时覆盖问诊、临床推理、图文诊断和 EHR 工具使用。
阅读全文DSWorld 将世界模型思想引入自治数据科学智能体,通过预测操作后的状态变化,减少昂贵的试错执行。论文称,该框架可将强化学习训练加速约 14 倍,并将搜索式推理加速约 3 至 6 倍。
阅读全文NVIDIA 推出的 AV-Flamingo 面向长而复杂的真实世界音视频场景,不再只盯着短片段,而是强调跨模态、跨时间的联合推理。它通过大规模数据、分阶段训练和带时间戳的链式思考,在多项基准上表现出很强竞争力。
阅读全文Kimi 因用户请求量快速增长、现有算力集群接近承载上限,宣布暂停 C 端新用户订阅,并同步推进算力扩容。此次调整还涉及订阅权益拆分,Kimi 主权益与 Kimi Code 权益将分别管理。
阅读全文黄仁勋在东京两天内把日本的算力、机器人、汽车和芯片材料链条串到了一起。英伟达要争夺的不是单一数据中心订单,而是日本工厂、机器人和智能制造的下一代操作底座。
阅读全文苹果以商业秘密为由起诉 OpenAI,使后者备受关注的硬件布局和潜在 IPO 面临新的不确定性。即便案件尚未进入实质审理,诉讼本身也可能带来时间、品牌与估值层面的压力。
阅读全文这家非营利组织把目标放在一个更基础的问题上:如果AI是通用技术,为什么它主要只服务英语和少数主流市场?Current AI 试图用开源、地方化和社区共治,搭起一套不被单一公司垄断的公共AI底座。
阅读全文在WAIC 2026上,奇异摩尔首次集中展示了国产超节点互联全栈方案、国产GPU直通国产RDMA网卡的IBGDA Demo,以及面向下一代光互联的布局。更重要的是,这不是单点产品秀,而是在推动国产算力从“芯片可用”走向“系统可用”。
阅读全文安谋科技在 WAIC 2026 展示的不是单一加速器,而是一套面向边端 AI 的系统化方案:CPU 负责控制与轻量向量计算,NPU 承担复杂推理,VPU 面向机器视觉重构编码,AIOS 则尝试补上异构调度与 Agent 编排。
阅读全文云天励飞披露了面向未来两年多的AI推理芯片路线图,计划以三款DeepVerse芯片分别优化Prefill、Decode和Decode FFN负载。其核心思路不是单纯堆峰值算力,而是用异构集群降低大规模Token生成成本。
阅读全文黎曼动力发布的 Riemann-1.0 在 RoboCasa-365 上取得 62.6% 成功率,核心看点不是单次刷榜,而是把大规模人类第一视角视频用于机器人操作训练。它反映出具身智能正在从单纯机器人数据,转向“人类视频预训练+机器人动作对齐”的混合范式。
阅读全文Moonshot AI发布新一代Kimi模型后,围绕中国开源AI、模型蒸馏与监管风险的讨论再度升温。争议的焦点不只是性能,而是开放权重模型会如何改变全球AI竞争格局。
阅读全文