HuatuoGPT-3:不依赖 SFT 的医疗大模型强化学习适配
HuatuoGPT-3 提出 OnePO,将教师模型输出作为阶段性引导,尝试从基础模型直接进行领域强化学习适配。论文称,27B 版本在 HealthBench Professional 上达到 71.4 分。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅HuatuoGPT-3 提出 OnePO,将教师模型输出作为阶段性引导,尝试从基础模型直接进行领域强化学习适配。论文称,27B 版本在 HealthBench Professional 上达到 71.4 分。
阅读全文思维链并不总是模型真实计算过程的可靠窗口。纽约大学团队提出CIA指标,用可解释性工具对照模型的文字推理与内部策略,并尝试通过后训练提升二者的一致性。
阅读全文ALoDLM 为扩散语言模型引入 token 级自适应循环机制,让已经准备好的 token 提前确定,困难 token 则继续获得额外计算。论文称,该方法在 1.7B 和 8B 规模上同时提升了质量与并行解码效率。
阅读全文长期记忆让智能体更懂用户,却也可能让模型盲目迎合用户过去的观点。MemAdapter提出反事实诱导、上下文反思和基于证据推理三步机制,动态决定记忆在当前任务中的影响力。
阅读全文主动式 LLM 智能体不再只是等待指令,而是利用空闲算力提前发现需求并提供帮助。新研究提出 3T 原则与 Proactivity-Gym,试图同时衡量任务能力、时间分配和用户信任。
阅读全文研究人员让语言模型代理直接改写分子几何优化器 Sella,并通过防止过早停止和过拟合的评估机制筛选方案。生成的 AutoSella 在未参与搜索的分子基准和 DFT 势能上均减少了力评估次数。
阅读全文一项新工作提出逆蒸馏遗忘框架 IDU,让扩散或流匹配模型在压缩为单步生成器的同时,降低指定训练子集再次生成的概率。该方法不需要保留数据、额外分类器或特征提取器。
阅读全文ASCENT提出一种在线智能体测试时训练方法:不直接复刻智能体的一次尝试,而是利用验证后的轨迹进行自蒸馏。实验显示,该方法在ALFWorld和WebShop上提升了任务成功率,并减少了执行回合数。
阅读全文LoGRA 将大模型强化学习中的梯度信号压缩为低秩表示,同时配合预测 KL 的步长控制,在尽量保持效果的前提下降低训练内存。论文报告称,该方法最高可减少 45.7% 的平均训练内存,并支持在单个八卡节点上稳定训练 27B 模型。
阅读全文UndoBench 将工具调用智能体的任务能力与故障恢复能力拆开评估。结果显示,智能体往往能完成任务,却未必能在工具调用异常后避免重复操作和外部副作用。
阅读全文一项新研究将数学推理拆解为发现、生成、理解和执行四类能力,指出单看最终答案会掩盖模型的真实能力结构。研究还提出基于数学原语的自蒸馏方法,用于修复推理中的关键缺口。
阅读全文一项研究发现,测试时训练若持续吸收模型自身生成的文本,可能在长上下文中形成自我强化的退化循环。研究进一步表明,在提交参数更新前用独立真实文本验证,是降低风险的有效办法。
阅读全文CANOPY 为文本、表格和视频等检索结果建立层级结构,再根据问题在不同区域选择合适的保留粒度。它还会在证据不足时触发定向补充检索,兼顾回答质量与上下文成本。
阅读全文最新研究发现,基础模型的推理能力可能被藏在训练数据形成的“开场提示”中。固定几个响应开头,就能显著提升模型在数学和编程任务上的表现,部分接近强化学习模型。
阅读全文HLA-WM 将几何引导的历史检索与递归线性注意力结合,在不增加训练的情况下改善长时视频生成中的场景回访一致性与相机控制,同时显著降低历史状态的存储成本。
阅读全文Periscope 提出一种无需训练的推理方法,把超长文本拆成局部与跨段探针,让受限上下文窗口的语言模型定位答案和证据。研究显示,它能以更低显存处理百万级上下文。
阅读全文Kandinsky 6.0 Video 是一组面向文本或图像输入的音视频生成模型,可输出带有同步 44 kHz 音频和唇形匹配的 5 秒视频。其核心是连接视频与音频生成流的双流 CrossDiT 架构,并以开源方式发布代码、权重和 Diffusers 集成。
阅读全文OSWorld-Pro 将计算机使用智能体的评测拆解到连续子目标,借助人工标注与对齐的人类判断器,定位键盘输入、鼠标点击和无关操作等过程性失误。
阅读全文一项研究显示,面对新一代生成器和对抗扰动,传统深伪检测器的准确率会显著下降。研究团队转而检测图像是否能被已知生成器忠实重建,并通过校准控制误认证风险。
阅读全文OmniConfess 提出一种无需重新训练的推理时方法,通过逐 token 干预不同证据通道,识别多模态模型答案背后的依据,并据此修正幻觉。
阅读全文RealtimeWAM通过一步动作生成与跨专家异步流水线,针对世界动作模型的两类推理瓶颈进行优化。论文称其在多项机器人基准上实现接近无损的准确率,并在H100上取得最高25倍端到端加速。
阅读全文