返回文章列表
AI 智能体

Axion 1.0:用三阶段训练打造开放智能体基础模型

阅读约 3 分钟

导语

智能体模型的能力不只取决于回答问题的准确率,还包括拆解目标、检索信息、调用工具、执行多步操作并根据反馈修正策略。围绕这些能力,Axion 1.0给出了一种强调简化与开放性的训练方案。项目由Yuqi Jia等研究者提出,核心主张是:不必堆叠复杂的后训练环节,也可以构建具备广泛智能体能力的基础模型。

三阶段训练路线

Axion 1.0的流程由两个轻量级监督微调阶段和一个强化学习阶段组成:

  • 先训练自包含推理。 第一阶段面向不依赖外部工具的科学问题。研究团队根据基础模型自身较成功的解题策略构造数据,再通过对抗式强化问题难度,促使模型形成更稳健的推理过程。
  • 再学习工具依赖任务。 第二阶段将能力扩展到需要检索现实信息、进行确定性计算或调用外部工具的任务。相关任务来自真实数据源,并配备自动验证机制,以减少人工标注和主观评判带来的成本。
  • 最后进行交互式强化学习。 第三阶段在智能体轨迹上训练模型,使其更好地处理长链路推理,以及与工具和环境之间的连续交互。

值得注意的是,官方强调该方案没有设置专门的中期训练阶段,也没有采用直接偏好优化(DPO)或在线蒸馏(OPD)。公开材料还提到,整个流程约使用1.8万个监督微调样本,Axion 1.0提供35B和122B版本。

评测与开放内容

在HLE、BioMysteryBench、SEAL-0、HiPhO,以及FrontierScience的Olympiad和Research两个划分上,官方报告了模型表现。35B复现检查点的成绩分别为52.8、35.3、60.4、45.9、85.0和55.0。需要指出的是,这些数字来自项目方提供的评测信息,实际复现时仍应关注评测设置、提示词和工具环境是否一致。

Axion 1.0的开放范围也不止模型权重。项目发布了数据构造、生成、筛选、验证、提示词和训练代码,并提供训练数据集、项目页面及35B复现模型。该复现模型采用Apache 2.0许可,为研究者测试和扩展这套路线提供了直接入口。

意义与局限

Axion 1.0的价值在于把智能体训练拆解为清晰、可复用的能力递进:先解决问题,再学会调查,最后在交互中持续行动。若公开材料能够被稳定复现,这种方法有望帮助研究者更具体地分析数据质量、自动验证和强化学习分别贡献了什么。

不过,训练流程简洁并不等于实现成本低。工具环境、任务生成质量、验证器覆盖范围,以及长轨迹强化学习的稳定性,都可能影响最终结果。因而,Axion 1.0更适合作为开放研究基线和方法论参考,而不应仅凭榜单分数被视为通用智能体能力的最终答案。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
ToolSpace:用真实工具调用轨迹构建更难的长程智能体环境
AI 智能体
cctest.ai
AI 智能体

ToolSpace:用真实工具调用轨迹构建更难的长程智能体环境

ToolSpace提出一种“工具优先”的环境合成方法,从真实MCP服务和智能体语料的调用轨迹中挖掘工具依赖,再生成可执行、可验证的长程任务。实验显示,该方法能显著提升工具使用训练与评测的难度和真实性。

阅读全文