WorkFactory:把职业意图变成可执行任务,规模化训练工作型智能体
导语
让智能体真正处理专业工作,难点不只是让模型“会推理”,还要为它提供目标清晰、资料完整、工具可用且能够顺利执行的任务。现实中的工作往往依赖多个信息来源:输入文件可能缺页,关键数据可能藏在外部系统,任务要求与可用材料之间也可能存在断裂。若直接用这类任务生成教师轨迹,最终得到的监督信号就可能混入环境缺陷,而不是真实的工作能力。
Hugging Face Daily Papers 收录的 WorkFactory,试图从任务构造环节解决这一问题。论文将专业人员的工作意图作为起点,建立一套面向规模化智能体训练的任务生产流程。
核心方法:先规划信息,再执行修复
WorkFactory的第一步不是直接生成任务描述,而是进行“信息级规划”。系统会围绕预期产出构建信息支持图,显式记录完成任务所需的信息、信息之间的依赖关系,以及这些信息应该位于何处。这样做的目标,是让任务的目标、材料和执行环境形成相互匹配的结构。
随后,系统安排探测执行。探测过程从求解器能够看到的输入出发,尝试判断任务是否存在信息缺口或环境阻塞。如果发现问题,WorkFactory只修复影响任务完成的部分,同时尽量保留原本的职业意图,之后再交由教师模型生成正式轨迹。论文强调,这一“探测—修复”循环有助于减少教师演示中的无效失败。
数据规模与训练结果
研究团队最终构建了112,686个任务,覆盖612种职业,并利用收集到的教师轨迹训练WorkPilot系列模型,规模包括4B、27B和35B-A3B。三种模型在四项专业工作基准上都相较各自基座模型取得提升。其中,WorkPilot-35B-A3B在GDPval-AA v2.1上的Elo分数从879提升至1565。
论文的消融分析还显示,信息规划和任务修复不仅能降低探测阶段发现的环境缺陷,也能改善下游模型表现。这说明训练数据质量并不只是“任务数量”问题,任务是否可执行同样会直接影响监督学习效果。
数据越多,收益并非线性增长
规模化实验呈现出两个值得关注的现象。首先,随着训练任务增加,模型性能提升会逐渐放缓,研究者将其解释为学生模型逐步接近教师模型能力上限后的自然现象。其次,执行长度并不是持续增加:在部分设置中,模型先出现更长的执行轨迹,随后随着数据规模扩大而缩短。
这可能意味着更多任务不仅帮助模型学习完成工作,也帮助它形成更高效的规划策略,减少不必要的步骤和工具调用。不过,论文材料并未证明较短轨迹必然对应更高质量的交付结果,因此执行效率与最终产出之间仍需进一步评估。
意义与局限
WorkFactory的价值,在于把“生成训练任务”从文本改写问题推进为环境工程问题:任务必须拥有足够的信息支撑,并经得起实际执行检验。对于希望训练通用工作型智能体的研究者而言,这种方法提供了可扩展的数据生产思路。
但它也暴露出真实工具环境的限制。论文讨论中提到,部分网站不可访问,使网页抓取工具的失败率仍然较高,而网页搜索的失败率相对更低。未来工作将探索拒绝采样、更困难的任务以及强化学习扩展,以突破教师能力和环境可用性带来的上限。
评论
正在确认登录状态……
正在加载评论……