返回文章列表
模型评测

FINCOSMOS:让金融智能体在真实不确定性中接受检验

阅读约 3 分钟

导语

金融智能体已经能够搜索网页、调用数据接口、编写回测代码并生成投资报告。问题在于,金融任务的正确性并不只取决于文字是否流畅:数据是否可追溯、策略是否符合用户真实意图、回测是否使用了当时可获得的信息,都会直接影响结论。若这些环节出现问题,一份格式完整的报告仍可能显得非常可信。

FINCOSMOS提出了一套面向开放世界金融任务的评估范式,核心不是比较模型与“标准答案”的相似度,而是检查智能体最终交付的工作是否经得起复核。

核心做法

  • 隐藏用户策略。 模拟投资者持有一套从组合式语法中抽取的隐含策略,可能性约为380万种。用户不会一次性提供所有细节,智能体必须通过提问澄清目标、约束和偏好。
  • 不预置数据。 智能体需要自行从开放网络获取数据,记录来源,并在规定的数据截止时间内建立回测。这样既考察检索能力,也考察时间一致性。
  • 程序化检查交付物。 系统会验证数据溯源和“当时可得”原则,重新计算报告中的指标,并将交付策略与隐藏规格进行比对。评估包含45个维度和15项否决检查,不依赖参考答案。

结果为何值得警惕

研究测试了四个编码智能体以及一个没有工具的模型,共进行150次会话,没有任何一次被完整接受。经过否决项前的质量分数仅为20.2至37.2分。模拟用户认可了35次会话,但这些会话全部未通过至少一项程序检查;如果只依赖大语言模型裁判,还可能有17次被判定为合格。

失败分布在流程两端。120次会话中只有25次交付了投资者真正要求的策略,而且没有一次交付的交易能够复现报告中声称的收益。智能体对用户没有主动说明的细节,通常只能提出其中54%至64%。这意味着它们既可能没有问对问题,也可能在已经开始编程后,用自行假设填补信息空白。

人类专家将88.33%的失败归因于智能体,而不是评测设计。研究还报告称,在获得FINCOSMOS反馈并具备持久记忆后,一名智能体最终学会了十项任务,但这更像是改进潜力的信号,而不是当前可靠性的证明。

意义与影响

FINCOSMOS揭示了金融智能体评估中的一个关键误区:用户满意、语言表达自然,甚至模型裁判认可,都不能等同于结果正确。对于涉及投资决策的系统,评测必须覆盖需求澄清、数据来源、点时正确性、代码实现和指标复算,而不能只看最终答案是否“像一份报告”。

这套方法也提示开发者,应将可验证交付物和硬性否决条件置于体验指标之前。未来更有价值的比较,可能不是哪个智能体最会生成分析,而是谁能稳定地留下完整证据链,并在多次重复任务中避免静默错误。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章