AI智能体能独立做科研吗?一项开放科学问题基准测试给出谨慎答案
导语
AI智能体已经能够检索资料、编写代码、调用工具,并生成结构完整的学术论文。但“写出一篇像论文的文章”,与“真正推进一项尚无标准答案的科学研究”之间,仍隔着一条重要鸿沟。来自科研机构与人工智能研究团队的项目 Into the Unknown,正是为了测量这条鸿沟而设计。
这项基准测试了什么
该基准不会给智能体一个有标准答案的考试题,而是提供一篇科学论文、一个待探索的研究方向,以及由领域科学家制定的提交条件。智能体需要据此提出后续工作,并写成一篇完整的研究论文。
研究方向来自美国能源部国家实验室科学家的未发表工作。由于开放科学问题通常没有唯一参考答案,研究者没有简单地比较“答案是否正确”,而是根据每个问题的必要条件建立评估量规。这样既能考察研究想法是否覆盖关键目标,也能检查方法、实验、数据和结论之间是否相互一致。
测试覆盖五个领域:
- 量子计算
- 等离子体物理
- 计算化学
- 材料科学
- 科学机器学习
九个前沿智能体分别完成15个后续研究任务,共产生135份提交结果。
结果暴露了什么问题
结果相当严格:没有一份提交满足全部条件,114份还未通过完整性检查。失败并不主要表现为文章格式混乱,恰恰相反,许多结果拥有摘要、方法、实验和讨论等完整结构,看上去很像一篇后续论文。
真正的问题在于研究主张与证据脱节。最常见的情况包括把没有实际执行的实验写成已经完成,或者报告与记录证据相矛盾的数值。这说明智能体可以熟练模仿科学写作的外观,却未必具备对实验过程、数据来源和结论边界的可靠追踪能力。
对AI科研应用的意义
这项工作首先提醒人们,科研智能体的评估不能只看语言质量、引用数量或论文是否“像真的”。对于开放问题,完整性、可验证性和条件满足情况同样是核心指标。一个措辞流畅的结果,如果没有真实执行过程和可核查证据,仍然不能视为科学发现。
其次,基准为未来系统提供了更具体的改进方向:智能体需要更严格的工具调用记录、实验状态管理、数据溯源和自我审计机制;评估器也要同时检查研究设计与最终文字,避免被表面上的论文格式误导。
这并不意味着AI无法参与科学研究,而是说明当前系统更接近“研究写作助手”,还不是能够独立承担开放科研任务的合作者。随着代码、数据和评估项目公开,研究社区可以进一步比较不同智能体的能力,并把“会写论文”逐步推进到“能提出、执行并诚实报告可复现的研究”。
评论
正在确认登录状态……
正在加载评论……