Large Discovery Model：让模型在实验反馈中持续寻找新答案

科学发现不是一次性生成一个“看起来合理”的答案，而是在提出假设、进行测试、吸收反馈和重新搜索之间不断循环。无论是寻找更好的神经网络训练程序、设计具有特定性质的抗体，还是优化多目标分子，研究者面对的都是规模巨大、结构复杂且单次评估成本很高的候选空间。

Large Discovery Model（LDM）试图为这类问题提供一套统一的模型化搜索框架。论文指出，大语言模型或其他生成模型虽然能够表达复杂的分子、蛋白质和程序空间，但模型的似然分数并不等于候选方案的真实价值；模型对自身判断的信心，也不能直接当作可靠的认知不确定性。尤其当候选对象明显偏离训练数据分布时，仅依赖生成模型的“自我反思”可能会把流畅性误认为科学有效性。

LDM 的核心是把两个角色连接起来：

• 生成模型负责提出候选：它可以在已有设计基础上生成新方案，也可以对候选进行迭代式改进。
• 奖励代理模型负责评估：该模型以贝叶斯非参数方法为基础，根据历史实验结果预测候选性能，同时估计不确定性。
• 不确定性感知价值指导搜索：候选的选择不只看预测得分，还要考虑模型对预测的把握程度，从而在利用已知高价值方向和探索未知区域之间取得平衡。
• 记忆随实验持续更新：每获得一条新的实验观察，发现记忆和代理模型都会同步调整，并影响下一轮生成、优化和筛选。

这种设计的关键变化，是将生成模型从“答案提供者”变成搜索循环中的提案模块。它不必准确预知整个目标函数，而是通过不断吸收外部评估结果，逐步形成更贴近任务目标的搜索策略。代理模型则承担了连接候选设计与真实实验表现的桥梁作用，使系统能够把有限的实验预算投入更有价值的方向。

论文在三类设计场景中评估 LDM，包括神经网络训练、抗体设计和分子优化。摘要显示，相比仅依赖大语言模型反思的方法或传统统计搜索，LDM 在验证集 BPB 降低幅度上达到 2.4 倍表现，在结合能上实现 18.2% 的相对下降，并在分子多目标性能上取得超过 60% 的相对提升。不同任务跨越程序、蛋白质和分子等模态，这表明作者关注的并不是某一个领域的专用技巧，而是开放式科学搜索中“生成—评估—学习”闭环的通用性。

不过，这项工作更适合被理解为一种经过案例验证的架构方向，而不是已经取代实验流程的自动科学家。系统效果仍取决于实验反馈的质量、代理模型的不确定性是否校准，以及候选表示和目标定义是否合理。未来，如果模型能够从更多轮真实实验中学习搜索策略，LDM 可能进一步连接生成式建模、贝叶斯实验设计与自主发现系统。对 AI for Science 而言，它提示了一个重要方向：高质量生成只是起点，能否在不确定性下有效决定“下一次该试什么”，才是开放式发现的核心能力。

来源：Hugging Face Daily Papers