RouteFM：让大模型路由从反复训练走向“一次预训练，随处路由”

导语

在实际部署中，不同大语言模型往往各有所长：有的更适合复杂推理，有的在特定领域或模态任务上表现更好，还有的成本和延迟更低。LLM路由器的任务，就是把每个请求交给更合适的模型，以改善质量与推理效率之间的平衡。

但现有路由方案通常是“就地训练”：针对一组固定模型和一批固定请求优化。当候选模型更换、用户任务变化，或部署条件发生改变时，路由器可能需要重新收集数据、获得监督，甚至再次训练。来自 Hugging Face Daily Papers 的论文《Pretrain Once, Route Anywhere: Towards a Foundation Model for LLM Routing》尝试改变这一范式，并提出 RouteFM。

核心要点

• 不绑定固定模型身份。 RouteFM不把路由决策建立在模型名称或固定编号上，而是观察候选模型在少量任务上的行为表现，借此推断它们面向当前目标的能力。
• 通过跨环境预训练学习通用能力。 研究者在多种异构路由环境中进行情景式预训练，希望让模型学习“如何识别候选模型能力”，而不是记住某个数据集与模型池的对应关系。
• 新环境中依靠上下文适配。 预训练完成后，冻结的路由器可以利用新的行为证据进行判断，不必针对每个环境重新拟合。
• 覆盖多类变化。 实验考察了领域、模态、候选模型池以及上下文预算变化下的迁移表现；当可用行为证据较少时，RouteFM的优势尤其明显。
• 在未见基准上取得提升。 在未用于预训练的 MMR-Bench 上，每个候选模型仅提供8条观测时，RouteFM比最强基线高出2.23个质量点。

意义与影响

RouteFM的关键价值，不只是提出一个新的路由器，而是重新定义了路由系统的泛化对象。传统方法主要学习“这批模型在这类请求上如何分配”；RouteFM试图学习更抽象的能力，即从有限的行为样本中建立候选模型的能力画像，再根据目标请求进行选择。这种思路更接近基础模型的预训练—迁移范式。

如果这一方向继续发展，模型池频繁变化的推理服务可以减少环境专属训练的负担，也可能更容易纳入匿名、动态或此前未见过的模型。不过，材料目前主要呈现总体迁移结果，尚未提供完整的训练配置、成本分析和不同路由环境下的详细拆解。因此，RouteFM是否能在更大规模、更高噪声或更严格延迟约束的生产系统中稳定工作，仍需进一步验证。

无论如何，这项工作给出的信号很明确：LLM路由或许不必永远是一次一场景的局部优化问题，也可以被视为一种能够预训练、复用和迁移的通用推理基础能力。

来源：Hugging Face Daily Papers