让每个问题都找到合适的模型：PISA-E探索自适应LLM集成路由

导语

在实际的大语言模型服务中，不同请求对能力、延迟和成本的要求并不相同。简单地为所有请求调用最强模型，往往会带来不必要的推理开销；始终只调用一个模型，又可能错过多个模型协作带来的质量提升。现有路由方法通常只回答“这个提示词应该交给哪个模型”，而集成方法还必须回答两个问题：应该组合哪些模型，以及组合规模是否值得。

论文提出了PISA和PISA-E，分别面向单模型路由与自适应集成路由。它们的共同基础，是根据当前提示词估计每个候选模型的能力，而不是只依赖模型的固定整体排名。

核心方法

• 提示词自适应的能力估计：PISA将软聚类成员关系与模型专属预测器结合起来，预测不同模型在特定请求上的潜在表现。这样，路由器可以识别“更适合当前问题的模型”，而不是为所有输入使用同一套排序。
• 显式权衡质量与成本：PISA-E在能力预测的基础上，联合选择集成成员和集成规模。服务方可以在推理时调整质量—成本偏好，而无需重新训练路由器。
• 无需集成专门训练：方法利用一个可处理的集成成功度替代指标，从单模型能力预测推导候选组合，并通过高效的候选选择降低搜索负担。
• 覆盖分布内外场景：作者在四个LLM路由基准上分别评估了分布内（ID）和分布外（OOD）条件，以检验方法面对不同请求分布时的稳定性。

实验结果与意义

在单模型路由比较中，PISA在ID和OOD两种设置下都取得了参评方法中最高的宏平均成本—性能超体积，说明它不只是追求最高准确率，也更重视不同成本档位下的整体表现。

在集成路由方面，当优先考虑回答质量时，PISA-E取得了参评集成方法中的最高宏平均任务表现，相比最强竞争方法，在ID和OOD条件下分别提升2.09和2.87个百分点。更值得注意的是，在部分较低成本运行点，PISA-E仍能超过竞争集成方案的任务表现，同时将平均推理成本分别降低约36%和25%。

这项工作的价值不在于简单增加调用模型数量，而在于让集成规模随请求变化：简单任务可以使用较小、较便宜的组合，复杂或高风险请求则有理由调用更多模型。对于提供多模型服务的平台，这种路由方式有望成为质量、成本与资源调度之间的中间层。不过，素材未披露各基准的任务构成、模型名单及详细延迟指标，因此上述结果更适合被理解为方法层面的实验信号，而不是对所有部署场景的直接保证。

来源：Hugging Face Daily Papers