LLMRouter：开发、评估与部署LLM路由器的统一基础设施

没有任何单一的大语言模型（LLM）能在所有查询和预算约束下都达到最优，这使得模型路由（model routing）成为经济高效部署的关键。现有路由器采用多种不同的公式和实现方式，导致公平比较和扩展变得困难。我们将LLM路由统一表述为一个序贯决策过程，该过程由五个组件刻画：上下文编码器、模型编码器、评分函数、决策规则和学习信号，涵盖单轮、多轮及个性化路由场景。基于这一表述，我们开发了一个自动化流水线，用于构建路由监督信号，并联合评估路由器的响应质量和推理成本。由此产生的基准测试xRouteBench覆盖通用LLM、记忆增强、视觉、时间序列和个性化路由任务。我们还引入了LLMRouter，一个开源模块化基础设施，包含超过16种代表性路由器。我们的实证研究表明，学习型路由器在相对性能上比最强的固定模型基线高出14.6%，轻量级路由器在严格成本约束下更具竞争力，且用户条件路由能持续提升个性化效果。