LLM 路由不再盲选，按任务复杂度智能调度
推荐指数 59.0 NO. 010 · 2026.07.01
Stars152创建2 天前Forks0Issues0
为什么值得看
Polyphonic Decision Engine 是一个基于语义分析的 LLM 路由编排层，能根据请求结构、模糊度和推理深度将任务分配给不同模型。对管理复杂 AI 工作流的团队来说，它解决了"用 GPT-4 做简单分类太浪费、用小模型做复杂任务又搞不定"的资源错配问题。
Top AI Router 2026: Split Codex for Quick Code & Claude for Complex Refactoring
媒体预览
编辑判断
目前主流的 LLM 路由方案如 Martian、Not Diamond 主要依赖延迟反馈或 A/B 测试来优化，本质还是事后调优。Polyphonic 的差异化在于前置的语义分析——把请求按"模式匹配型"和"深度推理型"预分类，这更接近 Google 内部 Gemini 路由层的思路。
不过 152 stars 且 forks 为 0 说明还停留在概念验证阶段，生产环境最关心的 fallback 机制、延迟预算约束、多租户隔离这些都没看到。如果你现在的 LLM 成本主要来自 GPT-4 的滥用调用，建议先试用更成熟的 Martian 或自研规则路由；但如果你在做多模型编排的中间件产品，它的"ensemble"设计思想值得参考。
Star History
生态分析
Beta
轻量级LLM智能路由中间件，填补模型调度与开发者工具之间的空白
独特价值：基于语义动态评估而非规则预设，实现模型资源的精细化按需分配