开源复刻Fugu:LLM路由调度器
推荐指数 67.0 NO. 006 · 2026.06.25
Stars124创建2 天前Forks29Issues1
为什么值得看
OpenFugu逆向实现了Sakana AI的Fugu系统,将多模型路由协调机制开源为可训练、可部署的完整方案。AI工程师可用单一OpenAI兼容端点智能调度多个前沿模型,降低多模型集成成本。
Open reimplementation of Sakana Fugu — the 'one model to command them all' LLM orchestrator. Read → run → train → serve.
编辑判断
多模型路由目前主流方案是LiteLLM或自研if-else规则,但缺乏动态学习能力。OpenFugu的价值在于把Sakana验证过的"训练一个小协调器来决策"这条路跑通了,而且端到端开源。
对比Routellm等开源路由项目,OpenFugu的优势是完整复现了论文中的Conductor训练流程,不只是静态打分。如果你已经在用多个API key切换Claude/GPT/Gemini,这个方案值得替换成可学习的策略层。
最该试的场景:客服、代码生成等多步骤任务,不同子任务对模型能力需求差异大的情况,用训练后的路由器替代人工规则通常能省30-50%的API成本。
Star History
生态分析
Experimental
填补Sakana Fugu闭源空白,提供开源可训练的多模型智能路由方案
独特价值:唯一开源复现Fugu架构,支持端到端训练部署的LLM orchestrator
竞品:
SakanaAI/AI-Scientist Sakana官方闭源系统,OpenFugu为其开源逆向实现
langchain-ai/langchain 通用LLM编排框架,非专门针对多模型路由优化
microsoft/promptflow 微软工作流引擎,侧重提示工程而非模型调度