自托管 AI 网关，自动故障转移
推荐指数 61.0 NO. 007 · 2026.07.10
Stars119创建6 天前Forks54Issues6
为什么值得看
9Router v2 是一个前后端分离的自托管 AI 网关，通过单一 OpenAI 兼容端点代理多家 AI 提供商请求，支持负载均衡、自动降级和密钥轮替。对于需要同时调用多模型或多供应商、且对稳定性有要求的 AI 应用团队，可以省去自己写路由层和容错逻辑的重复工作。
Self-hosted AI gateway — one endpoint, many providers, auto-fallback. OpenAI-compatible REST API with Cloudflare Workers AI automation.
媒体预览
编辑判断
AI 网关这个赛道已经有 LiteLLM、Portkey 等成熟方案，但 9Router 的定位更轻量且完全自托管，适合不想把 API 流量经过第三方 SaaS 的敏感场景。跟 LiteLLM Proxy 相比，它的前端内置了配额追踪和登录管理，对内部平台化交付更友好，但生态插件和社区成熟度还有差距。
如果你现在是在用 Nginx 或自己写 if-else 来切换多个 AI 供应商，这个工具可以让你半小时内替换掉那层脆弱的胶水代码；如果是已经深度接入 LiteLLM 的团队，迁移动力不大，除非对数据出境或 SaaS 依赖有硬性合规要求。
Star History
生态分析
Beta
AI基础设施层中的多供应商统一接入网关，位于模型层与应用层之间
独特价值：轻量自托管+Cloudflare Workers边缘部署，OpenAI兼容端点降低迁移成本
竞品：