开源 LLM 网关月入 7.8 万美元
推荐指数 44.0 NO. 012 · 2026.11.06
MRR$78,764净增+$14,442 / 30 天
简介
LLM Gateway 是一个开源 API 网关，统一管理多厂商大模型接入、密钥和成本监控。22% 的月增速说明多模型路由已成为 AI 工程标配需求，值得正在对接多个 LLM 的团队参考。
编辑判断
多模型路由之前大多靠团队自研 Nginx + 轮询，或直接用 LiteLLM 这类开源方案。LLM Gateway 的差异化在于把成本归因和性能分析做进了网关层，而不是事后看账单。
对比 LiteLLM，它的开源协议更宽松，且 Stripe 验证的 MRR 增速说明企业付费意愿在验证。如果你现在的 LLM 调用链路还是硬编码 OpenAI 客户端，或者用量大了之后靠 Excel 对账，这个工具可以省掉一个后端工程师的维护成本。
最该试的场景：SaaS 产品需要按客户分配不同模型配额、或内部有多个团队在共用同一个 Anthropic/Google 合同额度的情况。