Rust 统一 172 家 LLM API 接入层
推荐指数 51.0 NO. 006 · 2026.08.03
Stars135创建5 天前Forks4Issues2
为什么值得看
aimux 用 Rust 实现了 290+ 供应商的统一 LLM 访问层，只做协议转换不做编排。对需要同时调用多家模型或频繁切换供应商的团队，能省掉大量重复封装工作。
统一 LLM 服务接入层 — 一套 API 接入 172+ 家 AI 服务商
媒体预览
编辑判断
目前多模型接入的主流做法是在应用层自己封装 OpenAI 和 Anthropic 的 SDK，或者用 rig、langchain 这类编排框架顺带解决。但 rig 的 provider 支持其实有限，langchain 又太重，很多团队最后都是自研一个内部 gateway。
aimux 的取舍很清晰：不做 agent loop、不做 RAG，只解决「任何协议转成 OpenAI 格式」这一件事。172 家供应商里 250 家是 registry 自动适配，说明维护成本可控。
如果你现在有一个自研的 gateway 但觉得维护供应商更新很烦，或者正在用 rig 但发现它的 provider 覆盖不够，aimux 值得作为基础设施层试跑。Rust 写的也意味着延迟和内存占用会比 Python 方案好看。
Star History
生态分析
Beta
Rust 生态中专注 LLM 协议转换的基础设施层，填补多供应商统一接入空白。
独特价值：纯 Rust 高性能实现，290+ 供应商零编排覆盖，极致轻量的协议转换层。