本地 AI 部署成本计算器
推荐指数 46.0 NO. 009 · 2026.08.04
Stars139创建2 天前Forks80Issues0
为什么值得看
纯前端浏览器工具，根据内存、并发、会话数三个约束条件，自动计算并比价本地部署 LLM 的最低硬件配置。无需上传任何数据，适合对隐私敏感但不确定该买哪款显卡/机器的团队快速做技术决策。
Evidence-aware on-prem LLM inference sizing and TCO calculator
编辑判断
做本地 AI 的团队之前大多靠经验拍脑袋定配置，要么买贵了（A100 跑 7B），要么跑不起来（KV cache 爆显存）。这个工具把 llama.cpp、Ollama、vLLM 等常见后端的内存和并发模型做了封装，直接输出可落地的硬件清单和电价估算。
跟 LMSYS 的 Chatbot Arena 或 Anyscale 的 benchmark 不同，Bindwidth 不追求模型排名，而是解决"我的场景到底能不能跑、该花多少钱"这个更务实的问题。如果你正在给客户报私有化部署方案，或者犹豫要不要买 Mac Studio 还是组一台 4090 机器，这个工具能省掉半天调研时间。
Star History
生态分析
Beta
面向隐私敏感团队的本地LLM部署TCO快速决策浏览器工具
独特价值：三约束联合求解+硬件比价，纯前端零数据上传
竞品：
nguyenminhduc9988/gpuroom 仅算GPU显存能否装下，无TCO比价与硬件选型