Sam Altman 炮轰本地推理浪费资源
推荐指数 40.0 NO. 027 · 2026.10.31
score0comments0
简介
OpenAI CEO Sam Altman 公开称本地推理是"稀缺资源的糟糕分配"，认为个人电脑中闲置的 DRAM 利用率极低，云集中化才是更优解。这与其云端 API 商业模式高度一致，但也暴露了 OpenAI 对去中心化 AI 威胁的防御姿态。
编辑判断
Altman 选择在这个时间点发难并非偶然。DeepSeek R1、Llama 3 等开源模型在消费级硬件上的可用性正在快速侵蚀 OpenAI 的 API 定价权，Cursor、Ollama 等工具链让开发者越来越不需要碰 OpenAI 的云端服务。
他的论证有个明显漏洞：云端的"高利用率"是厂商的利润，不是用户的成本最优。对于批处理、隐私敏感、高频调用的场景，本地推理的 TCO 反而更低。真正值得警惕的是，这番话可能预示 OpenAI 会在模型许可或云端绑定上做更激进的动作来对冲去中心化趋势。
如果你在做 AI infra 创业，现在正是重新评估"混合部署"策略的窗口期——完全押注云端或完全本地都可能错。