OpenAI 自研存储扛住 7000万 RPS
推荐指数 77.0 NO. 001 · 2026.09.12
发布2026/09/11
为什么值得看
OpenAI 公开其 Python 编写的在线存储平台 Habitat，已支撑超 10 亿 ChatGPT 用户的 7000 万 QPS 请求。对于面临高并发在线存储瓶颈的 AI 工程团队，这是大厂级架构设计的罕见参考。
编辑判断
Python 写存储引擎扛住 7000 万 RPS 本身就很反直觉——通常这个量级会用 C++/Rust 重写热点路径。OpenAI 没换语言而是改造 Python，说明他们的优化集中在架构层（如请求合并、异步 I/O、分层缓存）而非语言性能，这对大量用 Python 的中厂有直接借鉴意义。
文章没提是否开源，但 Habitat 的架构思路（在线 KV 存储、强一致、多租户隔离）和 Meta 的 ZippyDB、Netflix 的 EVCache 属于同一代际。如果你的产品 QPS 在百万到千万级、正在纠结要不要从 Python 迁到 Rust，这篇值得细读——可能省掉一次不必要的重写。