Meta 升级缓存引擎应对内存涨价
推荐指数 68.0 NO. 023 · 2026.05.27
发布2026/05/26
为什么值得看
Meta 更新了其开源缓存库 CacheLib，新增 NVMe SSD 分层缓存和压缩支持，能在内存不足时自动降级到廉价存储。对于内存成本敏感的 AI 推理和推荐系统部署，这直接降低硬件开销。
媒体预览
编辑判断
CacheLib 之前主要面向 DRAM 场景，这次更新实质是 Meta 把自家应对内存暴涨的压箱底方案开源了。Redis/Memcached 用户长期面临内存成本线性增长的困境，要么接受分片复杂度，要么上云被绑架。
新版的 NVMe 分层能力让单节点缓存容量能从百 GB 级跃升到数十 TB，延迟控制在微秒级，这对需要大 KV 存储的向量检索、特征缓存场景尤其关键。做推荐系统或 LLM 推理缓存的团队，如果还在纯内存方案上硬扛成本，应该评估迁移可行性。
不过要注意，SSD 路径的 GC 和压缩会引入 CPU 开销，延迟敏感的核心热数据仍建议保留 DRAM 层。