Caddyfile 编译成 eBPF 提速 3 倍
推荐指数 59.0 NO. 016 · 2026.06.15
发布2026/06/14Score100Comments30
为什么值得看
zeroserve 新增 Caddy 兼容模式,可将 Caddyfile JIT 编译为 eBPF 再转机器码,在 io_uring 上运行。对需要极致 HTTPS 性能的 AI 推理服务或网关场景,这是跳过 Caddy 直接榨干硬件的新选项。
编辑判断
Caddy 凭借自动 HTTPS 和易用配置已成为 AI 服务部署的默认选择,但 Go 运行时和 GC 延迟在超高并发场景下始终是天花板。zeroserve 的激进之处在于不满足于"用 Rust 重写",而是把配置层直接下沉到内核态 eBPF,再经 JIT 到原生码,本质上是用编译时开销换取零解释开销。
这跟 nginx + Lua 或 OpenResty 的路子完全不同:后者是脚本嵌入,zeroserve 是整个请求处理管线编译掉。目前 30MB 内存 footprint 和 1.45ms p50 对边缘推理节点极具吸引力,但生产稳定性、Caddyfile 完整语法覆盖、以及 eBPF 的调试可观测性仍是 adoption 门槛。如果你在跑 vLLM/TGI 推理服务且网关层是瓶颈,可以把它放进 PoC 清单,但别急着替换生产 Caddy。
社区反馈
意见分歧 29 条评论
核心争论:zeroserve 的极致性能优化是否值得牺牲 Caddy/nginx 的成熟生态与功能完整性
Fudge, I really need to carve out time today to play with zeroserve. Very cool stuff
From a technical standpoint, these are always impressive projects, but I've always wondered: has anyone ever encountered a use case where the Caddy was the bottleneck?
I am surprised how well nginx holds up?!