AMAZINGINDEX.COM 每日 AI 简报
55.3
VOL. 2026.06
2026.06.15
← 返回 2026.06.15 日报
日报快照 · Daily Snapshot
NO. 016

Caddyfile 编译成 eBPF 提速 3 倍

#ARTICLE HackerNews 2026.06.15
推荐指数 59.0 NO. 016 · 2026.06.15
发布2026/06/14Score100Comments30

zeroserve 新增 Caddy 兼容模式,可将 Caddyfile JIT 编译为 eBPF 再转机器码,在 io_uring 上运行。对需要极致 HTTPS 性能的 AI 推理服务或网关场景,这是跳过 Caddy 直接榨干硬件的新选项。

Caddy 凭借自动 HTTPS 和易用配置已成为 AI 服务部署的默认选择,但 Go 运行时和 GC 延迟在超高并发场景下始终是天花板。zeroserve 的激进之处在于不满足于"用 Rust 重写",而是把配置层直接下沉到内核态 eBPF,再经 JIT 到原生码,本质上是用编译时开销换取零解释开销。

这跟 nginx + Lua 或 OpenResty 的路子完全不同:后者是脚本嵌入,zeroserve 是整个请求处理管线编译掉。目前 30MB 内存 footprint 和 1.45ms p50 对边缘推理节点极具吸引力,但生产稳定性、Caddyfile 完整语法覆盖、以及 eBPF 的调试可观测性仍是 adoption 门槛。如果你在跑 vLLM/TGI 推理服务且网关层是瓶颈,可以把它放进 PoC 清单,但别急着替换生产 Caddy。

意见分歧 29 条评论

核心争论:zeroserve 的极致性能优化是否值得牺牲 Caddy/nginx 的成熟生态与功能完整性

nullstyle

Fudge, I really need to carve out time today to play with zeroserve. Very cool stuff

zsoltkacsandi

From a technical standpoint, these are always impressive projects, but I've always wondered: has anyone ever encountered a use case where the Caddy was the bottleneck?

augunrik

I am surprised how well nginx holds up?!

替代方案: Caddynginx
查看原文 →