纯C++本地跑SD/Flux,无需PyTorch
推荐指数 63.0 NO. 002 · 2026.09.25
Stars7,220
为什么值得看
stable-diffusion.cpp 用纯 C/C++ 实现了 SD、Flux、Wan 等扩散模型的推理,脱离 Python 和 PyTorch 依赖。对需要边缘部署、追求低延迟或想省 GPU 成本的团队,这是目前跟进新模型最快的本地推理方案。
Diffusion model(SD,Flux,Wan,Qwen Image,Z-Image,...) inference in pure C/C++
媒体预览
编辑判断
做本地 AI 图像生成的团队之前大多依赖 ComfyUI + PyTorch,但 Python 生态的依赖地狱和显存占用是长期痛点。stable-diffusion.cpp 基于 ggml 架构,支持 CPU/GPU 混合推理和多种量化格式,在树莓派级别设备上也能跑通。
跟 ONNX Runtime 或 TensorRT 相比,它的核心优势是模型支持速度极快——Qwen-Image-2.1、LTX-2.5 等模型都是 Day-0/Day-1 跟进,这得益于作者和 ggml 社区的紧密协作。如果你的产品需要快速集成最新开源图像模型,且对二进制体积敏感(比如桌面端应用或嵌入式场景),这个项目的优先级应该高于自己搭 PyTorch 管线。
需要注意:API 仍在频繁变动,生产环境使用建议锁定 commit 或参与社区讨论稳定版本。
Star History
生态分析
Beta
边缘AI推理的轻量替代方案,填补Python生态外的C++原生缺口
独特价值:纯C/C++零依赖,新模型跟进速度超越同类本地推理方案
竞品: