AMAZINGINDEX.COM 让生活多一点 Amazing
44.8
VOL. 2026.09
2026.09.25
← 返回 2026.09.25 日报
日报快照 · Daily Snapshot
NO. 002

纯C++本地跑SD/Flux,无需PyTorch

#REPO GitHub Trending 2026.09.25
推荐指数 63.0 NO. 002 · 2026.09.25
Stars7,220

stable-diffusion.cpp 用纯 C/C++ 实现了 SD、Flux、Wan 等扩散模型的推理,脱离 Python 和 PyTorch 依赖。对需要边缘部署、追求低延迟或想省 GPU 成本的团队,这是目前跟进新模型最快的本地推理方案。

Diffusion model(SD,Flux,Wan,Qwen Image,Z-Image,...) inference in pure C/C++

纯C++本地跑SD/Flux,无需PyTorch

做本地 AI 图像生成的团队之前大多依赖 ComfyUI + PyTorch,但 Python 生态的依赖地狱和显存占用是长期痛点。stable-diffusion.cpp 基于 ggml 架构,支持 CPU/GPU 混合推理和多种量化格式,在树莓派级别设备上也能跑通。

跟 ONNX Runtime 或 TensorRT 相比,它的核心优势是模型支持速度极快——Qwen-Image-2.1、LTX-2.5 等模型都是 Day-0/Day-1 跟进,这得益于作者和 ggml 社区的紧密协作。如果你的产品需要快速集成最新开源图像模型,且对二进制体积敏感(比如桌面端应用或嵌入式场景),这个项目的优先级应该高于自己搭 PyTorch 管线。

需要注意:API 仍在频繁变动,生产环境使用建议锁定 commit 或参与社区讨论稳定版本。

Star History
Beta

边缘AI推理的轻量替代方案,填补Python生态外的C++原生缺口

独特价值:纯C/C++零依赖,新模型跟进速度超越同类本地推理方案

竞品:
AUTOMATIC1111/stable-diffusion-webui ★ 150.0k Python生态,功能最全但依赖重,不适合边缘部署
comfyanonymous/ComfyUI ★ 65.0k 节点式Python工作流,灵活性高但资源占用大
lllyasviel/stable-diffusion-webui-forge ★ 15.0k A1111优化分支,仍基于Python和PyTorch
city96/SD-Lite ★ 800 轻量推理尝试,但非纯C++实现,模型覆盖少
invoke-ai/InvokeAI ★ 25.0k 商业级Python工具链,定位专业创作非边缘
查看原文 →