Zinc：AMD GPU 推理引擎
推荐指数 83.0 NO. 002 · 2026.03.31
Stars207创建5 天前Forks7Issues3
为什么值得看
Zinc 是一个为 AMD 消费级 GPU 提供的推理引擎，支持在单个 AMD GPU 上运行 35B 参数模型。它不依赖 ROCm 或 CUDA，使用 Zig 和 Vulkan 实现。
Zig INferenCe Engine — LLM inference for AMD RDNA3/RDNA4 GPUs via Vulkan
媒体预览
编辑判断
在 AMD GPU 上进行大型语言模型（LLM）推理一直受限于 ROCm 的支持范围和 vLLM 的依赖。Zinc 通过 Zig 和 Vulkan 打破了这一限制，为开发者提供了一个无需依赖 ROCm 或 CUDA 的解决方案。与现有的解决方案相比，Zinc 专注于 RDNA4 特定优化和 SPIR-V 兼容性，提供了更高效的推理能力。对于需要在 AMD GPU 上进行高效 LLM 推理的 AI 工程师和创业者来说，Zinc 提供了一个值得尝试的新选择。
Star History
