#REPO

Zinc：AMD GPU 推理引擎

GITHUB SEARCH ★ 207 Fork 7 Zig 2026.03.31

Zinc 是一个为 AMD 消费级 GPU 提供的推理引擎，支持在单个 AMD GPU 上运行 35B 参数模型。它不依赖 ROCm 或 CUDA，使用 Zig 和 Vulkan 实现。

Zig INferenCe Engine — LLM inference for AMD RDNA3/RDNA4 GPUs via Vulkan

封面图
Editor's Note:

在 AMD GPU 上进行大型语言模型（LLM）推理一直受限于 ROCm 的支持范围和 vLLM 的依赖。Zinc 通过 Zig 和 Vulkan 打破了这一限制，为开发者提供了一个无需依赖 ROCm 或 CUDA 的解决方案。与现有的解决方案相比，Zinc 专注于 RDNA4 特定优化和 SPIR-V 兼容性，提供了更高效的推理能力。对于需要在 AMD GPU 上进行高效 LLM 推理的 AI 工程师和创业者来说，Zinc 提供了一个值得尝试的新选择。

STAR HISTORY
Star History
查看原文 →