消费级GPU跑DeepSeek V4的专用引擎

本地推理赛道目前被llama.cpp和Ollama垄断，但通用框架的代价是性能折损，尤其Metal和CUDA的优化往往滞后于新模型发布。DwarfStar的激进之处在于完全放弃通用性，只为特定模型做极致优化，这和Mistral早年只卖特定模型API的策略异曲同工。

关键风险是生态锁定：必须用它的GGUF格式，模型支持列表完全由项目方决定。如果DeepSeek更新模型节奏快，维护压力会很大。适合的场景很明确：你已经确定要跑V4 Flash，且对延迟敏感、不想折腾llama.cpp的编译参数调优。建议先跑它的HTTP server benchmark，对比同硬件下llama.cpp的tok/s再决定是否迁移。