阿里通义千问3.8 2.4T参数模型上线
推荐指数 53.0 NO. 019 · 2026.08.13
发布2026/08/12Score232Comments65
为什么值得看
阿里开源了Qwen3.8-2.4T-A95B超大规模模型,支持Transformers直接调用。2.4T参数规模意味着推理成本极高,但可能是MoE架构实际激活参数远小于总参数量,适合研究极端规模模型行为或特定高压算力场景。
编辑判断
2.4T总参数但名字里的A95B暗示激活参数可能只有95B级别,这是典型的MoE稀疏激活设计。之前DeepSeek-V3用671B总参数/37B激活参数已经证明了这条路线的经济性,阿里这次直接放大到2.4T量级,大概率是在追GPT-4级别的基础模型能力。
实际部署这个模型的团队需要算清楚账:即使是95B激活,单卡A100/H100也跑不动,至少需要8卡H100或者上云用多机推理。个人开发者和小团队建议直接走API或者等蒸馏版,别碰本地部署。
值得观察的是HuggingFace页面上的实际下载量和社区反馈,232分65评论在HN不算爆款,说明大家对这个参数数字已经有点脱敏了,更关心的是实际评测和性价比。
社区反馈
意见分歧 62 条评论
核心争论:1-bit量化超大模型能否在消费级硬件上达到接近无损性能,还是应选更小的高精度模型
A ~5TB model.
The card looks almost too good to be true
https://unsloth.ai/docs/models/qwen3.8 The 1bit quant model is at an astonishing 397GB with 95B active per MOE. This literally puts Opus 4.5 performance level into a machine a normal person could buy, and still gets usable tokens/second. The full lossless model BF16 is