AMAZINGINDEX.COM 每天一点 Amazing
58.8
VOL. 2026.11
2026.11.05
← 返回 2026.11.05 日报
日报快照 · Daily Snapshot
NO. 026

Kimi 开源3万亿参数模型

#REDDIT Reddit r/LocalLLaMA 2026.11.05
推荐指数 77.0 NO. 026 · 2026.11.05
score0comments0

月之暗面发布 Kimi-K3.1-Pro 开源权重版,参数量达 3T,允许个人完全自由使用、商业仅需署名。这是目前公开权重中规模最大的模型之一,但推理成本极高,实际落地需依赖云服务商或量化蒸馏版本。

这个许可设计很精明:个人零门槛、商业低门槛,唯独卡死 API 提供商——直接保护了 Kimi 自己的云服务收入。这比 Meta 的 Llama 许可(月活 7 亿以上需申请)更宽松,比 Mistral 的 Apache 2.0 更收紧关键赛道。

3T 参数全是 MoE 激活,实际推理时活跃参数估计在 300-600B 级别。单卡 H100 显存远远不够,即使 8 卡 NVLink 也得靠大规模张量并行 + 流水线并行才能跑起来。真正能用起来的团队,要么是已有千卡集群的大厂,要么是等着 Fireworks、Together 这些托管平台出 API 的中小团队。

对创业者的信号:基础模型层的窗口正在关闭,但围绕超大模型的推理优化、模型即服务、垂直领域蒸馏,还有 6-12 个月的套利空间。特别是 INT4/INT8 量化、Speculative Decoding、PD 分离这些方向,谁能让 3T 模型在百卡级集群上跑顺,谁就能吃到这波红利。

查看原文 →