Cerebras 让 GPT-5.6 提速至 750 t/s

Cerebras 的 WSE-3 芯片面积是 GPU 的 50 倍以上，内存带宽优势使其在 batch=1 的实时推理场景碾压 H100 集群——这正是传统云厂商的软肋。OpenAI 选择合作而非自研硬件，说明其推理基础设施存在缺口，也在试探"速度溢价"的商业模式。

750 t/s 意味着 1000 字中文约 2 秒输出，已接近人类阅读速度上限，实时交互的卡顿感基本消除。但"无质量妥协"的说法需谨慎看待：Cerebras 的精度通常指与 FP16 基准对比，而非与 GPT-4o 等更强模型对比。实际选型时建议用自己的 prompt 集做 A/B，而非轻信厂商 benchmark。

对创业团队而言，这是一个信号：纯靠"比 OpenAI 快"做推理中间商的空间在缩小，差异化应转向垂直场景优化（如金融合规延迟、医疗实时决策）或模型层面的投机解码（speculative decoding）创新。