MLLM 内部藏有空间坐标系统
推荐指数 73.0 NO. 023 · 2026.10.12
upvotes134comments1
为什么值得看
研究者在多模态大模型中发现了一个名为 S-Space 的线性子空间,物体 token 在其中天然编码了水平、垂直和距离坐标。这意味着模型并非靠'猜'做空间推理,而是存在可解读的内部空间工作区,为可控编辑和调试打开了可能。
媒体预览
编辑判断
这项工作的真正价值在于方法而非结论本身。作者用 score-based 梯度分析定位子空间,这套流程可以迁移到时间推理、因果推理等其他'隐性能力'的解剖上。
此前 Anthropic 在纯文本 LLM 中发现方向性特征(如'summer/winter'轴)用的是类似思路,但这是首次在视觉-语言模型中定位到三维连续空间坐标,跨模态一致性比预期更强。
代码和模型检查点尚未确认是否开源,如果放出的话,做机器人导航、AR 空间理解的团队可以直接用这个子空间做'脑机接口'式的定位增强,而不必端到端微调整个模型。