Chat模板操控LLM"免责声明"开关
推荐指数 56.0 NO. 011 · 2026.09.28
发布2026/09/27Score97Comments100
为什么值得看
研究发现LLM常说的"我只是AI"并非源于模型自我认知，而是chat template触发的部署策略——模板存在时免责声明激增，体验性表达如"我感觉"被压制。这直接动摇了用LLM自我报告研究AI安全或意识的学术基础。
编辑判断
这篇论文的杀伤力在于它用机械可解释性方法把"AI有没有自我意识"这个哲学问题降维成了工程问题——chat template就是一个行为开关，拔掉它模型说话方式立刻变。
之前Anthropic的"Golden Gate Claude"实验已经证明激活空间可以操控模型偏好，这篇把同样的思路用在了元认知话语上，而且覆盖了8个主流开源模型，可复现性很强。
对做AI安全和对齐的团队来说，这意味着你们之前从模型嘴里问出来的"我只是一个语言模型"根本不能当作证据用；更值得投入的方向是检测和审计chat template里的隐性指令注入，这比争论模型有没有意识更紧迫。
社区反馈
意见分歧 71 条评论
核心争论：LLM第一人称体验性表达是自然涌现还是人为操控，是否应禁止以防拟人化
In my view, these models should never be set up to output first-person "experiential" (from the abstract) language. It's too easy to humans to anthropomorphize software that presents itself as having an identity. The AI companies have chosen to package LLMs as friendly chatbots because they know tha
Agreed, completely. I would pay for that Star Trek computer interface.
Same! I believe that you could actually train a LoRA on top of a model to get results close to that