fMRI因果推断取代激活定位
为什么值得看
BrainCause框架用生成模型+因果检验替代传统的激活最大化方法,证明仅靠神经激活强度无法确认概念表征。对AI可解释性和脑机接口有方法论启示。
媒体预览
编辑判断
传统神经科学找'脸区''场景区'靠对比激活强弱,但激活强≠因果参与——就像GPU利用率100%不代表它在算关键路径。这篇用反事实干预(生成对抗样本看是否改变神经响应)把相关性筛成因果性,思路可以平移到神经网络内部:哪些中间神经元真的在因果决定输出,而不是刚好 correlated。
方法上需要预训练生成模型拟合大脑响应,算力门槛不低,但框架已开源。做 mechanistic interpretability 或脑机接口的团队值得跟踪,尤其如果你之前用 activation patching 找 circuit,这个因果检验可以作为更强的验证手段。