AMAZINGINDEX.COM 每日 AI 简报
52.6
VOL. 2026.06
2026.06.04
← 返回 2026.06.04 日报
日报快照 · Daily Snapshot
NO. 024

fMRI因果推断取代激活定位

#HF_PAPERS HuggingFace Papers 2026.06.04
值得看指数 40.0 NO. 024 · 2026.06.04
upvotes39comments1
查看原文 →

BrainCause框架用生成模型+因果检验替代传统的激活最大化方法,证明仅靠神经激活强度无法确认概念表征。对AI可解释性和脑机接口有方法论启示。

fMRI因果推断取代激活定位

传统神经科学找'脸区''场景区'靠对比激活强弱,但激活强≠因果参与——就像GPU利用率100%不代表它在算关键路径。这篇用反事实干预(生成对抗样本看是否改变神经响应)把相关性筛成因果性,思路可以平移到神经网络内部:哪些中间神经元真的在因果决定输出,而不是刚好 correlated。

方法上需要预训练生成模型拟合大脑响应,算力门槛不低,但框架已开源。做 mechanistic interpretability 或脑机接口的团队值得跟踪,尤其如果你之前用 activation patching 找 circuit,这个因果检验可以作为更强的验证手段。