LLM直接读写神经网络权重实验全记录
推荐指数 65.0 NO. 006 · 2026.11.03
Stars175创建4 天前Forks18Issues0
简介
该项目开源了博客《Sparks of Weight Space Programming》的完整实验日志，包含所有模型输入输出、推理过程、代码执行及评估数据。对研究LLM理解神经网络权重能力的团队来说，这是可复现的关键素材。
Complete logs of the experiments in the blog post 'LLMs can understand and write neural network weights'
编辑判断
这个项目的价值不在代码本身，而在它把"LLM能不能理解权重"这个抽象问题做成了可审计的实验档案。之前类似研究如Google的"Learning to Learn by Gradient Descent"或Anthropic的mechanistic interpretability工作，往往只放最终结论，中间试错过程被过滤掉了。
做AI安全或模型编辑的团队可以直接用这些日志分析LLM在哪些层结构上容易出错、哪些权重模式被稳定识别。如果你正在做模型合并或任务向量相关的工程，这里面的网络读写案例比论文更接地气，建议重点看exp1的Breakout/Pong分类实验，它揭示了LLM对策略网络权重结构的直觉边界。
Star History
生态分析
Experimental
LLM权重理解研究领域的实验可复现基础设施与原始数据档案
独特价值：提供LLM理解神经网络权重的完整实验日志，填补该前沿方向的可复现性空白