反向工程ANE实现端侧训练
推荐指数 68.0 NO. 006 · 2026.07.30
Stars7,116
为什么值得看
通过逆向Apple私有API,首次在Apple Neural Engine上直接跑通神经网络反向传播训练,绕过CoreML和Metal。对想在iPhone/iPad上做本地模型微调或隐私敏感训练的开发者有启发意义。
Training neural networks on Apple Neural Engine via reverse-engineered private APIs
编辑判断
这个项目真正有价值的地方不是训练本身,而是证明了ANE的指令集足够通用到支持反向传播——之前业界普遍认为ANE只是个推理加速器。作者用Objective-C直接调用私有驱动,意味着未来有可能绕过CoreML的模型格式限制,把自定义算子跑在ANE上。
目前最大的限制是苹果随时可能封掉这些私有API,而且缺少内存带宽数据,大模型训练不现实。但做端侧小模型微调或联邦学习原型的团队,可以借鉴这个思路评估ANE的真实算力边界。对比MLX或PyTorch Mobile,这条路更野但也更底层。
Star History
生态分析
Experimental
填补Apple Neural Engine直接训练空白,是移动端私有AI算力逆向研究的先驱项目
独特价值:首个实现ANE反向传播训练,绕过CoreML限制,开启端侧隐私微调新路径