模型权重空间可传播病毒
推荐指数 71.0 NO. 016 · 2026.11.14
发布2026/11/13Score124Comments45
简介
研究发现神经网络权重可被植入类似病毒的恶意载荷,通过模型分发链(如HuggingFace、模型合并)跨系统传播。这意味着供应链安全需要从代码层扩展到模型文件本身,AI infra团队需紧急评估现有模型加载流程的隔离机制。
编辑判断
这攻击向量最狠的地方在于利用了ML工程师的日常习惯:直接加载别人训练的权重、做模型合并、用pickle/ safetensors但不校验。传统软件供应链有SBOM和签名,模型分发几乎是裸奔状态。
HuggingFace虽然推了pickle扫描和malware检测,但权重级别的持久化后门很难被静态分析发现。建议立刻做两件事:把模型加载放进沙箱容器,以及对任何非官方渠道的LoRA/Checkpoint做权重哈希比对。
如果这条PoC被武器化,影响范围会远超传统软件供应链攻击——因为模型文件现在直接跑在GPU集群上,攻击者获得的算力杠杆和横向移动空间都大得多。做MLOps平台的公司这周应该开安全review。
社区反馈
意见分歧 41 条评论
核心争论:标题'病毒'是否夸大:研究仅证明权重篡改可行,未实现自传播
I'm sure those Chinese models are fine.
That’s what Jensen said.
I'm sure those north korean hackers everyone keeps hiring will never figure out how to supply side infect cloud models. ...see, I can make up great fears too!