AMAZINGINDEX.COM 每天向上一点
58.1
VOL. 2026.11
2026.11.14
← 返回 2026.11.14 日报
日报快照 · Daily Snapshot
NO. 016

模型权重空间可传播病毒

#ARTICLE HackerNews 2026.11.14
推荐指数 71.0 NO. 016 · 2026.11.14
发布2026/11/13Score124Comments45

研究发现神经网络权重可被植入类似病毒的恶意载荷,通过模型分发链(如HuggingFace、模型合并)跨系统传播。这意味着供应链安全需要从代码层扩展到模型文件本身,AI infra团队需紧急评估现有模型加载流程的隔离机制。

这攻击向量最狠的地方在于利用了ML工程师的日常习惯:直接加载别人训练的权重、做模型合并、用pickle/ safetensors但不校验。传统软件供应链有SBOM和签名,模型分发几乎是裸奔状态。

HuggingFace虽然推了pickle扫描和malware检测,但权重级别的持久化后门很难被静态分析发现。建议立刻做两件事:把模型加载放进沙箱容器,以及对任何非官方渠道的LoRA/Checkpoint做权重哈希比对。

如果这条PoC被武器化,影响范围会远超传统软件供应链攻击——因为模型文件现在直接跑在GPU集群上,攻击者获得的算力杠杆和横向移动空间都大得多。做MLOps平台的公司这周应该开安全review。

意见分歧 41 条评论

核心争论:标题'病毒'是否夸大:研究仅证明权重篡改可行,未实现自传播

xbar

I'm sure those Chinese models are fine.

nkmnz

That’s what Jensen said.

cyanydeez

I'm sure those north korean hackers everyone keeps hiring will never figure out how to supply side infect cloud models. ...see, I can make up great fears too!

替代方案: abliterationopenweightsmodel hashing
查看原文 →