OpenAI 自研红队模型攻击自家产品
推荐指数 74.0 NO. 001 · 2026.07.16
发布2026/07/15
为什么值得看
OpenAI 训练了专门的红队模型 GPT-Red，能自动生成 prompt 注入攻击来发现自身模型的安全漏洞。这是安全评估从人工走向自动化的关键一步，解决了模型能力超越现有评测方法的根本矛盾。
编辑判断
GPT-Red 的发布时间点很微妙——OpenAI 刚被曝出 o3 在标准安全评测上表现优异但实际对话中仍存在严重越狱问题。这说明静态 benchmark 已经失效，行业需要动态对抗评测。
对做 AI 安全产品的团队来说，这是一个明确的信号：手动维护的漏洞库和规则引擎打不过自动化红队模型。如果你的安全方案还在依赖人工编写的攻击样本，需要尽快评估接入类似 GPT-Red 的对抗生成能力。
另外，OpenAI 选择公开这个方法而非内部保密，暗示他们希望把红队能力变成行业标准基础设施，类似 Anthropic 之前推的 Responsible Scaling Policy。