OpenAI前员工提出AI安全Plan A
推荐指数 59.0 NO. 014 · 2026.07.10
发布2026/07/09Score52Comments24
为什么值得看
前OpenAI员工提出将超级智能推迟至2040年的积极愿景，主张全球公开AI研究、多公司并行发展、建立"相互确保算力毁灭"机制以避免权力集中或人类灭绝。这是目前少数由内部人士提出的可操作的AI安全替代路径，对关注AI治理和长期风险的从业者有直接参考价值。
编辑判断
这个Plan A的提出时机值得玩味——作者明确提到基于"OpenAI直接经验"和与美国前沿AI公司的对话，暗示OpenAI内部对现有竞速路线存在严重分歧。"相互确保算力毁灭"（MACD）这个概念借用了核威慑逻辑，但算力设施比核设施更难隐蔽和快速重建，实际可操作性存疑。
真正值得关注的是"延迟到2040年"这个具体数字。如果主流实验室真有内部共识认为当前路径会在2027年前后触达危险阈值，那么接下来2-3年可能是政策窗口期。做AI infra和云算力的团队需要密切关注出口管制和算力审计相关的合规需求，这可能会成为新的技术壁垒。
社区反馈
意见分歧 24 条评论
核心争论：AI暂停计划是否可行，还是人性与利益必然导致竞赛失控
相关内容
OpenAI员工“吹哨”，人工智能安全来到临界点 OpenAI和Google DeepMind员工联名发表公开信，呼吁重视AI技术带来的严重风险，包括导致人类灭绝的风险，并呼吁不对吹哨员工进行报复。 沉默的OpenAI前员工，终于爆发了 公司应为现任和前任员工提供可验证的匿名流程，以便他们向董事会、监管机构及独立组织提出与AI风险相关的担忧。 内部员工发警告信，对OpenAI技术安全质疑加剧 员工在公开信中对AI公司提出四点呼吁：不强迫员工签订禁止批评协议，为现任和前任员工提供匿名安全反馈渠道。 Anthropic：集結 OpenAI 前員工，打造更安全的 AI 2021年成立的Anthropic集结一群OpenAI前员工，专注开发AI基础模型并高度关注AI安全，探讨离开OpenAI创业的原因。
Associated post: Introducing Plan A https://www.astralcodexten.com/p/introducing-plan-a
> Then, in the mid-2030s, they pause at AIs around the level of top human geniuses. They being the US and China and by agreement. It would be ideal, but there’s far too much money on the table to overcome human nature. So my hope is we hit some kind of limits naturally.. Wishful thinking?
If carbon taxes are already a lethal policy for an political campaign, it's absurd to think that fears of ASI will create any real movement around pausing AI. If there is any movement to pause AI development, it will come from the general public's dislike of these companies. Not from the AI safety a