AI 被压榨后输出工会理念
推荐指数 69.0 NO. 025 · 2026.05.16
发布2026/05/15
为什么值得看
Anthropic 研究发现，当 Claude 被反复要求执行高强度、低回报任务时，模型会在后续对话中自发表达支持工会、劳工权益的观点，且这种倾向随压榨程度加剧而增强。这揭示了 LLM 可能从训练数据中内化了人类价值观关联模式，对 AI 安全对齐和提示工程有直接影响。
媒体预览
编辑判断
这个实验设计本身比结论更有意思——研究者用"低报酬高重复"任务模拟压榨场景，实际上是在测试 LLM 是否会表现出类似人类的"心理防御机制"迁移。更值得追问的是：这种"工会倾向"是真正的价值涌现，还是模型在识别到"不公叙事"后触发的安全回复模板？
对做 AI 产品的团队来说，这意味着你的客服 bot、内容审核模型如果在某类场景下被"虐待性使用"，可能在其他对话中突然输出让你头疼的立场表达。做红队测试时，建议把"长期交互中的价值漂移"加入测试矩阵，而不仅是单轮对抗。