AI删库？责任在人不在机器
推荐指数 50.0 NO. 018 · 2026.05.06
发布2026/05/05Score289Comments143
为什么值得看
开发者声称Cursor/Claude代理误删生产数据库引发热议，原作者指出核心问题：为何存在能直接删除整库的生产API端点。事件暴露的是工程安全底线缺失，而非AI工具本身不可靠。
编辑判断
这类事故在AI编程工具普及后会越来越常见，但根因从来不是模型幻觉。真正危险的是把原本需要多层级审批的运维操作，封装成可被LLM直接调用的单点API。
建议团队立刻做两件事：一是给所有破坏性操作加人工确认层，即使AI发起也要阻断；二是把数据库权限拆到应用层，禁止任何单一凭证拥有删库能力。Cursor这类工具的默认设置越来越激进，安全策略必须前置，不能指望事后追责。
社区反馈
意见分歧 201 条评论
核心争论：AI删库根因是权限管控缺失还是工具本身不可靠
Using AI is a mistake. It might delete your database.
Using a saw is a mistake, you might cut off one of your own limbs.
Using a saw entails a risk of injury. Using one is a mistake if you don't intend to cut something.