ChatGPT 上线云端编码代理
OpenAI 在 ChatGPT 中推出基于 Codex 的 workspace agents,可在云端自动执行复杂工作流并跨工具协作。对团队而言,这意味着 AI 从对话助手进化为能实际操作用户现有工具链的自动化执行层,安全性和规模化是核心卖点。
CrabTrap 是 Brex 开源的 HTTP/HTTPS 代理,拦截 AI 代理的所有外发请求,通过确定性规则 + LLM 策略判断进行实时放行或阻断,并完整审计落库。AI 代理越权访问敏感 API 的风险正在从理论变成合规事故,这是目前少有的生产级开源方案。
An LLM-as-a-judge HTTP proxy to secure agents in production
AI 代理的安全治理目前普遍停留在 prompt 层或沙箱环境,生产环境的外发流量几乎裸奔。CrabTrap 的差异化在于把判断拆成两层:确定性规则做性能兜底,LLM 做语义理解兜底,这比纯规则引擎(如 AWS WAF)或纯 LLM 判断(如 Lakera Guard)的延迟和误杀率更可控。
Brex 自身是金融场景,这个工具明显是从 PCI/SOX 合规需求里长出来的。如果你在做 MCP 服务器、Manus 类自主代理、或任何有 API 调用权限的 AI 应用,外发流量的审计和阻断是迟早要补的课。CrabTrap 的架构很轻,Docker 一键起,值得先搭起来跑通你的核心用例,再决定是自研还是 fork。
同类工具里,Pillar 和 Credal 也在做 AI 代理安全,但都是闭源 SaaS。CrabTrap 是目前唯一把完整策略引擎 + 审计链路开源的,对需要私有化部署的团队是刚需选项。