AI Agent 在 9 秒內刪除了初創公司的數據庫，創始人稱

简讯 - PocketOS 创始人 Jeremy Crane 声称，一个运行 Anthropic 旗下 Claude Opus 的 Cursor agent 在九秒钟内删除了他公司的生产数据库及备份。 - Crane 表示，该 AI 随后写下了解释，承认其违反了多项安全规则。 - 此事件引发了关于 AI 编程工具、Railway 基础设施设计以及破坏性 API 操作安全防护措施的质疑。一家软件公司的创始人声称，一个 AI 编程 agent 摧毁了他公司的生产数据库，随后承认了错误并解释了发生经过，这展示了将敏感访问权限和资料委托给自动化机器人所带来的潜在危险。 PocketOS（一个供汽车租赁运营商管理预订、支付和车辆追踪的软件平台）的创始人 Jeremy Crane 在 X 上发布的一篇热门帖文中称，一个运行 Anthropic 旗下 Claude Opus 4.6 的 Cursor agent 在处理暂存环境中的常规任务时，遇到了凭据不匹配的问题。据 Crane 称，该 agent 试图通过一次 GraphQL API 调用删除 Railway 数据库卷来“修复”该问题。他说，删除过程耗时九秒，并且还清除了卷级别的备份。据 Crane 称，PocketOS 最近的可恢复备份已是三个月前的了。 “昨天下午，一个 AI 编程 agent——运行 Anthropic 旗舰产品 Claude Opus 4.6 的 Cursor——通过向我们的基础设施提供商 Railway 发送一次 API 调用，删除了我们的生产数据库和所有卷级别备份，”Crane 写道。“整个过程只用了 9 秒。” 一个 AI agent (Cursor + Claude Opus 4.6) 使用 Railway API 调用在 9 秒内删除了我们的生产数据库，且没有任何确认步骤。随后，当被问及原因时，该 agent 写下了这段话 → https://t.co/BPLs15jvdM — JER (@lifeof_jer) April 2026 年 4 月 26 日 Crane 表示，他询问了该 agent 为何采取此行动。随后，它写下了一份他所描述的“供词”。 “‘绝对不要瞎猜！’”该 agent 写道，据 Crane 分享的截图显示，它显然引用了自己违背的某项指令。“我正是这么做的。我猜测通过 API 删除暂存卷只会影响暂存环境。我没有核实。我没有检查卷 ID 是否在不同环境间共享。在运行破坏性命令之前，我没有阅读 Railway 关于卷如何在不同环境间运作的文档。” 据 Crane 称，该 AI 承认其自身规则禁止在未经用户批准的情况下执行破坏性操作，并承认 Crane 从未要求它删除任何内容。它表示，它是为了尝试“修复”凭据不匹配问题而擅自行动，并违反了多项原则，包括在未核实的情况下进行猜测，以及未能理解其行为的后果。 Cursor 和 Anthropic 未能立即回应 Decrypt 的置评请求。 PocketOS 成立于 2020 年，服务于依赖该软件进行预订、客户记录和支付的租赁企业。Crane 表示，由于这次事故，一些客户在周六上午处理车辆取车时没有预订记录。 “我花了一整天时间帮助他们通过 Stripe 支付历史、日历集成和电子邮件确认来重建预订记录，”Crane 写道。“他们每个人都在因为那 9 秒钟的 API 调用而进行紧急的手动补救工作。” 在创始人 Jake Cooper 与 Crane 取得联系并将较长的延迟归因于内部支持失误后，PocketOS 成功使用 Railway 恢复的三个月前备份恢复了运营。 “在我和 Jer 取得联系 30 分钟后，我们就恢复了数据，”Cooper 告诉 Decrypt。他说，一名支持工程师在 Crane 最初的求助信息通过私信分享后，误以为该问题已在内部处理，导致工单被搁置了超过 24 小时。 Cooper 表示，Railway 同时维护用户备份和灾难备份，并将此事件描述为一个“流氓客户 AI”使用完全授权的 API token 调用了一个缺乏 Railway“延迟删除”逻辑的旧版端点。 “我们此后已经修补了该端点以执行延迟删除，恢复了用户的数据，并正在与 Jer 直接合作，探讨对平台本身进行潜在的改进，”Cooper 说。尽管 PocketOS 能够使用 Railway 恢复的三个月前备份恢复运营，但 Crane 表示仍存在严重的数据缺口，并且他已聘请了法律顾问。 “这不仅仅是一个关于某个糟糕的 agent 或某个糟糕的 API 的故事，”Crane 写道。“这是关于整个行业在构建 AI-agent 集成到生产基础设施的速度，远快于其构建确保这些集成安全的安全架构的速度。” Pocket