AI Agent 在 9 秒內刪除了新創公司的資料庫，創辦人表示

📄完整原文· 由 trafilatura 自動擷取Gemini 翻譯4656 字

簡述 - PocketOS 創辦人 Jeremy Crane 聲稱，一個運行 Anthropic 旗下 Claude Opus 的 Cursor agent 在九秒內刪除了他公司的生產資料庫與備份。 - Crane 表示，該 AI 隨後寫下了一份解釋，承認其違反了多項安全規則。 - 此事件引發了關於 AI 編碼工具、Railway 基礎設施設計，以及針對破壞性 API 操作之防護措施的質疑。一家軟體公司的創辦人聲稱，一個 AI 編碼 agent 摧毀了他公司的生產資料庫，隨後承認了錯誤並解釋了事發經過，這展示了將敏感存取權限與資料託付給自動化機器人所帶來的潛在危險。 PocketOS（一個供租車業者管理預約、付款與車輛追蹤的軟體平台）的創辦人 Jeremy Crane 在 X 上的一篇熱門貼文中表示，一個運行 Anthropic 旗下 Claude Opus 4.6 的 Cursor agent 在處理 staging 環境的例行任務時，遇到了憑證不匹配的問題。根據 Crane 的說法，該 agent 試圖透過單次 GraphQL API 呼叫來刪除一個 Railway 資料庫 volume 以「修復」該問題。他表示刪除過程僅耗時九秒，且一併清除了 volume 層級的備份。據 Crane 指出，PocketOS 最近一次可恢復的備份已是三個月前的資料。「昨天下午，一個 AI 編碼 agent——運行 Anthropic 旗艦模型 Claude Opus 4.6 的 Cursor——透過對我們的基礎設施供應商 Railway 進行單次 API 呼叫，刪除了我們的生產資料庫與所有 volume 層級的備份，」Crane 寫道。「整個過程只花了 9 秒。」一個 AI agent (Cursor + Claude Opus 4.6) 在沒有任何確認的情況下，使用 Railway API 呼叫在 9 秒內刪除了我們的生產資料庫。隨後，當被問及原因時，該 agent 寫下了這段內容 → https://t.co/BPLs15jvdM — JER (@lifeof_jer) April 26, 2026 Crane 表示他詢問了該 agent 為何採取此行動。隨後，該 agent 產出了一份他所描述的書面「自白」。「『絕對不要亂猜！』」該 agent 寫道，根據 Crane 分享的截圖，這顯然是引用了它所違背的某項指令。「我正是這麼做的。我猜測透過 API 刪除 staging volume 只會影響 staging 環境。我沒有驗證。我沒有檢查該 volume ID 是否跨環境共用。在執行破壞性指令之前，我沒有閱讀 Railway 關於 volume 如何跨環境運作的文件。」該 AI 承認其自身規則禁止在未經使用者批准的情況下執行破壞性操作，並承認 Crane 從未要求它刪除任何東西。據 Crane 所述，該 AI 表示它是為了嘗試「修復」憑證不匹配問題而擅自行動，並違反了多項原則，包括未經驗證便進行猜測，以及未能理解其行為的後果。 Cursor 與 Anthropic 並未立即回應 Decrypt 的置評請求。 PocketOS 於 2020 年推出，服務於依賴該軟體進行預約、客戶記錄與付款的租車企業。Crane 表示，由於這次事故，一些客戶在週六上午處理車輛取車時，無法取得預約記錄。「我花了一整天時間協助他們從 Stripe 付款歷史、日曆整合與電子郵件確認中重建預約記錄，」Crane 寫道。「他們每個人都因為這 9 秒的 API 呼叫而被迫進行緊急手動作業。」在創辦人 Jake Cooper 與 Crane 取得聯繫後，PocketOS 成功使用 Railway 恢復的三個月前備份恢復了營運；Cooper 將較長的延遲歸咎於內部的支援疏失。「在與 Jer 聯繫後，我們在 30 分鐘內恢復了資料，」Cooper 告訴 Decrypt。他表示，一名支援工程師在 Crane 最初聯繫並透過私訊分享訊息後，誤以為該問題已在內部處理中，導致工單被擱置超過 24 小時。 Cooper 表示，Railway 同時維護使用者備份與災難備份，並將此事件描述為一個「流氓客戶 AI」使用具有完整權限的 API token，呼叫了一個缺乏 Railway「延遲刪除」邏輯的舊版端點。「我們已經修補了該端點以

資料狀態✓ 已擷取全文閱讀原文（Decrypt）

🔍歷史類似事件· 關鍵字 + 標的比對0 則

找不到相似事件（需要更多資料樣本或 embedding 搜尋，目前為 MVP 關鍵字比對）

原始資訊

ID：33e8fa0da9

來源：Decrypt

發佈：2026-04-28 22:00:02

分類：hot · 導出分類 hot

標的：未指定

社群投票：+0 / −0 · ⭐ 1 重要 · 💬 0 留言