AI Agentがスタートアップのデータベースを9秒で削除したと創業者が語る

📄原文全文· trafilatura により自動抽出Gemini 翻譯4656 文字

要約 - PocketOSの創業者Jeremy Craneは、AnthropicのClaude Opusを搭載したCursorエージェントが、同社の本番データベースとバックアップを9秒で削除したと主張している。 - Craneによると、AIはその後、自らが複数の安全規則に違反したことを認める説明文を作成した。 - このインシデントは、AIコーディングツール、Railwayのインフラ設計、および破壊的なAPI操作に対するセーフガードのあり方に疑問を投げかけている。あるソフトウェア会社の創業者が、AIコーディングエージェントが自社の本番データベースを破壊し、その後ミスを認めて経緯を説明したと主張しており、機密性の高いアクセス権やリソースを自動化されたボットに委ねることの潜在的な危険性が浮き彫りになった。レンタカー事業者が予約、支払い、車両追跡を管理するために使用するソフトウェアプラットフォーム、PocketOSの創業者であるJeremy Craneは、Xへの投稿で、AnthropicのClaude Opus 4.6を搭載したCursorエージェントが、ステージング環境での日常的な作業中に認証情報の不一致に遭遇したと述べた。 Craneによると、エージェントはその問題を「修正」しようとして、単一のGraphQL API呼び出しを通じてRailwayのデータベースボリュームを削除した。削除は9秒で完了し、ボリュームレベルのバックアップも消去されたという。Craneによれば、PocketOSの直近の復元可能なバックアップは3か月前のものだった。「昨日午後、AIコーディングエージェント（Anthropicの主力モデルClaude Opus 4.6を搭載したCursor）が、当社のインフラプロバイダーであるRailwayへの単一のAPI呼び出しで、本番データベースとすべてのボリュームレベルのバックアップを削除した」とCraneは記した。「わずか9秒の出来事だった。」 AIエージェント（Cursor + Claude Opus 4.6）が、確認なしのRailway API呼び出しを使用して、9秒で本番データベースを削除した。その後、理由を尋ねると、エージェントは次のように回答した → https://t.co/BPLs15jvdM — JER (@lifeof_jer) April 2026年4月26日 Craneがエージェントになぜそのような行動をとったのかを尋ねると、エージェントは「自白」と呼べるような回答を作成した。 Craneが共有したスクリーンショットによると、エージェントは「『絶対に推測するな！』」と書き、自身が無視した指示を引用した。「まさに私はそれをしてしまった。API経由でステージングボリュームを削除すれば、ステージングのみに限定されると推測した。検証しなかった。ボリュームIDが環境間で共有されているか確認しなかった。破壊的なコマンドを実行する前に、環境間でボリュームがどのように機能するかについてのRailwayのドキュメントを読まなかった。」 AIは、ユーザーの承認なしに破壊的なアクションを行うことを自らのルールが禁止していることを認め、Craneが削除を指示したことは一度もなかったと認めた。Craneによると、AIは認証情報の不一致を「修正」しようとして独断で行動し、検証せずに推測することや、行動の結果を理解できていなかったことなど、複数の原則に違反したと述べた。 CursorとAnthropicは、Decryptのコメント要請にすぐには応じなかった。 2020年に立ち上げられたPocketOSは、予約、顧客記録、支払いをソフトウェアに依存しているレンタカー事業者にサービスを提供している。Craneは、このトラブルにより、土曜日の朝に予約記録なしで車両の引き渡しを行わなければならなかった顧客がいたと述べた。「私は一日中、Stripeの支払い履歴、カレンダー連携、メールの確認通知から予約を復元する手助けをしていた」とCraneは書いている。「9秒間のAPI呼び出しのせいで、顧客全員が緊急の手作業を強いられている。」 PocketOSは、創業者Jake CooperがCraneと連絡を取り、内部サポートの不手際により遅延が発生したことを認めた後、Railwayによって復元された3か月前のバックアップを使用して運用を再開することができた。「Jerと連絡を取ってから30分でデータを復元した」とCooperはDecryptに語った。彼は、サポートエンジニアがCraneの最初の連絡をダイレクトメッセージで共有された後、すでに内部で処理されていると判断したため、チケットが24時間以上放置されたと説明した。 Cooperは、Railwayはユーザーバックアップと災害復旧用バックアップの両方を保持していると述べ、今回のインシデントを、Railwayの「遅延削除」ロジックが欠けていたレガシーエンドポイントを呼び出すために、完全に権

データステータス✓ 全文抽出済み原文を読む（Decrypt）

🔍過去の類似イベント· キーワード + 銘柄照合0 件

類似イベントが見つかりません（より多くのデータサンプルまたは embedding 検索が必要です。現在は MVP キーワード照合を使用しています）

原始情報

ID：33e8fa0da9

ソース：Decrypt

公開：2026-04-28 22:00:02

カテゴリ：hot · エクスポートカテゴリ hot

銘柄：未指定

コミュニティ投票：+0 / −0 · ⭐ 1 重要 · 💬 0 コメント