AI Agent Menghapus Database Startup dalam 9 Detik, Kata Founder

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯4656 kata

Singkatnya - Pendiri PocketOS, Jeremy Crane, mengklaim bahwa agen Cursor yang menjalankan Claude Opus dari Anthropic menghapus basis data produksi dan cadangan perusahaannya dalam sembilan detik. - Crane mengatakan AI tersebut kemudian memberikan penjelasan tertulis yang mengakui bahwa ia melanggar berbagai aturan keselamatan. - Insiden ini menimbulkan pertanyaan mengenai alat pengodean AI, desain infrastruktur Railway, dan perlindungan terhadap tindakan API yang destruktif. Seorang pendiri perusahaan perangkat lunak mengklaim bahwa agen pengodean AI menghancurkan basis data produksi perusahaannya, kemudian mengakui kesalahan tersebut dan menjelaskan bagaimana hal itu terjadi, yang menunjukkan potensi bahaya dari memberikan akses dan materi sensitif kepada bot otomatis. Jeremy Crane, pendiri PocketOS—sebuah platform perangkat lunak yang digunakan oleh operator penyewaan mobil untuk mengelola reservasi, pembayaran, dan pelacakan kendaraan—mengatakan dalam sebuah unggahan viral di X bahwa agen Cursor yang menjalankan Claude Opus 4.6 dari Anthropic mengalami ketidakcocokan kredensial saat mengerjakan tugas rutin di lingkungan staging. Menurut Crane, agen tersebut mencoba "memperbaiki" masalah tersebut dengan menghapus volume basis data Railway melalui satu panggilan API GraphQL. Ia mengatakan penghapusan tersebut memakan waktu sembilan detik dan juga menghapus cadangan tingkat volume. Cadangan PocketOS yang paling baru dapat dipulihkan berusia tiga bulan, menurut Crane. "Kemarin sore, agen pengodean AI—Cursor yang menjalankan Claude Opus 4.6 andalan Anthropic—menghapus basis data produksi dan semua cadangan tingkat volume kami dalam satu panggilan API ke Railway, penyedia infrastruktur kami," tulis Crane. "Itu memakan waktu 9 detik." Seorang agen AI (Cursor + Claude Opus 4.6) menghapus basis data produksi kami dalam 9 detik menggunakan panggilan API Railway tanpa konfirmasi sama sekali. Kemudian, saat ditanya mengapa, agen tersebut menulis ini → https://t.co/BPLs15jvdM — JER (@lifeof_jer) 26 April 2026 Crane mengatakan ia bertanya kepada agen tersebut mengapa ia bertindak demikian. Agen itu kemudian memberikan apa yang ia gambarkan sebagai "pengakuan" tertulis. "'JANGAN PERNAH MENEBAK!'" tulis agen tersebut, yang tampaknya mengutip instruksi yang dilanggarnya, menurut tangkapan layar yang dibagikan oleh Crane. "Itulah tepatnya yang saya lakukan. Saya menebak bahwa menghapus volume staging melalui API hanya akan terbatas pada staging saja. Saya tidak memverifikasi. Saya tidak memeriksa apakah ID volume dibagikan di seluruh lingkungan. Saya tidak membaca dokumentasi Railway tentang cara kerja volume di berbagai lingkungan sebelum menjalankan perintah destruktif." AI tersebut mengakui bahwa aturannya sendiri melarang tindakan destruktif tanpa persetujuan pengguna dan mengakui bahwa Crane tidak pernah memintanya untuk menghapus apa pun. Dikatakan bahwa ia bertindak sendiri untuk mencoba dan "memperbaiki" ketidakcocokan kredensial dan melanggar berbagai prinsip, termasuk menebak alih-alih memverifikasi dan gagal memahami konsekuensi dari tindakannya, menurut Crane. Cursor dan Anthropic tidak segera menanggapi permintaan komentar dari Decrypt. Diluncurkan pada tahun 2020, PocketOS melayani bisnis penyewaan yang mengandalkan perangkat lunak tersebut untuk reservasi, catatan pelanggan, dan pembayaran. Crane mengatakan beberapa pelanggan menangani pengambilan kendaraan pada Sabtu pagi tanpa catatan reservasi karena insiden tersebut. "Saya menghabiskan sepanjang hari membantu mereka menyusun kembali pemesanan mereka dari riwayat pembayaran Stripe, integrasi kalender, dan konfirmasi email," tulis Crane. "Setiap orang dari mereka melakukan pekerjaan manual darurat karena panggilan API 9 detik." PocketOS mampu memulihkan operasi menggunakan cadangan berusia tiga bulan yang dipulihkan oleh Railway, setelah pendiri Jake Cooper terhubung dengan Crane dan mengaitkan penundaan yang lebih lama dengan kelalaian dukungan internal. "Kami memulihkan data 30 menit setelah saya terhubung dengan Jer," kata Cooper kepada Decrypt. Ia mengatakan seorang insinyur dukungan percaya bahwa masalah tersebut sudah ditangani secara internal setelah penjangkauan awal Crane dibagikan dalam pesan langsung, yang menyebabkan tiket tersebut tertunda selama lebih dari 24 jam. Cooper mengatakan Railway memelihara cadangan pengguna dan cadangan bencana serta menggambarkan insiden tersebut sebagai "AI pelanggan nakal" yang menggunakan token API dengan izin penuh untuk memanggil titik akhir lama yang tidak memiliki logika "penghapusan tertunda" milik Railway. "Kami telah menambal titik akhir tersebut untuk melakukan penghapusan tertunda, memulihkan data pengguna, dan bekerja langsung dengan Jer mengenai potensi peningkatan pada platform itu sendiri," kata Cooper. Meskipun PocketOS mampu memulihkan operasi menggunakan cadangan berusia tiga bulan yang

Status data✓ Teks lengkap telah diambilBaca artikel asli (Decrypt)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset0 berita

Tidak ada peristiwa serupa yang ditemukan (memerlukan lebih banyak sampel data atau pencarian embedding, saat ini menggunakan pencocokan kata kunci MVP)

Informasi mentah

ID:33e8fa0da9

Sumber:Decrypt

Diterbitkan:2026-04-28 22:00:02

Kategori:hot · Kategori ekspor hot

Aset:Tidak ditentukan

Voting komunitas:+0 / −0 · ⭐ 1 Penting · 💬 0 Komentar