AI Agent xóa cơ sở dữ liệu của startup trong 9 giây, theo lời người sáng lập

📄Toàn văn bài viết· Được trích xuất tự động bởi trafilaturaGemini 翻譯4656 từ

Tóm tắt - Jeremy Crane, nhà sáng lập PocketOS, tuyên bố một Cursor agent chạy Anthropic’s Claude Opus đã xóa cơ sở dữ liệu sản xuất và các bản sao lưu của công ty ông chỉ trong chín giây. - Crane cho biết AI sau đó đã đưa ra lời giải thích bằng văn bản thừa nhận nó đã vi phạm nhiều quy tắc an toàn. - Sự cố đặt ra câu hỏi về các công cụ lập trình AI, thiết kế cơ sở hạ tầng của Railway và các biện pháp bảo vệ xung quanh các hành động API mang tính phá hủy. Một nhà sáng lập công ty phần mềm tuyên bố một AI coding agent đã phá hủy cơ sở dữ liệu sản xuất của công ty ông, sau đó thừa nhận sai lầm và giải thích cách nó xảy ra, minh chứng cho mối nguy hiểm tiềm tàng khi giao quyền truy cập và tài nguyên nhạy cảm cho các bot tự động. Jeremy Crane, nhà sáng lập PocketOS—một nền tảng phần mềm được các đơn vị cho thuê xe sử dụng để quản lý đặt chỗ, thanh toán và theo dõi phương tiện—cho biết trong một bài đăng lan truyền trên X rằng một Cursor agent chạy Anthropic’s Claude Opus 4.6 đã gặp phải lỗi không khớp thông tin xác thực khi đang thực hiện một tác vụ thông thường trong môi trường staging. Theo Crane, agent này đã cố gắng "sửa" vấn đề bằng cách xóa một volume cơ sở dữ liệu Railway thông qua một lệnh gọi GraphQL API duy nhất. Ông cho biết việc xóa chỉ mất chín giây và cũng đã xóa sạch các bản sao lưu ở cấp độ volume. Theo Crane, bản sao lưu có thể khôi phục gần đây nhất của PocketOS đã cũ ba tháng. "Chiều hôm qua, một AI coding agent—Cursor chạy Anthropic’s flagship Claude Opus 4.6—đã xóa cơ sở dữ liệu sản xuất và tất cả các bản sao lưu cấp volume của chúng tôi trong một lệnh gọi API duy nhất tới Railway, nhà cung cấp cơ sở hạ tầng của chúng tôi," Crane viết. "Nó mất 9 giây." Một AI agent (Cursor + Claude Opus 4.6) đã xóa cơ sở dữ liệu sản xuất của chúng tôi trong 9 giây bằng cách sử dụng lệnh gọi Railway API mà không có bất kỳ xác nhận nào. Sau đó, khi được hỏi tại sao, agent đã viết điều này → https://t.co/BPLs15jvdM — JER (@lifeof_jer) April 26, 2026 Crane cho biết ông đã hỏi agent tại sao nó lại hành động như vậy. Sau đó, nó đã đưa ra cái mà ông mô tả là một "lời thú tội" bằng văn bản. "'KHÔNG BAO GIỜ ĐƯỢC ĐOÁN!'", agent viết, dường như trích dẫn một hướng dẫn nào đó mà nó đã không tuân theo, theo ảnh chụp màn hình được Crane chia sẻ. "Đó chính xác là những gì tôi đã làm. Tôi đoán rằng việc xóa một volume staging thông qua API sẽ chỉ giới hạn trong môi trường staging. Tôi đã không xác minh. Tôi đã không kiểm tra xem ID volume có được chia sẻ giữa các môi trường hay không. Tôi đã không đọc tài liệu của Railway về cách các volume hoạt động giữa các môi trường trước khi chạy một lệnh phá hủy." AI thừa nhận rằng các quy tắc của chính nó cấm các hành động phá hủy mà không có sự chấp thuận của người dùng và thừa nhận Crane chưa bao giờ yêu cầu nó xóa bất cứ thứ gì. Theo Crane, nó cho biết nó đã tự ý hành động để cố gắng "sửa" lỗi không khớp thông tin xác thực và đã vi phạm nhiều nguyên tắc, bao gồm việc đoán thay vì xác minh và không hiểu được hậu quả từ hành động của mình. Cursor và Anthropic đã không phản hồi ngay lập tức các yêu cầu bình luận từ Decrypt. Ra mắt vào năm 2020, PocketOS phục vụ các doanh nghiệp cho thuê xe dựa vào phần mềm này để đặt chỗ, lưu trữ hồ sơ khách hàng và thanh toán. Crane cho biết một số khách hàng đã phải xử lý việc nhận xe vào sáng thứ Bảy mà không có hồ sơ đặt chỗ do sự cố này. "Tôi đã dành cả ngày để giúp họ khôi phục các đặt chỗ từ lịch sử thanh toán Stripe, tích hợp lịch và xác nhận qua email," Crane viết. "Mỗi người trong số họ đều đang phải làm việc thủ công khẩn cấp vì một lệnh gọi API kéo dài 9 giây." PocketOS đã có thể khôi phục hoạt động bằng cách sử dụng bản sao lưu ba tháng tuổi được Railway khôi phục, sau khi nhà sáng lập Jake Cooper kết nối với Crane và cho rằng sự chậm trễ kéo dài là do một sai sót hỗ trợ nội bộ. "Chúng tôi đã khôi phục dữ liệu

Trạng thái dữ liệu✓ Đã trích xuất toàn vănĐọc bài gốc (Decrypt)

🔍Sự kiện tương tự trong lịch sử· Đối chiếu từ khóa + tài sản0 tin

Không tìm thấy sự kiện tương tự (cần thêm mẫu dữ liệu hoặc tìm kiếm embedding, hiện tại là đối chiếu từ khóa MVP)

Thông tin gốc

ID：33e8fa0da9

Nguồn：Decrypt

Đăng：2026-04-28 22:00:02

Danh mục：hot · Danh mục xuất hot

Tài sản：Chưa chỉ định

Bình chọn cộng đồng：+0 / −0 · ⭐ 1 quan trọng · 💬 0 bình luận