Peneliti Google dan Meta bersuara bersama: keamanan AI Agent bukan masalah model, melainkan masalah sistem

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯1831 kata

Peneliti Google, Meta dan pakar akademisi bersama-sama menerbitkan makalah yang menyatakan bahwa perlindungan keamanan AI Agent tidak boleh hanya bergantung pada peningkatan kemampuan model, melainkan harus membangun arsitektur pertahanan di tingkat sistem, dengan memperlakukan AI sebagai "komponen yang tidak dapat dipercaya". (Ringkasan sebelumnya: Kolom SlowMist: Menyerahkan dana kepada "lobster" AI Agent, apakah benar-benar aman? Laporan bersama Bitget mengungkap lima risiko utama) (Latar belakang tambahan: PrimePiper: prime broker untuk transaksi AI agent, memungkinkan AI agent bertransaksi dengan aman di pasar global) 《Agent Security is a Systems Problem》ditulis bersama oleh peneliti dari Google, Gray Swan AI, EmbraceTheRed dan beberapa universitas, yang setelah menganalisis berbagai kasus serangan mengusulkan tiga mekanisme kunci yang dapat secara efektif menghilangkan sejumlah besar serangan AI Agent. Makalah yang direvisi dan diterbitkan pada 20 Mei tersebut menyatakan bahwa praktik arus utama industri saat ini adalah "membuat model lebih kuat" untuk meningkatkan ketahanan AI Agent, namun metode ini sendiri tidak cukup. Tim peneliti berpendapat bahwa keamanan AI Agent seharusnya meminjam prinsip dan teknik yang telah teruji selama puluhan tahun di bidang keamanan komputer. Argumen inti dalam makalah ini adalah: "Melalui sudut pandang ini, meskipun upaya meningkatkan ketahanan model itu penting, namun tidak dapat menyelesaikan masalah secara mandiri. Kita harus melengkapi upaya yang ada dengan teknik dari bidang keamanan sistem." Tim peneliti lebih lanjut menjelaskan: "Kami memandang keamanan Agent sebagai sebuah instansi dari keamanan komputer. Bidang ini telah lama menangani penyerang yang kuat, dan telah mendorong penelitian prinsip dan teknik selama puluhan tahun untuk menghadapi musuh-musuh ini." Setelah menganalisis beberapa kasus serangan, tim peneliti mengusulkan tiga mekanisme yang dapat menghilangkan sejumlah besar serangan: Pertama, AI Agent harus dengan jelas membedakan antara "instruksi" dan "data yang tidak dapat dipercaya". Dalam banyak kasus, AI Agent mencampurkan instruksi dan data dari sumber yang sama dalam pemrosesan, sehingga penyerang dapat menyembunyikan instruksi jahat di dalam data, membuat Agent mengambil keputusan yang salah. Kedua, AI Agent harus menjalankan "prinsip hak akses minimum". Agent tidak boleh secara default memiliki hak akses penuh, melainkan hanya boleh memiliki hak akses minimum yang diperlukan untuk menjalankan tugas. Ini berarti ketika AI Agent menjalankan transaksi, memeriksa saldo, atau menanyakan informasi, mereka harus menggunakan tingkat hak akses yang sesuai untuk masing-masing. Ketiga, sistem harus secara aktif mengendalikan aliran informasi sensitif. Bukan membiarkan AI Agent sendiri memutuskan ke mana data harus dikirim, melainkan sistem di lapisan yang lebih tinggi menetapkan aturan, memastikan informasi sensitif tidak dikirim ke tujuan yang tidak aman. Pada hari yang sama dengan penerbitan makalah ini, asisten transaksi kripto AI bernama Bankr mengumumkan penghentian sementara transaksi, karena ditemukan setidaknya 14 dompet telah dibobol oleh penyerang. Pakar keamanan menduga bahwa AI bot tersebut mungkin telah dimanfaatkan oleh peretas. Kepala Atribusi Merkle Science, Aaron Ratcliff, tahun lalu pernah menyatakan bahwa dari sudut pandang keamanan, memberikan akses dompet kepada AI Agent sama saja dengan menambahkan lapisan kepercayaan pada sistem yang secara desain memang tanpa kepercayaan. "Jika Anda menyerahkan dompet kepada AI, itu sama saja dengan menambah satu lapisan kepercayaan. Hanya jika sistem dirancang dengan benar, barulah aman." Ratcliff menekankan bahwa AI Agent seharusnya memiliki kemampuan berikut sebelum melakukan transaksi: menangkap front-running, menetapkan batas atas slippage, mengidentifikasi token penipuan, mengaudit smart contract secara real-time, sekaligus juga melakukan sandbox terhadap prompt, mencegah injeksi, dan memblokir akses man-in-the-middle. Penerapan AI Agent di bidang kripto sedang tumbuh dengan cepat. Co-founder dan CEO Circle, Jeremy Allaire, pada bulan Januari tahun ini pernah memprediksi bahwa dalam lima tahun akan ada miliaran AI Agent yang menjalankan transaksi dan tugas atas nama pengguna. Saat ini AI Agent telah digunakan untuk membangun aplikasi Web3, menerbitkan token, berinteraksi secara mandiri dengan layanan dan protokol, dan beberapa platform bahkan mulai mengeksplorasi penerapan AI di bidang transaksi. Solana juga baru-baru ini mengadakan hackathon AI, yang menarik 12 proyek baru AI Agent untuk berpartisipasi. Co-founder platform blockchain AI-native Sahara AI, Sean Ren, berpendapat bahwa Model Context Protocol (MCP), jika diatur dengan benar, adalah standar emas keamanan, namun pengguna tetap harus memperhatikan setiap tindakan yang dilakukan AI Agent. Ren menyatakan: "MCP pada dasarnya berperan sebagai penjaga gerbang antara model AI dan dompet Anda. Agent hanya dapat menjalankan tindakan tertentu yang telah disetujui, seperti memeriksa saldo atau menyiapkan pembayaran untuk Anda konfirmasi, bukan secara bebas memindahkan dana atau mengubah pengaturan dompet." Pasar kripto Taiwan sedang aktif mengadopsi teknologi AI Agent, beberapa dompet dan bursa lokal telah meluncurkan fitur transaksi berbantuan AI pada tahun 2025. Seiring dengan pertumbuhan eksponensial jumlah AI Agent, membangun perlindungan keamanan di tingkat sistem akan menjadi isu kunci infrastruktur. Penelitian ini mengingatkan kita bahwa keamanan AI Agent bukanlah "semakin kuat model semakin baik", melainkan "semakin lengkap arsitektur sistem semakin aman". Di masa depan ketika miliaran AI Agent berjalan secara bersamaan, desain keamanan di tingkat sistem akan menentukan stabilitas pasar kripto.

Status data✓ Teks lengkap telah diambilBaca artikel asli (動區 BlockTempo)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset6 berita

2026-05-20

Google bersama Samsung meluncurkan kacamata pintar baru: Audio glasses akan rilis musim gugur ini untuk menantang pangsa pasar Meta yang melebihi 70%

Tingkat kemiripan 170%關鍵字 google/meta同分類 zh

2026-05-19

Iran kembali beraksi: menyerukan pungutan biaya transit kabel bawah laut kepada Google, Meta, Amazon, jika tidak akan mengancam memutus jaringan

Tingkat kemiripan 170%關鍵字 google/meta同分類 zh

2026-04-29

7 Saham Raksasa AS umumkan laporan keuangan hari ini! Laporan keuangan Microsoft, Google, Meta, dan Amazon, serta belanja modal AI akan pengaruhi pergerakan TSMC

Tingkat kemiripan 140%關鍵字 google/meta同分類 zh

2026-04-23