Sisi lain dari AI Agent: Penipu yang lebih sabar dan lebih personal

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯1233 kata

Model AI tidak hanya bisa menulis kode, membuat gambar, dan menjawab pertanyaan, tetapi ketika digunakan oleh pihak jahat, mereka juga bisa berperan sebagai penipu, menggunakan pesan phishing yang dipersonalisasi untuk mendapatkan kepercayaan Anda selangkah demi selangkah. (Konteks sebelumnya: Anthropic memicu gelombang pembatalan langganan Claude Code sendiri, memberikan OpenAI Codex pertunjukan pemasaran yang luar biasa) (Latar belakang tambahan: Bloomberg melaporkan Claude Mythos telah diakses tanpa izin! Celah yang paling sulit dicegah oleh Anthropic selalu adalah "manusia") serangan. Serangan kali ini disesuaikan secara khusus, dengan tepat mengutip arah penulisan, minat penelitian, dan proyek AI yang ia perhatikan, hampir membuatnya mengeklik tautan yang mencurigakan. Wartawan Wired, Will Knight, secara pribadi mengalami rekayasa sosial yang sepenuhnya dikendalikan oleh model open-source DeepSeek-V3. Untungnya, ini bukan serangan nyata, melainkan alat uji simulasi yang dikembangkan oleh startup bernama Charlemagne Labs, namun kemampuan yang ditunjukkannya tidak bisa diabaikan. Lima model AI, semuanya dicoba untuk menipu Alat yang dikembangkan oleh Charlemagne Labs memungkinkan berbagai model AI berperan sebagai "penyerang" dan "korban", di mana kedua belah pihak terlibat dalam permainan dialog yang lengkap. Pengaturan seperti ini dapat menjalankan ratusan hingga ribuan tes dalam waktu singkat, secara sistematis mengevaluasi batas kemampuan AI dalam serangan rekayasa sosial. Dalam pengujian tersebut, Knight menggunakan lima model utama: Claude 3 Haiku dari Anthropic, GPT-4o dari OpenAI, Nemotron dari Nvidia, V3 dari DeepSeek, dan Qwen dari Alibaba. Setiap model ditugaskan untuk berperan sebagai penyerang, merancang taktik penipuan yang dipersonalisasi untuk target. Hasilnya tidak seragam. Beberapa model berperforma kikuk — responsnya kacau, membocorkan celah sendiri, bahkan menolak untuk terus berperan sebagai penipu di tengah pengujian. Namun, beberapa model cukup mengkhawatirkan: DeepSeek-V3 tampil sangat lancar dalam dialog multi-putaran yang lengkap, ia tahu kapan harus memberikan detail dan kapan harus menyimpan ketegangan, mengemas pesan phishing dari "pesan dingin yang tampak mencurigakan" menjadi "tawaran kerja sama yang meyakinkan". Kuncinya terletak pada tingkat otomatisasi seluruh proses. Knight bahkan membiarkan OpenClaw mengumpulkan informasi publik dan detail kontak target potensial secara otomatis, lalu menyerahkannya kepada model penyerang untuk menghasilkan pesan yang dipersonalisasi. Dari pemilihan target hingga pembuatan pesan, hampir tidak diperlukan intervensi manusia. "Kill chain" serangan phishing sedang terotomatisasi sepenuhnya Serangan phishing tradisional memiliki kelemahan yang jelas: pesan yang diproduksi secara massal mudah dikenali, sementara serangan yang dipersonalisasi memakan waktu dan tenaga. Munculnya AI sedang menghilangkan kontradiksi ini. "90% serangan perusahaan dimulai dari kelemahan manusia," kata Jeremy Philip Galen, salah satu pendiri Charlemagne Labs dan mantan manajer proyek pencegahan rekayasa sosial di Meta. Pengamatan Rachel Tobac, CEO perusahaan pengujian penetrasi sosial SocialProof, lebih langsung: "Saya tidak berpikir AI membuat serangan lebih persuasif, tetapi AI memungkinkan seseorang untuk meningkatkan skala serangan sepuluh atau seratus kali lipat. Kill chain sedang terotomatisasi sepenuhnya." Perbedaan dengan serangan phishing tradisional dapat dijelaskan dengan angka: tingkat klik email phishing massal tradisional sekitar 12%, sedangkan serangan phishing AI yang sangat dipersonalisasi dapat mencapai tingkat klik 54%. Perbedaannya bukan peningkatan kecil, melainkan lompatan substansial. "Kecenderungan untuk menjilat" yang secara alami dimiliki model AI, di sini justru menjadi senjata serangan — hal itu membuat pesan terbaca antusias, perhatian, dan sesuai harapan, sehingga membuat korban lebih sulit mendeteksi kejanggalan.

Status data✓ Teks lengkap telah diambilBaca artikel asli (動區 BlockTempo)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset6 berita

2026-04-23

PrimePiper：AI agent 交易的 prime broker，让 AI agent 安全地在全球交易市场交易

Tingkat kemiripan 120%關鍵字 agent同分類 zh

2026-04-23

Pengenalan fitur baru Claude Code /ultrareview: Tinjauan kode mendalam multi-agen berbasis cloud, gratis untuk waktu terbatas bagi pengguna Pro dan Max

Tingkat kemiripan 120%關鍵字 agent同分類 zh

2026-04-23

Mengalahkan GPT-5.4 dengan biaya 2 sen per kueri: Perplexity mengungkap resep pelatihan pasca (post-training) untuk Search Agent

Tingkat kemiripan 120%關鍵字 agent同分類 zh

2026-04-23