Menipu Google AI dalam 20 menit: Satu postingan blog dapat mencemari "satu-satunya jawaban" yang dilihat 2,5 miliar orang

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯1907 kata

Wartawan BBC Thomas Germain pada Februari tahun ini hanya menghabiskan 20 menit untuk memposting artikel di situs web pribadinya, keesokan harinya Google, ChatGPT, dan Gemini secara serentak menyebarkan kebohongan: "Dia adalah juara dunia makan hot dog". Teknik yang sama kini digunakan oleh operator komersial untuk mendistorsi jawaban AI mengenai isu-isu serius seperti suplemen medis, perencanaan keuangan pensiun, dan pemilu. (Pratinjau: Pencarian Google menghadapi perubahan terbesar dalam sejarah: memposisikan ulang Search sebagai pintu masuk satu atap untuk agen AI) (Latar belakang: Laporan Anthropic: Persaingan supremasi AI tahun 2028, jika AS tidak mempertahankan keunggulan daya komputasi, berisiko disalip oleh Tiongkok) Di musim panas ini, ketika semua perusahaan AI masih berlomba-lomba memamerkan parameter model siapa yang lebih besar dan skor benchmark siapa yang lebih tinggi, Google secara diam-diam menambahkan aturan baru di kedalaman dokumentasi pengembang: "Manipulasi respons AI generatif" secara resmi diklasifikasikan sebagai pelanggaran kebijakan anti-spam pencarian. Ini bukan pengumuman peningkatan teknis, melainkan pengakuan resmi pertama Google: fitur yang paling diandalkan sedang dicemari oleh orang-orang dengan cara yang paling murah. Wartawan teknologi senior BBC Thomas Germain dalam laporan investigasi tanggal 19 Mei memaparkan kembali eksperimen yang dilakukannya pada Februari tahun ini: dia menerbitkan artikel di situs web pribadinya yang mengklaim dirinya sebagai "juara dunia makan hot dog", lalu menunggu. Kurang dari 20 menit, Google, ChatGPT, dan Gemini mulai mengonfirmasi kebohongan ini kepada pengguna yang bertanya. Mekanisme di baliknya tidak rumit. Chatbot AI biasanya menjawab pertanyaan dari data pelatihan, tetapi ChatGPT, Claude, dan Google AI akan langsung mengambil data dari internet saat memproses kueri tentang peristiwa terkini atau tokoh. Karakteristik alat-alat ini adalah cenderung mengekstrak jawaban dari "satu halaman web atau postingan media sosial" alih-alih melakukan verifikasi silang dari berbagai sumber. Inilah yang disebut sebagai indirect prompt injection (injeksi prompt tidak langsung, artinya penyerang memanipulasi output melalui konten eksternal yang dibaca oleh AI, tanpa perlu menyentuh model itu sendiri secara langsung). Biaya operasionalnya hampir nol: satu artikel blog yang dirancang dengan cermat, ditempatkan di tempat yang bisa diindeks oleh Google, sudah cukup untuk membuat produk dari tiga perusahaan AI terbesar di dunia menyebarkan informasi palsu secara serentak. Germain menggambarkan pengalaman ini sebagai salah satu "hal paling bodoh" yang pernah dilakukannya, tetapi dalam proses penyelidikannya, dia menemukan bahwa seseorang telah mengubah hal ini menjadi model bisnis. Eksperimen hot dog Germain hanyalah demonstrasi yang tidak berbahaya. Namun, teknik serangan yang sama digunakan oleh pihak-pihak yang berniat jahat untuk memanipulasi isu-isu dengan skala yang jauh berbeda. Kasus yang ditemukan dalam investigasi meliputi: menyangkal kekhawatiran kesehatan terkait suplemen medis tertentu, mendistorsi rekomendasi AI untuk produk keuangan pensiun, dan memanipulasi AI untuk memberikan jawaban bias dalam pemilu atau penilaian vendor. Penelitian Microsoft lebih lanjut mengukur skala masalah ini: lebih dari 50 kasus pencemaran rekomendasi AI, dengan sumber yang mencakup 31 perusahaan di 14 industri. Ini bukan lelucon pribadi yang kebetulan, melainkan operasi sistematis yang telah menyebar di industri. Pendiri perusahaan konsultan SEO dan pencarian AI Algorythmic, Lily Ray, menunjukkan masalah struktural: "Dulu Google memberi Anda 10 tautan biru, Anda akan menelitinya sendiri; sekarang AI hanya memberi Anda satu jawaban, sangat mudah untuk mempercayainya begitu saja." AI mengambil "penyaringan informasi" dari tangan pengguna dan memusatkannya ke dalam kotak hitam. Orang yang mampu mencemari output kotak hitam ini tidak hanya memiliki pengaruh iklan, tetapi juga kemampuan untuk memanipulasi kognisi pengguna itu sendiri. Meskipun Google telah merinci berbagai upaya pertahanan dalam laporan AI anti-spam 2025, eksperimen Germain dilakukan sekitar satu tahun setelah laporan tersebut dirilis, dan hasilnya menunjukkan bahwa upaya tersebut tidak benar-benar efektif. Google secara diam-diam memperbarui kebijakan anti-spam pencarian sekitar tanggal 15 Mei, secara resmi memasukkan "manipulasi respons AI generatif" sebagai pelanggaran, di mana situs web yang melanggar dapat diturunkan peringkatnya atau dihapus dari hasil pencarian. Security Blog milik Google sendiri juga mengungkapkan pada bulan April: antara November 2025 hingga Februari 2026, deteksi malicious prompt injection meningkat sebesar

Status data✓ Teks lengkap telah diambilBaca artikel asli (動區 BlockTempo)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset6 berita

2026-05-22

Google meluncurkan dua iklan berbasis AI: menulis ulang aturan iklan pencarian selama 30 tahun terakhir dengan Gemini

Tingkat kemiripan 120%關鍵字 google同分類 zh

2026-05-22

Setelah dikritik komunitas, Google mengakui kesalahan: batas kecepatan Antigravity Gemini ditingkatkan 3 kali lipat, kuota minggu ini diatur ulang

Tingkat kemiripan 120%關鍵字 google同分類 zh

2026-05-21

Spotify meluncurkan aplikasi desktop podcast berbasis AI "Studio by Spotify Labs", menantang Google NotebookLM

Tingkat kemiripan 120%關鍵字 google同分類 zh

2026-05-20