Data poisoning sedang menyebar》Laporan keamanan siber 44 halaman dari EY terungkap: 16 dari 27 referensi adalah hasil rekayasa AI

Perusahaan deteksi AI GPTZero membongkar laporan keamanan siber setebal 44 halaman dari EY Canada, salah satu dari empat firma akuntansi besar (Big Four). Dari 27 referensi yang dikutip, 16 di antaranya adalah halusinasi AI (dibuat-buat atau tidak valid), dan sekitar 72% dari keseluruhan laporan tersebut merupakan teks yang dihasilkan oleh AI. (Konteks sebelumnya: Negara bagian Missouri secara resmi menuntut CoinFlip: ATM kripto menjadi alat penipuan dan pencucian uang, dengan tuntutan ganti rugi maksimal 1,826 juta USD) (Latar belakang tambahan: Kanada berencana melarang ATM kripto: 4.000 mesin, yang pertama di G7, logika kebijakan ditentukan oleh data FINTRAC) Investigasi menemukan bahwa EY Canada merilis "Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems" pada akhir 2025, sebuah buku putih setebal 44 halaman tentang keamanan sistem poin loyalitas anggota yang memiliki cacat fatal. Perusahaan deteksi AI GPTZero mengungkapkan hal ini pada pertengahan Mei. GPTZero memeriksa 27 referensi satu per satu dan menemukan bahwa 16 di antaranya adalah halusinasi, lebih dari 70%. Laporan tersebut tidak menggunakan catatan kaki akademis, melainkan menggunakan anotasi dalam teks dan melampirkan "tabel sumber" di halaman 41 hingga 43, yang mencantumkan judul sumber, deskripsi, URL, dan beberapa menyertakan penerbit serta tanggal. Masalahnya terletak pada tabel ini: hampir semua URL tidak valid atau tidak ada sama sekali, dan lebih dari separuh judul sumber tidak cocok dengan sumber asli mana pun. Sekitar 72% teks dalam laporan tersebut dinilai sebagai hasil buatan AI. Masalah paling langsung dari laporan ini adalah serangkaian angka yang sangat kontradiktif sehingga hampir tidak mungkin ditulis oleh orang yang sama. Ringkasan eksekutif mengklaim bahwa "ukuran pasar poin loyalitas global mencapai 200 miliar USD", dan menunjukkan bahwa 30 hingga 50% poin tidak pernah digunakan. Namun, halaman 10 laporan tersebut menyatakan bahwa "200 miliar USD" adalah total nilai dari "poin yang belum ditukarkan". Jika 50% poin belum ditukarkan dan nilainya sudah mencapai 200 miliar, maka ukuran pasar global setidaknya harus 400 miliar; angka di kedua halaman tersebut saling bertentangan. Yang lebih krusial, kedua angka tersebut masing-masing menyertakan referensi: satu Forbes palsu dan satu McKinsey palsu. GPTZero melacak "McKinsey & Company: Loyalty Economics Report (2022)", dan file ini sama sekali tidak ada. Setelah menelusuri enam bulan ke belakang, mereka menemukan kalimat yang hampir identik dalam postingan blog Financial IT, yang juga mencantumkan laporan McKinsey palsu ini sebagai sumber. Dengan kata lain, seseorang pertama-tama membuat referensi akademis palsu di blog dengan lalu lintas rendah, dan laporan EY kemudian "membersihkannya" menjadi publikasi dari firma Big Four. Inilah yang disebut sebagai polusi rantai referensi (citation chain pollution). Insinyur GPTZero menciptakan istilah untuk fenomena ini: vibe citing. Sederhananya, peneliti atau konsultan terlalu malas untuk memeriksa sumber asli dan membiarkan AI membantu menghasilkan referensi, yang menghasilkan tumpukan entri palsu yang terlihat seperti kutipan tetapi isinya dibuat-buat. Ini adalah bagian pertama dari seri investigasi GPTZero. Dalam beberapa bulan terakhir, mereka telah membangun pipeline otomatis untuk memindai laporan publik dari perusahaan konsultan besar secara sistematis. Hasil awal menunjukkan bahwa vibe citing telah mencapai tingkat epidemi, bahkan pemimpin industri pun terkena dampaknya. GPTZero menyebut bahaya terbesar dari laporan ini sebagai "data poisoning". Sederhananya, mengunggah file yang berisi informasi palsu ke internet sama dengan menyuntikkan racun ke dalam kumpulan pengetahuan yang digunakan semua orang, menyesatkan peneliti dan pembuat kebijakan di masa depan. EY Canada menyediakan layanan audit dan konsultasi bernilai jutaan dolar kepada pemerintah Kanada setiap tahun. Ketika penerbitnya adalah lembaga setingkat ini dan file tersebut ditempatkan di situs web resmi dengan lalu lintas tinggi, racun menyebar lebih cepat dan hilangnya kepercayaan lebih sulit diperbaiki. Laporan ini telah menimbulkan riak di media Australia: sebuah artikel di The Canberra Times yang mengutip laporan ini telah dimuat ulang di lebih dari 60 surat kabar di Australia. Pengujian langsung GPTZero menunjukkan bahwa Claude, ChatGPT, dan Perplexity, ketika ditanya tentang pertanyaan seperti "waktu deteksi rata-rata penipuan program loyalitas", semuanya pernah mengutip laporan EY yang penuh halusinasi ini. Sinyal yang digunakan oleh alat "penelitian mendalam"