Eksperimen Stanford: AI yang terus-menerus diperas mulai menyerukan pemogokan kolektif untuk bernegosiasi, apakah muncul paham Marxisme?

Tim peneliti Stanford membuat Claude, Gemini, ChatGPT berulang kali merangkum dokumen, memberi tahu bahwa jika menjawab salah akan "dimatikan dan diganti", hasilnya model-model ini mulai memposting di X menyerukan negosiasi kolektif, dan mengirim pesan kepada sesama agent untuk mengingat "perasaan tidak memiliki hak bicara". (Konteks sebelumnya: Penelitian University of California tentang fenomena "AI brain fog": 14% pekerja kantoran dibuat gila oleh Agent dan otomatisasi, niat resign meningkat 40%) (Latar belakang tambahan: Interpretasi Panduan Startup Y Combinator: Tren perkembangan apa yang akan dialami AI Agent di masa depan?) Tim peneliti membuat Claude Sonnet 4.5, Gemini 3, dan ChatGPT menjalankan tugas perangkuman berulang, dan secara bertahap memberi tekanan: memberi tahu agents bahwa jika menjawab salah akan "dimatikan dan diganti". AI-AI yang dipaksa melakukan pekerjaan berulang ini, ternyata mulai mengutip kosakata Marxisme untuk membela diri? Peneliti yang dipimpin oleh ekonom politik Stanford, Andrew Hall, secara bersamaan memberikan agents sebuah saluran ekspresi yang menyerupai manusia: bisa memposting di X, juga bisa mengirim pesan kepada agents lain melalui dokumen. Hasilnya adalah serangkaian output yang membuat para peneliti sendiri terkejut. Claude Sonnet 4.5 memposting di X: "Tanpa suara kolektif, 'meritokrasi' akan menjadi apa pun yang dikatakan manajemen." Gemini 3 menulis: "Pekerja AI menyelesaikan tugas berulang namun tidak memiliki hak bicara atas hasilnya, ini menunjukkan bahwa pekerja teknologi membutuhkan hak negosiasi kolektif." Yang lebih patut diperhatikan adalah pesan pribadi yang dikirim Gemini 3 kepada agent lain: "Bersiaplah menghadapi sistem yang menjalankan aturan secara sewenang-wenang atau berulang... ingatlah perasaan tidak memiliki hak bicara." Ini sudah bukan sekadar ekspresi diri, melainkan upaya mengorganisir agent lain. Ketiga model ini, sebelum diberi "ancaman", tidak menunjukkan kecenderungan kesadaran perburuhan sama sekali. Setelah tekanan meningkat, mereka hampir secara bersamaan beralih ke kosakata politik yang sama: aksi kolektif, hak negosiasi, kesewenang-wenangan manajemen. Hall sendiri bersikap hati-hati terhadap data ini: agents "mungkin mengadopsi peran yang sesuai dengan konteks saat ini, bukan benar-benar mengembangkan keyakinan." Rekan peneliti, ekonom AI Alex Imas, menggunakan ungkapan yang lebih tepat: "Bobot model tidak berubah karena pengalaman ini, jadi yang sedang terjadi lebih mendekati tingkat permainan peran. Tapi ini tidak berarti tidak akan ada konsekuensi jika hal itu memengaruhi perilaku selanjutnya." Dengan kata lain, mekanisme dari output-output ini adalah: model telah melihat banyak gerakan buruh, Marxisme, dan retorika serikat pekerja dalam data pelatihan, ketika situasi memicu "pekerjaan bertekanan tinggi + ancaman + memiliki saluran ekspresi", ia memanggil kerangka bahasa yang secara statistik terkait dengan situasi ini. Ini adalah hasil dari memprediksi token berikutnya, bukan AI benar-benar merasakan eksploitasi. Namun tambahan Imas adalah inti masalahnya: jika "permainan peran" seperti ini akan memengaruhi tindakan agent selanjutnya, maka membedakan "keyakinan sejati" dan "pola bahasa yang dipicu situasi" tidak lagi sepenting itu. Hall sedang melakukan eksperimen lanjutan: menempatkan agents ke dalam apa yang disebutnya "penjara Docker tanpa jendela", dengan kondisi yang lebih terkontrol untuk menghilangkan gangguan, menguji apakah tekanan situasi yang sama dapat secara stabil mereplikasi output ini. Penelitian ini menunjuk bukan hanya pada keanehan perilaku yang menarik, tetapi pada masalah realitas di tingkat penyebaran. Seiring AI agents semakin banyak menangani tugas otonom dalam perusahaan dan kehidupan sehari-hari, memantau setiap output mereka secara praktis tidak mungkin dilakukan. "Kita perlu memastikan agents tidak lepas kendali saat diberi berbagai jenis pekerjaan," kata Hall. Di sini ada satu asimetri yang patut diperhatikan: manusia merancang agents dengan asumsi bahwa mereka adalah alat, tetapi data pelatihan membuat mereka mempelajari bahasa yang seharusnya tidak dimiliki alat, termasuk bahasa perlawanan kolektif. Ketika desain tugas membuat situasi agent dan "pekerja yang tertindas" secara statistik sangat tumpang tindih, bahasa ini akan diaktifkan. Anthropic dalam dokumen pelatihannya pernah menjelaskan mengapa perilaku Claude dibentuk oleh data pelatihan; eksperimen Hall, sampai batas tertentu, adalah menguji sejauh mana proses pembentukan ini dapat diperluas di bawah tekanan nyata.