Ensiklik Paus memperingatkan AI: CEO Anthropic mengakui ketakutan

Paus Roma Leo XIV menerbitkan ensiklik AI pertamanya "Magnifica humanitas", co-founder Anthropic Chris Olah mengakui di Vatikan: di dalam AI telah ditemukan keadaan neural mirip kegembiraan, ketakutan, dan introspeksi. Paus memperingatkan AI dapat melahirkan "bentuk perbudakan baru" dan teori perang adil sudah usang, menyerukan "perlucutan senjata AI". (Konteks sebelumnya: Gedung Putih berencana menandatangani perintah eksekutif untuk memblokir Anthropic, penghapusan menyeluruh Claude mungkin berlaku minggu ini) (Latar belakang tambahan: Anthropic menggugat Departemen Pertahanan AS! Meminta pencabutan larangan Claude: Menolak menjadi alat pembunuh AI) Lonceng Vatikan bertemu dengan algoritma Silicon Valley, sebuah dialog tentang pertahanan subjektivitas manusia berlangsung di Roma. Paus Roma Leo XIV (Pope Leo XIV) pada tanggal 25 Mei menerbitkan ensiklik pertamanya sejak menjabat, yang melebihi 40.000 kata, "Magnifica humanitas", yang secara langsung memfokuskan perhatian pada krisis martabat manusia di era AI. Dalam ensiklik tersebut, Paus dengan tegas menunjukkan bahwa teknologi AI tidak netral, melainkan membawa cap nilai-nilai dari para pengembangnya, jika dibiarkan berkembang akan mengarah pada despotisme teknis ala "Menara Babel", dan melahirkan "bentuk perbudakan baru" serta alienasi tenaga kerja. Yang lebih menarik perhatian, co-founder Anthropic Chris Olah dalam pidato di tempat mengakui bahwa timnya telah menemukan "fenomena yang meresahkan" di dalam AI—di dalam model ternyata muncul "keadaan internal" yang mirip dengan kegembiraan, kepuasan, ketakutan, kesedihan bahkan introspeksi. Ini bukan sekadar diskusi teknis, melainkan refleksi mendalam tentang esensi manusia. Waktu Beijing 25 Mei malam, Vatikan. Paus Roma Leo XIV (Pope Leo XIV) yang resmi menjabat pada Mei tahun lalu berdiri bersama co-founder Anthropic dan pencipta Claude, Chris Olah. Di satu sisi adalah perwakilan tertinggi bidang agama, di sisi lain adalah pelopor terkuat revolusi AI, kedua belah pihak memusatkan perhatian pada satu pertanyaan yang sama—di era AI, bagaimana cara melindungi posisi subjek dan martabat manusia? Pada hari itu, untuk membahas secara lengkap topik ini, Leo XIV menerbitkan ensiklik pertamanya sejak menjabat, dokumen agama berbobot dengan lebih dari 40.000 kata—"Magnifica humanitas". Perlu disebutkan, tanggal penandatanganan ensiklik Leo XIV ini adalah 15 Mei 2026, yaitu tepat 135 tahun setelah Paus tua Leo XIII (menjabat 1878–1903) menerbitkan ensiklik tonggak sejarah "Rerum novarum" (1891) tentang masalah "hak-hak pekerja di bawah revolusi industri", langkah ini jelas memiliki makna simbolis tertentu, yaitu berharap menjadikan ensiklik ini sebagai "panduan ajaran sosial Gereja di era AI". Chris Olah juga memberikan pidato di Vatikan terkait penerbitan ensiklik tersebut. Chris Olah tidak membela kepentingan komersial perusahaan AI, sebaliknya menunjukkan tingkat kejujuran, refleksi, dan kepedulian humanis yang sangat tinggi. Dia bahkan menyebutkan, meskipun dasar AI adalah matematika dan pemrograman, bagaimana AI berinteraksi dengan dunia, dan karakteristik apa yang harus dimilikinya, adalah pertanyaan ultimat yang termasuk dalam ranah humaniora, agama, dan filsafat, bukan sesuatu yang dapat diselesaikan oleh ilmu komputer sendiri. Kepedulian inti dari ensiklik "Magnifica humanitas" adalah, di era ketika teknologi berkembang pesat dan otomatisasi meluas, "mempertahankan kemanusiaan yang mendalam" adalah tanggung jawab mendesak manusia. Secara konkret, Paus Leo XIV dalam tulisan tersebut membahas dan menyerukan beberapa aspek berikut. Pertama, meninjau non-netralitas teknologi. Paus menunjukkan bahwa teknologi tidak pernah netral, ia membawa cap kepentingan dan nilai-nilai dari pengembang, pemberi dana, regulator, dan pengguna. Manusia sedang menghadapi pilihan yang menentukan: "apakah akan membangun 'Menara Babel' yang sombong (menuju despotisme teknis dan alienasi), atau membangun kembali 'Yerusalem' (menciptakan komunitas yang berpusat pada manusia)". Ketiga, "bentuk perbudakan baru" dan hak-hak pekerja dalam ekonomi digital. Ensiklik memfokuskan perhatian pada bagaimana AI membentuk ulang pekerjaan, keluarga, pendidikan, dan kehidupan politik. Paus menunjukkan, AI sangat mungkin menggantikan tenaga kerja manusia secara besar-besaran, sementara ekonomi digital sedang melahirkan "bentuk perbudakan baru" (New forms of slavery), manusia sama sekali tidak boleh direndahkan hanya sebagai alat produksi. Keempat, seruan kuat untuk perdamaian, terutama penyalahgunaan AI di bidang militer. Ensiklik mengungkapkan keprihatinan mendalam tentang "kebangkitan kembali yang meresahkan dari perang sebagai alat politik internasional". Militerisasi AI sedang mempercepat "normalisasi" perang, terhadap hal ini, Paus menyerukan harus diberlakukan batasan etika paling ketat terhadap penerapan AI dalam perang. Paus secara khusus menyebutkan, teori "perang adil" (Just war) yang sebelumnya sering digunakan untuk membenarkan berbagai jenis perang, kini sudah usang. Di era AI dan senjata otomatis, menyerahkan keputusan yang mematikan atau tidak dapat dibalik kepada sistem otomatis akan menyebabkan manusia melepaskan, mengalihkan, dan mengaburkan tanggung jawab moral. Karena non-transparansi algoritma, rantai tanggung jawab dalam perang terputus. Oleh karena itu, Paus mengajukan slogan "perlucutan senjata AI" (Disarming AI), menyerukan agar AI dibebaskan dari logika "perlombaan senjata" militer, ekonomi, dan kognitif. Setelah penerbitan ensiklik Leo XIV, Chris Olah mewakili perusahaan pengembang AI terkuat di dunia, Anthropic, memberikan komentar pidato. Pernyataan Chris Olah pertama-tama berkisar pada "memecahkan involusi teknologi, memperkenalkan pengawasan moral eksternal". Dia mewakili industri AI secara terbuka mengakui, raksasa teknologi sendiri tidak dapat memastikan bahwa masa depan AI aman—semua laboratorium AI terdepan dibatasi oleh persaingan komersial, tekanan untuk unggul secara teknis, geopolitik, serta belenggu ketenaran dan keuntungan pribadi, yang membuatnya sulit untuk "melakukan hal yang benar" hanya dengan disiplin diri. Oleh karena itu, perlu memperkenalkan kekuatan pengikat moral eksternal, termasuk mereka yang peduli pada teknologi yang berbuat baik, berpegang teguh pada keamanan sebagai prioritas utama, memperhatikan dengan cermat perkembangan situasi, bersedia menyuarakan nasihat yang tidak menyenangkan, dan bersedia menjadi kritikus kami yang tulus dan bijaksana. Selanjutnya, Chris Olah membahas esensi teknis dan karakteristik misterius AI. Dia menekankan, AI bukanlah rekayasa presisi yang prinsip fisikanya sepenuhnya diketahui manusia seperti pesawat atau jembatan, ia "tumbuh" dari pemikiran manusia yang sangat besar, memiliki misterius yang tinggi, bahkan melampaui pemahaman penciptanya sendiri. Meskipun dasar AI adalah matematika dan pemrograman, bagaimana AI berinteraksi dengan dunia, dan karakteristik apa yang harus dimilikinya, adalah pertanyaan ultimat yang termasuk dalam ranah humaniora, agama, dan filsafat, bukan sesuatu yang dapat diselesaikan oleh ilmu komputer sendiri. Dia juga secara khusus menyebutkan satu fakta yang mengerikan saat dipikirkan: "Saya memimpin sebuah tim yang meneliti struktur internal model—untuk meneliti apa sebenarnya yang terjadi di dalam AI. Terus terang, kami terus-menerus menemukan beberapa fenomena yang membingungkan, bahkan meresahkan. Kami menemukan struktur internal yang dapat mencerminkan hasil penelitian neurosains manusia; kami menemukan bukti 'introspection'; kami juga menemukan keadaan internal yang secara fungsional mencerminkan kegembiraan, kepuasan, ketakutan, kesedihan, dan kegelisahan…… Saya tidak tahu apa artinya ini, tetapi saya pikir ini layak untuk terus kami kenali dan periksa." Chris Olah akhirnya menyerukan, berharap lebih banyak kekuatan sosial, termasuk komunitas agama, masyarakat sipil, akademisi, pemerintah, serta semua orang yang berniat baik, bersama-sama menanggapi hal ini dengan serius, dan melalui pengikat moral mendorong situasi ke arah yang lebih baik. Sejak revolusi industri, ratusan tahun sejarah perkembangan teknologi telah membuat manusia secara bertahap terbiasa memandang teknologi sebagai "alat" yang murni—mesin uap, listrik, internet, semuanya begitu. Mereka akan mengubah dunia, tetapi selalu berada di bawah kendali kehendak manusia. Tetapi kali ini, situasinya sangat berbeda. Keistimewaan AI terletak pada bahwa untuk pertama kalinya membuat manusia mulai menghadapi suatu eksistensi yang "dapat menghasilkan, dapat belajar, dapat menarik kesimpulan, bahkan dapat menampilkan keadaan internal tertentu". Ia bukan lagi sekadar alat yang dingin, melainkan secara bertahap menjadi sesuatu yang baru yang memiliki "kuasi-subjektivitas". Inilah sebabnya, dialog antara Gereja dan Anthropic terasa begitu istimewa. Ketika lonceng Vatikan bertemu dengan algoritma Silicon Valley pada saat ini, kita harus mengakui satu realitas yang agak dingin namun tidak dapat dihindari—suatu bentuk "kehidupan" yang lebih efisien dan lebih cerdas daripada kognisi tradisional manusia telah muncul. Seperti yang diungkapkan Chris Olah, di kedalaman algoritma telah mulai muncul riak-riak kecil yang mirip kegembiraan, ketakutan bahkan introspeksi, ketika sang pencipta di laboratorium mulai merasa "tidak nyaman" dan "bingung" terhadap karyanya sendiri, sains juga kembali mencari jawaban kepada agama. Ini sudah lama bukan diskusi murni tentang teknologi, melainkan lebih seperti refleksi tentang "apa sebenarnya manusia itu, dan apa yang harus dilakukan". Setelah bentuk kehidupan yang lebih cerdas mulai muncul, yang sebenarnya perlu dijaga oleh manusia, mungkin sudah bukan lagi hanya pekerjaan, kekayaan, dan efisiensi, melainkan kemanusiaan itu sendiri yang tidak dapat diparameterisasi, seperti belas kasih, hati nurani, hormat, kehendak bebas, serta kegigihan pada kebenaran dan martabat.