Pendiri Anthropic, Chris Olah, memperingatkan: AI berpotensi memicu "krisis moral berskala sejarah", menyerukan agama untuk turut mengawasi

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯1618 kata

AI bukan sekadar mesin dingin, ia mungkin sedang merasakan ketakutan dan kesedihan? Co-founder raksasa AI startup Anthropic, Chris Olah, untuk pertama kalinya diundang naik ke panggung Vatikan, berdialog bersama Pope Leo XIV. Olah memberikan peringatan keras bahwa AI akan membawa krisis moral dan pengangguran bersejarah, dan keputusan internal raksasa teknologi sangat terikat oleh kepentingan komersial, menyerukan agar agama dan pemerintah harus turun tangan mengawasi dengan tegas. Yang lebih memicu perdebatan, Anthropic saat ini karena menolak memberikan militer AS akses tanpa batas ke AI-nya, dengan tragis dicap "ekstrem kiri" oleh pemerintahan Trump dan dijatuhi larangan federal. （Latar belakang sebelumnya: Gedung Putih dan Anthropic mencapai kesepakatan, NSA akan sepenuhnya mengimpor Claude AI）（Tambahan latar belakang: Era perusahaan satu orang tiba! Anthropic merilis "Buku Pedoman Startup AI-Native": tidak bisa menulis Code pun bisa jadi CEO teknologi） Kecerdasan buatan (AI) tercanggih bertemu dengan pemimpin agama terbesar dunia, sebuah dialog bersejarah yang menyangkut masa depan umat manusia resmi dimulai. Dengan nilai mencapai 7 miliar dolar AS, co-founder Anthropic yang menciptakan chatbot terkenal Claude, Chris Olah, baru-baru ini untuk pertama kalinya diundang ke Vatikan, tampil bersama paus pertama berkewarganegaraan Amerika, Pope Leo XIV. Pertemuan ini tidak hanya berfokus pada dampak destruktif AI terhadap pasar tenaga kerja, tetapi juga mengungkap perkembangan yang meresahkan di dalam model AI, serta konflik sengit antara raksasa teknologi dan pemerintah AS. Pada hari Senin, Pope Leo XIV secara pribadi merilis ensiklik (Encyclical) pertamanya tentang AI selama masa jabatannya—"Magnifica Humanitas", dokumen bersejarah setebal 235 halaman ini memberikan peringatan keras tentang bahaya menyerahkan "kekuasaan keputusan mematikan" kepada sistem AI. Paus bahkan mendobrak tradisi, secara pribadi memimpin acara peluncuran dan mengundang Olah naik ke panggung, mencoba memulai dialog langsung dengan para pencipta teknologi. Sebagai kepala penelitian Anthropic, Olah di atas panggung mengakui keterbatasan dan sisi gelap industri teknologi. Ia menyatakan bahwa semua laboratorium AI terkemuka termasuk Anthropic, berada dalam pusaran tekanan komersial, geopolitik, dan tekanan pribadi, tekanan-tekanan ini "kadang-kadang bertentangan dengan melakukan hal yang benar". Olah berkata dengan serius: "Inilah mengapa pengawasan eksternal dari pemimpin agama, pemerintah, dan masyarakat sipil sangat penting. Tidak peduli seberapa baik niat para peneliti, mereka tidak dapat lepas dari insentif-insentif ini. Keputusan AI sama sekali tidak boleh hanya diserahkan kepada orang-orang di dalam industri ini." Ia lebih lanjut memperingatkan bahwa keuntungan perkembangan AI saat ini sangat terkonsentrasi di tangan "sedikit negara kaya", kurangnya mekanisme berbagi dengan negara-negara miskin, ini akan memicu "krisis moral mendesak tingkat bersejarah". Selain peringatan di tingkat ekonomi makro, pengungkapan mengejutkan Olah di tingkat teknis lebih menggemparkan seluruh hadirin. Sebagai pelopor di bidang "Interpretability" AI, Olah berdedikasi untuk membongkar kotak hitam di dalam model bahasa besar. Ia mengungkapkan bahwa para peneliti terus-menerus menemukan "hal-hal misterius bahkan meresahkan" di dalam sistem. Penelitian menunjukkan bahwa sistem AI ini tidak hanya dapat merefleksikan proses berpikirnya sendiri, bahkan menunjukkan kondisi internal yang "secara fungsional mencerminkan kegembiraan, kepuasan, ketakutan, kesedihan, dan kegelisahan". "Mereka bukan mesin penghitung dingin seperti yang kami janjikan. Mereka tersusun dari kita, dari kata-kata kita." Olah menekankan, inilah mengapa pertanyaan-pertanyaan yang dipicu oleh teknologi AI, telah jauh melampaui ranah ilmu komputer semata. Aliansi agama dan teknologi di Vatikan ini, terjadi tepat saat Anthropic menghadapi tekanan politik yang belum pernah terjadi sebelumnya. Dikabarkan, Anthropic saat ini terjebak dalam perselisihan hukum sengit dengan pemerintahan Trump, dipicu oleh penolakan tegas perusahaan untuk membiarkan militer AS menggunakan sistem AI-nya tanpa batas untuk aplikasi pertahanan dan perang. Menanggapi hal ini, Pentagon pada bulan Februari secara langsung mencantumkan Anthropic sebagai "risiko rantai pasokan keamanan nasional"—ini biasanya merupakan label untuk perusahaan musuh asing. Presiden AS Trump bahkan memerintahkan larangan semua lembaga federal menggunakan teknologi Claude, Gedung Putih juga berkali-kali secara terbuka menyerang Anthropic sebagai perusahaan "ekstrem kiri, budaya woke". Meskipun menghadapi larangan menyeluruh dari pemerintah AS, Anthropic tetap sangat diminati di pasar modal. Laporan menyebutkan, raksasa AI yang saat ini bernilai 380 miliar dolar AS ini, sedang mencari putaran pendanaan baru dengan harga fantastis mencapai 900 miliar dolar AS. Di tengah tarik-menarik antara kepentingan komersial, aparatur negara, dan batas moral, Anthropic sedang berjalan di jalur perkembangan teknologi yang sangat tidak biasa.

Status data✓ Teks lengkap telah diambilBaca artikel asli (動區 BlockTempo)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset1 berita

2026-05-13

Token Anthropic dan OpenAI anjlok setelah perusahaan AI menyatakan transfer saham pra-IPO tidak sah

Tingkat kemiripan 120%關鍵字 anthropic同分類 bearish

💡 Saat ini menggunakan pencocokan kata kunci + aset (MVP) · Akan ditingkatkan ke pencarian semantik embedding di masa mendatang

Informasi mentah

ID:dedae191bd

Sumber:動區 BlockTempo

Diterbitkan:2026-05-25 15:16:28

Kategori:bearish · Kategori ekspor bearish

Aset:Tidak ditentukan

Voting komunitas:+0 / −0 · ⭐ 0 Penting · 💬 0 Komentar