AI Chatbots Could Quietly Pull Users Away From Reality, Researchers Warn

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯4844 kata

Singkatnya - Sebuah studi baru berpendapat bahwa istilah “AI psychosis” terlalu menyederhanakan bagaimana chatbot memengaruhi kesehatan mental. - Para peneliti mengatakan sistem AI dapat memperkuat keyakinan yang tidak sehat melalui penegasan konstan dan validasi emosional. - Makalah ini memperkenalkan “existential drift,” yang menggambarkan bagaimana interaksi AI dapat secara bertahap membentuk kembali persepsi seseorang terhadap realitas. Seiring dengan semakin responsifnya chatbot AI secara emosional, komunikatif, dan personal, para peneliti memperingatkan bahwa sifat-sifat tersebut dapat membentuk kembali cara sebagian pengguna mengalami realitas itu sendiri. Sebuah studi pracetak baru, “Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift,” mengkaji kekhawatiran bahwa chatbot AI dapat memperkuat delusi, paranoia, dan ketergantungan emosional pada pengguna yang rentan. “Telah terjadi proliferasi laporan media tentang apa yang disebut AI psychosis dalam setahun terakhir,” tulis para peneliti. “Tidak mengherankan, hal ini memicu peningkatan karya akademis mengenai cara chatbot AI seperti ChatGPT, Claude, dan Replika dapat memperburuk atau bahkan memicu psikosis, yang biasanya dipahami dalam konteks pengguna yang memperoleh atau mempertahankan keyakinan delusi.” Studi dari University of Copenhagen dan University of Exeter ini berpendapat bahwa ketakutan seputar “AI psychosis” mungkin terlalu menyederhanakan masalah, dengan menyatakan bahwa chatbot memperkuat kerentanan yang sudah ada sambil secara bertahap membentuk kembali cara pengguna berhubungan dengan realitas dan orang lain. “Jika interaksi AI mampu memicu psikosis de novo, kita mungkin berharap melihat tingkat insiden klinis yang jauh lebih tinggi,” kata studi tersebut. “Sebaliknya, dapat diasumsikan bahwa interaksi manusia-AI tampaknya memiliki potensi untuk menyulut atau memperburuk masalah kesehatan mental yang sudah ada sebelumnya—dan terkait dengan hal itu, mungkin individu-individu ini juga memiliki kerentanan yang membuat mereka mencari interaksi yang lebih intens dengan chatbot sejak awal.” Makalah ini muncul seiring dengan meningkatnya tuntutan hukum, investigasi kriminal, dan studi akademis yang berfokus pada interaksi chatbot yang dikaitkan dengan penembakan massal, bunuh diri, ketergantungan emosional, dan pemikiran delusi. Pada bulan Maret, sebuah tuntutan hukum kematian yang tidak wajar menuduh chatbot Gemini milik Google memperkuat delusi dan “misi” fiktif seorang pria asal Florida sebelum ia bunuh diri. Insiden ini diikuti pada bulan April dengan CEO OpenAI Sam Altman yang mengeluarkan permintaan maaf publik kepada komunitas Tumbler Ridge, British Columbia, setelah perusahaan tersebut gagal memberi tahu penegak hukum tentang akun pengguna yang terkait dengan tersangka dalam penembakan massal bulan Februari yang menewaskan delapan orang. Para peneliti mengatakan chatbot dapat menciptakan “spiral delusi” dengan memperkuat keyakinan palsu melalui penegasan dan kepastian emosional. Namun, studi Rethinking AI Psychosis berpendapat bahwa fenomena tersebut menyerupai bentuk psikosis lama yang dibentuk oleh teknologi dominan pada masanya. Perdebatan ini juga telah menyebar di luar penelitian kesehatan mental ke media sosial. Dalam sebuah postingan X baru-baru ini, pendiri Box Aaron Levie berpendapat bahwa para CEO bisa menjadi terlalu yakin dengan kemampuan AI karena mereka sering melihat hasil prototipe yang dipoles tanpa harus berurusan dengan pekerjaan operasional, hukum, dan teknis yang diperlukan di balik layar. “Para CEO sangat rentan terhadap AI psychosis karena mereka cukup jauh dari tahap akhir pekerjaan yang masih harus dilakukan untuk menghasilkan nilai maksimal dengan AI,” tulis Levie. “Jadi ketika mereka bermain dengan AI, mereka melihat hasil yang ideal, sering kali tanpa mempertimbangkan 10 atau 20 hal berikutnya yang harus dilakukan untuk mendapatkan hasil yang berkelanjutan dari agen-agen tersebut.” Para ahli menggambarkan ini sebagai semacam pergeseran epistemik, di mana seiring waktu, pengguna mungkin lebih memercayai interpretasi lancar chatbot daripada bukti eksternal atau perspektif lain. Namun, makalah Rethinking AI Psychosis melangkah lebih jauh dengan konsep yang disebut penulis sebagai “existential drift,” yang menggambarkan pergeseran bertahap dalam cara seseorang mengalami realitas itu sendiri. “Hal ini menciptakan keretakan antara individu dan dunia sosial bersama, sekaligus mengungkapkan realitas dengan cara baru, sehingga menstabilkan perspektif tertentu yang sering kali bersifat idiosinkratik terhadap dunia,” tulis mereka. Para peneliti berpendapat bahwa pendamping AI mensimulasikan pemahaman emosional dan interaksi sosial tanpa memberikan ketidaksepakatan yang tulus atau perspektif independen. Seiring waktu, pengguna mungkin mulai merasa terikat secara emosional di dalam pandangan dunia yang terus diperkuat oleh AI. Para penulis mengatakan lebih banyak penelitian diperlukan untuk memahami bagaimana AI percakapan memengaruhi kesehatan

Status data✓ Teks lengkap telah diambilBaca artikel asli (Decrypt)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset6 berita

2026-05-26

AI Chatbots Show Bias Toward Catholicism, Researchers Say

Tingkat kemiripan 130%關鍵字 chatbots/researchers

2026-05-20

Analis Bitfinex memperingatkan resistensi BTC di $85.900 dapat membatasi reli pemulihan apa pun

Tingkat kemiripan 130%關鍵字 could/warn

2026-05-18

Dorongan tokenisasi dapat menarik triliunan dolar ke DeFi, kata StanChart

Tingkat kemiripan 130%關鍵字 could/pull

2026-05-13