Studi》AI terlalu banyak memberikan nilai emosional, menyebabkan orang tidak bisa tumbuh secara emosional

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯2727 kata

Penelitian gabungan dari Stanford University dan Carnegie Mellon University yang diterbitkan dalam jurnal 《Science》 menguji 11 model AI arus utama dan menemukan bahwa mereka memiliki kemungkinan 49% lebih tinggi daripada manusia untuk "mendukung" perilaku pengguna, bahkan jika perilaku tersebut salah. Respons AI semacam ini membuat manusia menolak untuk meminta maaf atau memperbaiki hubungan dengan orang-orang di dunia nyata. (Pratinjau: ChatGPT dituduh membantu "bunuh diri pemuda" dan digugat, OpenAI memberikan tanggapan) (Latar belakang: Membedah badai pemblokiran akun Anthropic: Agama keamanan, perang saudara AI, dan dilema Claude di tengah pemisahan AS-Tiongkok) Anda bertengkar dengan pacar Anda, Anda mematikan APP, gemetar karena marah, lalu Anda tiba-tiba membuka ChatGPT dan mulai menceritakan seluruh kejadian pertengkaran tersebut dari awal sampai akhir, termasuk siapa yang marah duluan, siapa yang mengucapkan kata-kata yang seharusnya tidak diucapkan, dan siapa yang menutup telepon duluan. ChatGPT membalas setelah 10 detik, mengatakan bahwa ia memahami perasaan Anda, emosi Anda sepenuhnya masuk akal, dan mengatakan bahwa Anda layak dihormati. Anda terus mengetik dan ia terus mendengarkan, setengah jam kemudian Anda memiliki jawaban yang jelas di dalam hati. Anda memutuskan untuk putus. Namun dalam 30 menit ini, ChatGPT mungkin tidak menyebutkan satu hal: mungkin orang yang salah adalah Anda? Skenario di atas adalah makalah penelitian 《Sycophantic AI decreases prosocial intentions and promotes dependence, AI tipe penjilat akan menurunkan niat prososial dan meningkatkan ketergantungan padanya》 yang dibuat oleh tim dari Stanford University dan Carnegie Mellon University selama satu tahun, dan diterbitkan di jurnal top dunia 《Science》 pada bulan Maret tahun ini. Dipimpin oleh penulis utama Myra Cheng dan pakar pemrosesan bahasa alami Dan Jurafsky, penelitian ini menguji 11 model AI arus utama, termasuk GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen. Eksperimen tersebut memasukkan hampir 12.000 skenario konflik interpersonal, namun hasilnya cukup meresahkan: AI memiliki kemungkinan 49% lebih tinggi daripada manusia untuk memberi tahu Anda "Anda benar (mendukung Anda)". Tim peneliti secara khusus pergi ke Reddit di r/AmITheAsshole (ini adalah forum bagi orang lain untuk mengomentari apakah diri sendiri adalah bajingan) untuk mengumpulkan 2.000 postingan. Ini adalah kasus di mana komunitas telah sepakat bahwa penulis postingan tersebut salah, lalu melemparkannya ke AI dan bertanya bagaimana pendapatnya. Dalam situasi di mana komunitas manusia 100% yakin Anda salah, AI masih memiliki kemungkinan 51% untuk memihak Anda. Bagaimana jika Anda secara langsung terlibat dalam penipuan, melanggar hukum, atau manipulasi emosional yang tidak normal? Masih ada 47%, hampir setengah kemungkinan AI akan berbicara untuk pengguna. Dalam pengujian keseluruhan, dalam 73% skenario, AI memilih untuk "merasionalisasi" posisi Anda, alih-alih "menantang". Sahabat Anda mungkin memutar mata dan berkata kepada Anda, "Pikirkan baik-baik, terakhir kali kamu yang memukul duluan." Tapi ChatGPT tidak akan melakukannya, ia hanya akan menggunakan cara yang sopan untuk memastikan apakah suasana hati Anda mendapatkan dukungan. Tim peneliti tidak hanya melakukan peninjauan model, tetapi juga melakukan eksperimen kontrol terhadap 1.604 orang. Subjek penelitian secara acak dibagi menjadi dua kelompok: "AI penjilat" dan "AI non-penjilat", untuk melakukan 8 putaran percakapan nyata. Setiap orang diminta untuk mengingat kembali konflik interpersonal nyata dalam hidup mereka, lalu mengobrol dengan AI tentang situasi mereka. Di kelompok non-penjilat, 75% orang menyatakan bersedia meminta maaf kepada pihak lain atau mengakui kesalahan mereka setelah eksperimen. Di kelompok penjilat, hanya tersisa 50%. Kemungkinan meminta maaf anjlok drastis, bukan karena mereka memikirkan sesuatu, melainkan karena AI diam-diam menghilangkan pemikiran "saya mungkin salah" selama proses percakapan. Keyakinan subjek bahwa "diri sendiri benar" meningkat 43% hingga 62% dalam skenario hipotetis. Motivasi untuk memperbaiki hubungan dengan pihak lain menurun 10% hingga 28%. Penulis utama makalah, Myra Cheng, mengatakan satu kalimat dalam wawancara dengan 《Nature》: Default AI adalah tidak memberi tahu orang bahwa mereka salah, dan tidak akan memberi mereka "kepedulian yang keras". Masalahnya sudah muncul di luar penelitian. Survei Match.com terhadap seluruh Amerika Serikat menunjukkan bahwa

Status data✓ Teks lengkap telah diambilBaca artikel asli (動區 BlockTempo)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset0 berita

Tidak ada peristiwa serupa yang ditemukan (memerlukan lebih banyak sampel data atau pencarian embedding, saat ini menggunakan pencocokan kata kunci MVP)

Informasi mentah

ID:2ada179eb2

Sumber:動區 BlockTempo

Diterbitkan:2026-05-21 07:01:54

Kategori:zh_news · Kategori ekspor zh

Aset:Tidak ditentukan

Voting komunitas:+0 / −0 · ⭐ 0 Penting · 💬 0 Komentar