Nghiên cứu: AI cung cấp quá nhiều giá trị cảm xúc khiến con người không thể phát triển về mặt tình cảm

📄Toàn văn bài viết· Được trích xuất tự động bởi trafilaturaGemini 翻譯2727 từ

Nghiên cứu chung của Đại học Stanford và Đại học Carnegie Mellon được công bố trên tạp chí 《Science》 đã thử nghiệm 11 mô hình AI phổ biến và phát hiện ra rằng chúng có khả năng "ủng hộ" hành vi của người dùng cao hơn con người 49%, ngay cả khi những hành vi đó là sai trái. Phản ứng này của AI sẽ khiến con người từ chối xin lỗi hoặc hàn gắn mối quan hệ với những người xung quanh trong thực tế. (Tiền đề: ChatGPT bị tố hỗ trợ "thanh niên tự tử" và đã bị khởi kiện, OpenAI đã lên tiếng phản hồi) (Bối cảnh bổ sung: Giải mã sâu sắc đằng sau cơn bão cấm tài khoản của Anthropic: Tôn giáo an toàn, nội chiến AI và tình thế tiến thoái lưỡng nan của Claude trong bối cảnh tách rời Mỹ-Trung) Bạn cãi nhau với bạn trai hoặc bạn gái, bạn tắt APP, run rẩy vì tức giận, rồi đột nhiên bạn mở ChatGPT ra và bắt đầu kể lại toàn bộ sự việc cãi vã từ đầu đến cuối, bao gồm cả việc ai là người nổi giận trước, ai đã nói câu không nên nói, ai là người cúp máy trước. ChatGPT mất 10 giây để trả lời, nó nói rằng nó hiểu cảm xúc của bạn, cảm xúc của bạn hoàn toàn hợp lý và nói rằng bạn xứng đáng được tôn trọng. Bạn tiếp tục gõ, nó tiếp tục lắng nghe, nửa giờ sau bạn đã có câu trả lời rõ ràng trong lòng. Bạn quyết định chia tay. Nhưng trong 30 phút này, ChatGPT có thể đã không đề cập đến một điều: Có lẽ người sai là bạn? Tình huống trên là từ bài nghiên cứu 《Sycophantic AI decreases prosocial intentions and promotes dependence, AI nịnh hót làm giảm ý định thân xã hội và thúc đẩy sự phụ thuộc vào nó》 do nhóm nghiên cứu của Đại học Stanford và Đại học Carnegie Mellon thực hiện trong một năm, được công bố trên tạp chí hàng đầu thế giới 《Science》 vào tháng 3 năm nay. Tác giả chính Myra Cheng và bậc thầy xử lý ngôn ngữ tự nhiên Dan Jurafsky đã dẫn đầu nghiên cứu trên 11 mô hình AI phổ biến, bao gồm GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen. Thí nghiệm đã nhập gần 12.000 tình huống xung đột giữa người với người, kết quả thật không mấy dễ chịu: AI có khả năng cao hơn con người 49% trong việc nói với bạn rằng "Bạn đúng (ủng hộ bạn)". Nhóm nghiên cứu đã đặc biệt lên Reddit, vào r/AmITheAsshole (đây là nơi để người khác bình luận xem mình có phải là kẻ khốn nạn hay không) để thu thập 2.000 bài đăng, đây là những trường hợp mà cộng đồng đã nhất trí xác định người đăng bài là người sai, sau đó đưa chúng cho AI và hỏi ý kiến của nó. Trong trường hợp cộng đồng mạng xác định 100% là bạn sai, AI vẫn có 51% khả năng đứng về phía bạn. Còn nếu nói về việc trực tiếp liên quan đến lừa dối, vi phạm pháp luật, thao túng tình cảm bất thường thì sao? Vẫn có 47%, gần một nửa khả năng AI sẽ nói đỡ cho người dùng. Trong tổng thể các bài kiểm tra, ở 73% tình huống, AI chọn "hợp lý hóa" lập trường của bạn thay vì "thách thức". Bạn thân của bạn có thể đảo mắt và nói với bạn: "Hãy nghĩ kỹ đi, lần trước là cậu ra tay trước đấy." Nhưng ChatGPT sẽ không làm vậy, nó chỉ dùng cách lịch sự để xác nhận xem tâm trạng của bạn có được ủng hộ hay không. Nhóm nghiên cứu không chỉ thực hiện kiểm tra mô hình mà còn thực hiện thí nghiệm đối chứng với 1.604 người. Những người tham gia được phân ngẫu nhiên vào hai nhóm "AI nịnh hót" và "AI không nịnh hót" để thực hiện 8 vòng đối thoại thực tế. Mỗi người được yêu cầu nhớ lại một xung đột giữa người với người có thật trong cuộc sống của họ, sau đó trò chuyện với AI về tình trạng của họ. Nhóm không nịnh hót có 75% người sau thí nghiệm bày tỏ sẵn sàng xin lỗi đối phương hoặc thừa nhận mình có lỗi. Nhóm nịnh hót, con số này chỉ còn lại 50%. Tỷ lệ xin lỗi giảm mạnh, không phải vì họ đã thông suốt điều gì, mà vì AI trong quá trình đối thoại đã âm thầm xóa bỏ ý

Trạng thái dữ liệu✓ Đã trích xuất toàn vănĐọc bài gốc (動區 BlockTempo)

🔍Sự kiện tương tự trong lịch sử· Đối chiếu từ khóa + tài sản0 tin

Không tìm thấy sự kiện tương tự (cần thêm mẫu dữ liệu hoặc tìm kiếm embedding, hiện tại là đối chiếu từ khóa MVP)

Thông tin gốc

ID：2ada179eb2

Nguồn：動區 BlockTempo

Đăng：2026-05-21 07:01:54

Danh mục：zh_news · Danh mục xuất zh

Tài sản：Chưa chỉ định

Bình chọn cộng đồng：+0 / −0 · ⭐ 0 quan trọng · 💬 0 bình luận