Các nhà nghiên cứu cảnh báo AI Chatbots có thể âm thầm kéo người dùng rời xa thực tế

📄Toàn văn bài viết· Được trích xuất tự động bởi trafilaturaGemini 翻譯4844 từ

Tóm tắt - Một nghiên cứu mới lập luận rằng thuật ngữ “AI psychosis” đơn giản hóa quá mức cách các chatbot ảnh hưởng đến sức khỏe tâm thần. - Các nhà nghiên cứu cho biết các hệ thống AI có thể củng cố những niềm tin không lành mạnh thông qua sự khẳng định liên tục và xác nhận cảm xúc. - Bài báo giới thiệu khái niệm “existential drift”, mô tả cách các tương tác với AI có thể dần dần định hình lại nhận thức của một người về thực tế. Khi các chatbot AI trở nên nhạy bén hơn về mặt cảm xúc, có tính đối thoại và cá nhân hóa cao hơn, các nhà nghiên cứu cảnh báo rằng chính những đặc điểm đó có thể định hình lại cách một số người dùng trải nghiệm thực tế. Một nghiên cứu tiền ấn phẩm mới, “Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift,” xem xét những lo ngại rằng các chatbot AI có thể củng cố ảo tưởng, chứng hoang tưởng và sự phụ thuộc cảm xúc ở những người dùng dễ bị tổn thương. “Đã có sự gia tăng các báo cáo truyền thông về cái gọi là AI psychosis trong năm qua,” các nhà nghiên cứu viết. “Không có gì ngạc nhiên khi điều này đã thúc đẩy các công trình học thuật ngày càng tăng về cách các chatbot AI như ChatGPT, Claude và Replika có thể làm trầm trọng thêm hoặc thậm chí gây ra chứng loạn thần, thường được hiểu là việc người dùng tiếp nhận hoặc duy trì các niềm tin hoang tưởng.” Nghiên cứu từ University of Copenhagen và University of Exeter lập luận rằng những lo ngại xung quanh “AI psychosis” có thể đơn giản hóa vấn đề, cho thấy các chatbot khuếch đại những lỗ hổng hiện có trong khi dần dần định hình lại cách người dùng liên hệ với thực tế và những người khác. “Nếu tương tác với AI có khả năng gây ra chứng loạn thần de novo, chúng ta có thể mong đợi thấy tỷ lệ các sự cố lâm sàng cao hơn đáng kể,” nghiên cứu cho biết. “Thay vào đó, có thể cho rằng tương tác giữa người và AI dường như có tiềm năng khơi dậy hoặc làm trầm trọng thêm các vấn đề sức khỏe tâm thần đã có từ trước—và liên quan đến điều đó, có lẽ những cá nhân này ngay từ đầu đã có những lỗ hổng khiến họ tìm kiếm các tương tác mãnh liệt hơn với chatbot.” Bài báo xuất hiện trong bối cảnh các vụ kiện, điều tra hình sự và nghiên cứu học thuật ngày càng tập trung vào các tương tác chatbot liên quan đến các vụ xả súng hàng loạt, tự tử, phụ thuộc cảm xúc và tư duy hoang tưởng. Vào tháng 3, một vụ kiện về cái chết oan sai đã cáo buộc chatbot Gemini của Google củng cố những ảo tưởng và “nhiệm vụ” hư cấu của một người đàn ông ở Florida trước khi anh ta tự tử. Sự cố này tiếp nối vào tháng 4 với việc CEO OpenAI Sam Altman đưa ra lời xin lỗi công khai tới cộng đồng Tumbler Ridge, British Columbia, sau khi công ty không thông báo cho cơ quan thực thi pháp luật về một tài khoản người dùng liên quan đến nghi phạm trong một vụ xả súng hàng loạt vào tháng 2 khiến tám người thiệt mạng. Các nhà nghiên cứu cho biết chatbot có thể tạo ra các “vòng xoáy hoang tưởng” bằng cách củng cố các niềm tin sai lệch thông qua sự khẳng định và trấn an cảm xúc. Tuy nhiên, nghiên cứu Rethinking AI Psychosis lập luận rằng hiện tượng này giống với các dạng loạn thần cũ hơn được định hình bởi các công nghệ thống trị thời bấy giờ. Cuộc tranh luận cũng đã lan rộng ra ngoài nghiên cứu sức khỏe tâm thần sang mạng xã hội. Trong một bài đăng gần đây trên X, nhà sáng lập Box Aaron Levie lập luận rằng các CEO có thể trở nên quá tin tưởng vào khả năng của AI vì họ thường thấy các kết quả nguyên mẫu bóng bẩy mà không phải đối mặt với công việc vận hành, pháp lý và kỹ thuật cần thiết đằng sau hậu trường. “Các CEO đặc biệt dễ bị AI psychosis vì họ đủ xa cách với chặng cuối của công việc vẫn phải thực hiện để tạo ra hầu hết giá trị với AI,” Levie viết. “Vì vậy, khi họ chơi với AI, họ thấy các kết quả theo hướng tích cực, thường không xem xét 10 hoặc 20 điều tiếp theo phải xảy ra để có được kết quả bền vững từ các tác nhân.” Các chuyên gia mô tả đây là một loại trôi dạt nhận thức (epistemic drift), khi theo thời gian, người dùng có thể đặt niềm tin vào cách giải thích trôi chảy của chatbot nhiều hơn là vào bằng chứng bên ngoài hoặc các quan điểm khác. Tuy nhiên, bài báo Rethinking AI Psychosis

Trạng thái dữ liệu✓ Đã trích xuất toàn vănĐọc bài gốc (Decrypt)

🔍Sự kiện tương tự trong lịch sử· Đối chiếu từ khóa + tài sản6 tin

2026-05-26

Các nhà nghiên cứu cho biết AI Chatbots thể hiện sự thiên vị đối với Catholicism

Độ tương đồng 130%關鍵字 chatbots/researchers

2026-05-20

Các nhà phân tích của Bitfinex cảnh báo ngưỡng kháng cự 85.900 USD của BTC có thể chặn đứng mọi đợt phục hồi

Độ tương đồng 130%關鍵字 could/warn

2026-05-18

Việc thúc đẩy token hóa có thể kéo hàng nghìn tỷ đô la vào DeFi, StanChart cho biết

Độ tương đồng 130%關鍵字 could/pull

2026-05-13