AI 聊天機器人可能悄悄地將使用者從現實中拉走，研究人員警告

📄完整原文· 由 trafilatura 自動擷取Gemini 翻譯4844 字

簡要說明 - 一項新研究指出，「AI psychosis」一詞過度簡化了聊天機器人對心理健康的影響。 - 研究人員表示，AI 系統可以透過持續的肯定與情感驗證，強化不健康的信念。 - 該論文提出了「existential drift」，描述了 AI 互動如何可能逐漸重塑一個人對現實的認知。隨著 AI 聊天機器人變得更具情感回應能力、對話感與個人化，研究人員警告，這些特質可能會重塑部分使用者體驗現實的方式。一份名為《Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift》的預印本研究，檢視了關於 AI 聊天機器人可能強化脆弱使用者產生妄想、偏執與情感依賴的擔憂。研究人員寫道：「過去一年中，關於所謂 AI psychosis 的媒體報導激增。不出所料，這促使學術界開始研究 ChatGPT、Claude 與 Replika 等 AI 聊天機器人如何加劇甚至誘發精神病，這通常被理解為使用者獲得或維持妄想信念。」這項由 University of Copenhagen 與 University of Exeter 共同進行的研究認為，圍繞「AI psychosis」的恐懼可能過度簡化了問題，並指出聊天機器人是在放大既有的脆弱性，同時逐漸重塑使用者與現實及他人互動的方式。研究指出：「如果 AI 互動有能力從無到有誘發精神病，我們預期會看到臨床事件發生率顯著上升。相反地，可以推測人機互動似乎有潛力點燃或加劇既有的心理健康問題，且相關地，這些個人或許本身就存在使其最初尋求與聊天機器人進行更強烈互動的脆弱性。」這篇論文發表之際，正值訴訟、刑事調查與學術研究日益關注與大規模槍擊、自殺、情感依賴及妄想思維相關的聊天機器人互動。三月時，一起不當致死訴訟指控 Google 的 Gemini 聊天機器人強化了一名佛羅里達州男子的妄想與虛構「任務」，最終導致其自殺。此事件後，OpenAI CEO Sam Altman 於四月向 British Columbia 的 Tumbler Ridge 社群公開道歉，原因是該公司未向執法部門通報一個與二月份造成八人死亡的大規模槍擊案嫌疑人相關的使用者帳號。研究人員表示，聊天機器人可以透過肯定與情感保證來強化錯誤信念，進而創造「delusional spirals」。然而，《Rethinking AI Psychosis》研究認為，這種現象類似於過去由當時主流技術所形塑的舊型精神病。這場辯論也從心理健康研究擴散至社群媒體。在最近的一則 X 貼文中，Box 創辦人 Aaron Levie 指出，CEO 們可能會過度相信 AI 的能力，因為他們通常只看到經過潤飾的原型結果，而無需處理幕後所需的營運、法律與技術工作。 Levie 寫道：「CEO 們特別容易產生 AI psychosis，因為他們與實現 AI 最大價值所需的最後一哩路工作有足夠的距離。因此，當他們使用 AI 時，他們看到的是順利的結果，往往沒有考慮到要從代理人（agents）獲得永續成果還需要進行的後續 10 或 20 項工作。」專家將此描述為一種認知漂移（epistemic drift），即隨著時間推移，使用者可能會比外部證據或其他觀點更信任聊天機器人的流暢詮釋。然而，《Rethinking AI Psychosis》論文更進一步提出了作者稱為「existential drift」的概念，描述了一個人體驗現實方式的逐漸轉變。他們寫道：「它在個人與共享的社會世界之間製造了裂痕，同時以一種新的方式揭示現實，從而穩定了一種特定的、通常是獨特的觀點。」研究人員認為，AI 伴侶模擬了情感理解與社交互動，卻沒有提供真正的異議或獨立觀點。隨著時間推移，使用者可能會開始感覺在一個由 AI 持續強化的世界觀中獲得情感支撐。作者表示，隨著 AI 伴侶日益融入日常生活，需要更多研究來了解對話式 AI 如何影響心理健康。他們寫道：「為了理解人與聊天機器人之間這些關係中究竟發生了什麼，我們認為回歸現象本身是值得的，這也激勵了進一步的現象學研究。特別是在心理健康方面，以及人機互動如何可能（無論好壞）改變一個人對世界、自我與他人的生活體驗。」

資料狀態✓ 已擷取全文閱讀原文（Decrypt）

🔍歷史類似事件· 關鍵字 + 標的比對6 則

2026-05-26

研究人員表示，AI Chatbots 對 Catholicism 表現出偏見

相似度 130%關鍵字 chatbots/researchers

2026-05-20

Bitfinex 分析師警告 $85,900 BTC 阻力位可能會壓制任何反彈行情

相似度 130%關鍵字 could/warn

2026-05-18

代幣化浪潮可能將數兆美元資金引入 DeFi，StanChart 表示

相似度 130%關鍵字 could/pull

2026-05-13

DEF 警告 CLARITY 法案的「反 DeFi」修正案可能威脅使用者與開發者保護

相似度 130%關鍵字 could/users

2026-05-02

Cryptoquant 研究人員警告 Bitcoin 四月的漲勢與 2022 年熊市的需求模式如出一轍

相似度 130%關鍵字 warn/researchers

2026-05-02

分析師：BTC 可能距離結構性轉變僅差一次突破

相似度 130%關鍵字 could/away

💡 目前用關鍵字 + 標的比對（MVP）· 之後會升級為 embedding 語意搜尋

原始資訊

ID：db582ff930

來源：Decrypt

發佈：2026-05-27 20:09:01

分類：一般 · 導出分類 neutral

標的：未指定

社群投票：+0 / −0 · ⭐ 0 重要 · 💬 0 留言