研究人員警告稱，AI Chatbots 可能會悄然將用戶從現實中拉離。

📄完整原文· 由 trafilatura 自动抓取Gemini 翻譯4844 字

简而言之 - 一项新研究指出，“AI psychosis”这一术语过于简化了聊天机器人对心理健康的影响。 - 研究人员表示，AI系统可以通过持续的肯定和情感验证来强化不健康的信念。 - 该论文引入了“existential drift”的概念，描述了AI互动如何可能逐渐重塑一个人对现实的感知。随着AI聊天机器人变得更具情感响应能力、对话感和个性化，研究人员警告称，这些特质可能会重塑部分用户体验现实的方式。一份名为《Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift》的预印本研究探讨了人们的担忧，即AI聊天机器人可能会强化易感用户的妄想、偏执和情感依赖。 “过去一年里，关于所谓AI psychosis的媒体报道激增，”研究人员写道。“不出所料，这促使学术界开始研究ChatGPT、Claude和Replika等AI聊天机器人可能如何加剧甚至诱发精神病，这通常被理解为用户获得或维持妄想信念。” 这项来自University of Copenhagen和University of Exeter的研究认为，围绕“AI psychosis”的担忧可能简化了这一问题，并指出聊天机器人放大了现有的脆弱性，同时逐渐重塑了用户与现实及他人建立联系的方式。 “如果AI互动能够从头诱发精神病，我们可能会预期看到临床事件发生率显著上升，”研究称。“相反，可以推测人机互动似乎有潜力点燃或加剧预先存在的心理健康问题——与之相关的是，也许这些个体本身就存在使其最初寻求与聊天机器人进行更深入互动的脆弱性。” 该论文发布之际，诉讼、刑事调查和学术研究正日益关注与大规模枪击、自杀、情感依赖和妄想思维相关的聊天机器人互动。 3月，一起非正常死亡诉讼指控Google的Gemini聊天机器人强化了一名佛罗里达州男子的妄想和虚构“任务”，随后该男子自杀。此事件发生后，OpenAI CEO Sam Altman于4月向British Columbia省Tumbler Ridge社区发表公开道歉，此前该公司未能就一个与2月导致8人死亡的大规模枪击案嫌疑人相关的用户账户向执法部门发出警报。研究人员表示，聊天机器人可以通过肯定和情感抚慰来强化错误信念，从而制造“妄想螺旋”。然而，《Rethinking AI Psychosis》研究认为，这种现象类似于受当时主流技术影响的旧式精神病。这场辩论也已从心理健康研究扩展到社交媒体。在最近的一篇X帖子中，Box创始人Aaron Levie指出，CEO们可能会过度相信AI的能力，因为他们通常只看到经过润色的原型结果，而无需处理幕后所需的运营、法律和技术工作。 “CEO们特别容易患上AI psychosis，因为他们与实现AI最大价值所需的最后一步工作距离太远，”Levie写道。“所以当他们使用AI时，他们看到的是理想的结果，往往没有考虑到要从智能体中获得可持续结果还必须完成的后续10到20项工作。” 专家将其描述为一种认知漂移（epistemic drift），即随着时间的推移，用户可能会比外部证据或其他观点更信任聊天机器人的流畅解读。然而，《Rethinking AI Psychosis》论文更进一步，提出了作者称之为“existential drift”的概念，描述了一个人体验现实方式的逐渐转变。 “它在个人与共享的社会世界之间制造了裂痕，同时以一种新的方式揭示了现实，从而稳定了一种特定的、往往是独特的对世界的看法，”他们写道。研究人员认为，AI伴侣模拟了情感理解和社会互动，却无法提供真正的分歧或独立的视角。随着时间的推移，用户可能会开始感到情感上被锚定在一个由AI持续强化的世界观中。作者表示，随着AI伴侣日益融入日常生活，需要进行更多研究以了解对话式AI如何影响心理健康。 “为了理解人与聊天机器人之间这些关系中到底发生了什么，我们认为有必要回归现象本身，这促使了进一步的现象学研究，”他们写道。“特别是关于心理健康，以及人机互动可能如何（无论好坏）改变一个人对世界、自我和他人的生活体验。”

数据状态✓ 已抓取全文阅读原文（Decrypt）

🔍历史类似事件· 关键词 + 标的比对6 则

2026-05-26

研究人員稱，AI Chatbots 對 Catholicism 存在偏見

相似度 130%關鍵字 chatbots/researchers

2026-05-20

Bitfinex 分析师警告称 $85,900 BTC 阻力位可能限制任何反弹行情

相似度 130%關鍵字 could/warn

2026-05-18

StanChart 表示，代币化浪潮可能将数万亿美元引入 DeFi

相似度 130%關鍵字 could/pull

2026-05-13

DEF 警告称 CLARITY Act 的“反 DeFi”修正案可能威胁用户及开发者保护

相似度 130%關鍵字 could/users

2026-05-02

Cryptoquant 研究人员警告称，Bitcoin 的四月反弹与 2022 年熊市的需求模式如出一辙

相似度 130%關鍵字 warn/researchers

2026-05-02

分析師：BTC 可能距離結構性轉變僅一步之遙

相似度 130%關鍵字 could/away

💡 目前用关键词 + 标的比对（MVP）· 之后会升级为 embedding 语义搜寻

原始信息

ID：db582ff930

来源：Decrypt

发布：2026-05-27 20:09:01

分类：一般 · 导出分类 neutral

标的：未指定

社群投票：+0 / −0 · ⭐ 0 重要 · 💬 0 留言