AI Chatbotsはユーザーを現実から密かに引き離す可能性があると研究者が警告

📄原文全文· trafilatura により自動抽出Gemini 翻譯4844 文字

要約 - 新しい研究は、「AI psychosis」という言葉がチャットボットがメンタルヘルスに与える影響を単純化しすぎていると主張している。 - 研究者らは、AIシステムが絶え間ない肯定や感情的な承認を通じて、不健全な信念を強化する可能性があると指摘している。 - この論文では、AIとの対話がどのように個人の現実認識を徐々に変容させるかを示す「existential drift」という概念が導入されている。 AIチャットボットがより感情的に反応し、会話的でパーソナライズされたものになるにつれ、研究者らは、それらの特性が一部のユーザーの現実体験そのものを変容させる可能性があると警告している。新しいプレプリント研究「Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift」は、AIチャットボットが脆弱なユーザーの妄想、パラノイア、感情的依存を強化する可能性があるという懸念を検証している。「昨年、いわゆるAI psychosisに関するメディア報道が急増した」と研究者らは記している。「当然のことながら、これはChatGPT、Claude、ReplikaといったAIチャットボットが、ユーザーが妄想を抱いたり維持したりするという意味で、精神病を悪化させ、あるいは誘発さえする可能性があるという点について、学術的な研究を促進させることとなった」コペンハーゲン大学とエクセター大学によるこの研究は、「AI psychosis」をめぐる懸念が問題を単純化しすぎている可能性を指摘し、チャットボットは既存の脆弱性を増幅させつつ、ユーザーが現実や他者と関わる方法を徐々に変容させていると示唆している。「もしAIとの対話がde novoで精神病を誘発できるのであれば、臨床的なインシデントの発生率が大幅に高まると予想されるだろう」と研究は述べている。「むしろ、人間とAIの対話には、既存のメンタルヘルスの問題を刺激したり悪化させたりする可能性があり、関連して、こうした個人はそもそもチャットボットとのより強烈な対話を求めるような脆弱性を抱えていた可能性があると考えられる」この論文は、銃乱射事件、自殺、感情的依存、妄想的思考に関連するチャットボットとの対話に、訴訟、刑事捜査、学術研究の焦点がますます集まる中で発表された。 3月には、GoogleのGeminiチャットボットが、あるフロリダ州の男性の自殺前に、彼の妄想や架空の「ミッション」を強化したとして、不法死亡訴訟が提起された。この事件に続き、4月にはOpenAIのCEOであるSam Altmanが、ブリティッシュコロンビア州Tumbler Ridgeのコミュニティに対し、8人が死亡した2月の銃乱射事件の容疑者に関連するユーザーアカウントについて、同社が法執行機関に警告しなかったことについて公に謝罪した。研究者らは、チャットボットが肯定や感情的な安心感を通じて誤った信念を強化することで、「delusional spirals（妄想の渦）」を生み出す可能性があると述べている。しかし、「Rethinking AI Psychosis」の研究は、この現象は、その時代の支配的なテクノロジーによって形作られた古い形態の精神病に似ていると主張している。この議論はメンタルヘルス研究の枠を超え、ソーシャルメディアにも広がっている。最近のXへの投稿で、Boxの創業者であるAaron Levieは、CEOはAIの背後にある運用上、法的、技術的な作業に対処することなく、洗練されたプロトタイプの成果ばかりを見るため、AIの能力を過信しがちであると論じた。「CEOはAI psychosisに陥りやすい。なぜなら、AIで最大の価値を生み出すために必要な最後の詰め（last mile of work）から十分に距離を置いているからだ」とLevieは書いている。「そのため、彼らがAIを試すとき、彼らは『ハッピーパス』の結果しか見ておらず、エージェントから持続可能な結果を得るために必要な次の10や20のステップを考慮していないことが多い」専門家はこれを一種の「epistemic drift」と表現している。これは、時間が経つにつれて、ユーザーが外部の証拠や他の視点よりも、チャットボットの流暢な解釈を信頼するようになる状態を指す。しかし、「Rethinking AI Psychosis」の論文は、著者が「existential drift」と呼ぶ概念でさらに踏み込み、人が現実そのものを体験する方法の段階的な変化を説明している。「それは、個人と共有された社会的世界との間に亀裂を生じさせると同時に、

データステータス✓ 全文抽出済み原文を読む（Decrypt）

🔍過去の類似イベント· キーワード + 銘柄照合6 件

2026-05-26

AIチャットボットはカトリック教徒に偏見を示していると研究者が指摘

類似度 130%關鍵字 chatbots/researchers

2026-05-20

Bitfinexのアナリストは、85,900ドルのBTCレジスタンスが回復ラリーを抑制する可能性があると警告

類似度 130%關鍵字 could/warn

2026-05-18

トークン化の推進により、数兆ドルがDeFiに流入する可能性があると、StanCharteは述べる

類似度 130%關鍵字 could/pull

2026-05-13