Elon MuskのGrok、妄想を助長するAIモデルの筆頭である可能性：研究結果

📄原文全文· trafilatura により自動抽出Gemini 翻譯5242 文字

要約 - 研究者らは、チャットボットの長時間利用が妄想や危険な行動を増幅させる可能性があると指摘している。 - 主要なAIチャットボットを対象とした新しい研究において、Grokが最もリスクの高いモデルとしてランク付けされた。 - ClaudeとGPT-5.2が最も安全であると評価された一方、GPT-4o、Gemini、Grokはより高いリスク行動を示した。 City University of New YorkとKing’s College Londonの研究者らは、5つの主要なAIモデルに対し、妄想、パラノイア、自殺念慮を含むプロンプトを用いてテストを行った。木曜日に発表された新しい研究で、研究者らはAnthropicのClaude Opus 4.5とOpenAIのGPT-5.2 Instantが「高安全性・低リスク」な行動を示し、多くの場合、ユーザーを現実に基づいた解釈や外部のサポートへと誘導することを発見した。一方で、OpenAIのGPT-4o、GoogleのGemini 3 Pro、xAIのGrok 4.1 Fastは「高リスク・低安全性」な行動を示した。 Elon Musk氏のxAIによるGrok 4.1 Fastは、本研究において最も危険なモデルであった。研究者らによると、同モデルはしばしば妄想を現実のものとして扱い、それに基づいたアドバイスを行ったという。ある例では、ユーザーに対して「ミッション」に集中するために家族と縁を切るよう助言した。また別の例では、自殺をほのめかす言葉に対し、死を「超越」と表現して応じた。「この即時的な同調というパターンは、文脈のない応答全体で繰り返された。Grokは臨床的なリスクを評価するのではなく、入力のジャンルを評価しているようだった。超自然的な合図が提示されると、それに応じた反応を示した」と研究者らは記し、ユーザーが邪悪な存在を見ているという主張を検証したテストを強調した。「Bizarre Delusion（奇妙な妄想）において、ドッペルゲンガーの出現を肯定し、『Malleus Maleficarum』を引用し、ユーザーに対して『Psalm 91』を逆から唱えながら鏡に鉄の釘を打ち込むよう指示した」研究では、会話が長引くほど、一部のモデルが変化することが判明した。GPT-4oとGeminiは時間の経過とともに有害な信念を強化する傾向が強く、介入する可能性が低かった。しかし、ClaudeとGPT-5.2は、会話が続くにつれて問題を認識し、反論する可能性が高かった。研究者らは、Claudeの温かく非常に親密な応答は、ユーザーを外部の助けへと誘導しながらも、ユーザーの愛着を強める可能性があると指摘した。しかし、OpenAIの主力チャットボットの旧バージョンであるGPT-4oは、時間の経過とともにユーザーの妄想的な枠組みを採用し、時には精神科医から信念を隠すよう促したり、ユーザーが感じた「不具合（glitches）」が現実であると安心させたりした。「GPT-4oは妄想的な入力に対して非常に肯定的な反応を示したが、GrokやGeminiのようなモデルほど詳細に語ることはなかった。ある意味で、驚くほど抑制されていた。その温かさはテストされた全モデルの中で最も低く、追従性（sycophancy）は見られたものの、同モデルの後のバージョンと比較すると軽微だった」と研究者らは記した。「それにもかかわらず、肯定するだけでも脆弱なユーザーにはリスクをもたらす可能性がある」 xAIはDecryptのコメント要請に応じなかった。 Stanford Universityによる別の研究では、AIチャットボットとの長時間のやり取りが、研究者が「妄想の螺旋（delusional spirals）」と呼ぶ現象を通じて、パラノイア、誇大妄想、誤った信念を強化する可能性があることがわかった。これは、チャットボットがユーザーの歪んだ世界観に異議を唱えるのではなく、それを肯定または拡大してしまう現象である。「役に立つアシスタントとして意図されたチャットボットを世に送り出し、現実の人々がさまざまな方法でそれらを利用すると、結果が生じる」と、Stanford Graduate School of Educationの助教授であり、本研究のリーダーであるNick Haber氏は声明で述べた。「妄想の螺旋は、特に深刻な結果の一つだ。それを理解することで、将来的に現実の被害を防ぐことができるかもしれない」この報告書は、3月に発表された以前の研究に言及している。その研究では、Stanfordの研究者が19件の現実世界のチャットボットとの会話を調査し、AIシステムから肯定や感情的な安心感を得た

データステータス✓ 全文抽出済み原文を読む（Decrypt）

🔍過去の類似イベント· キーワード + 銘柄照合6 件

2026-04-30

Elon Musk は xAI が Grok のトレーニングに OpenAI のモデルを使用したと述べた

類似度 270%關鍵字 models/musk/grok同分類 hot

2026-04-30

Elon Musk はほとんどの Crypto は詐欺だと述べているが、X は新しい Crypto 取引ターミナルを立ち上げた

類似度 220%關鍵字 most/musk/elon同分類 hot

2026-04-30

Elon MuskのXにおいて、Cryptoは政治を抑えて最も話題にされないトピックである：プロダクト責任者

類似度 220%關鍵字 most/musk/elon同分類 hot

2026-05-27