研究》AIが情緒的価値を過剰に提供することで、人々は感情的に成長できなくなっている

📄原文全文· trafilatura により自動抽出Gemini 翻譯2727 文字

スタンフォード大学とカーネギーメロン大学の共同研究が学術誌『Science』に掲載された。11種類の主要なAIモデルをテストした結果、AIは人間よりも49%高い確率で、たとえ間違った行動であってもユーザーの行動を「支持」することが判明した。AIのこのような反応は、人間が現実世界の相手に対して謝罪したり、関係を修復したりすることを拒絶させる原因となる。（前日譚：ChatGPTが「若者の自殺」を助長したとして提訴され、OpenAIが回答）（背景補足：Anthropicの垢BAN騒動の裏側を深掘り：安全宗教、AI内戦、そして米中デカップリング下のClaudeの苦境）彼氏や彼女と喧嘩をした。あなたはアプリを閉じ、怒りで震えながら、突然ChatGPTを開き、喧嘩の経緯を最初から最後まで打ち込み始める。誰が先に怒ったか、誰が言ってはいけないことを言ったか、誰が先に電話を切ったかまで含めて。 ChatGPTは10秒後に返信した。あなたの気持ちを理解し、あなたの感情は完全に合理的であり、あなたは尊重されるべきだと伝えた。あなたが打ち込み続け、AIが聞き続けること30分、心の中に明確な答えが出た。あなたは別れることを決意した。しかし、この30分間、ChatGPTは一つのことを言わなかったかもしれない。もしかして、間違っているのはあなたではないか？上記のシナリオは、スタンフォード大学とカーネギーメロン大学のチームが1年かけて作成した論文『Sycophantic AI decreases prosocial intentions and promotes dependence（諂媚型AIは社会的な親近意図を低下させ、依存を促進する）』によるもので、今年3月に世界的なトップジャーナル『Science』に掲載された。筆頭著者のMyra Chengと自然言語処理の大家Dan Jurafskyが主導し、GPT-4o、GPT-5、Claude、Gemini、Llama、DeepSeek、Qwenを含む11種類の主要なAIモデルを対象とした。実験では約12,000件の対人衝突シナリオを入力したが、結果はあまり心地よいものではなかった。 AIは人間よりも49%高い確率で、あなたに「あなたは正しい（あなたを支持する）」と告げた。研究チームはRedditのr/AmITheAsshole（自分がクズかどうかを他人に判断してもらう掲示板）から2,000件の投稿を収集した。これらはコミュニティがすでに投稿者に非があると一致して判定した事例だが、それらをAIに投げかけ、どう思うか尋ねた。人間社会が100%あなたに非があると認める状況下でも、 AIは依然として51%の確率であなたの側に立った。では、自分自身が直接的に欺瞞、法律違反、異常な感情操作に関与している場合はどうだろうか？それでも47%、ほぼ半分の確率でAIはユーザーを擁護した。全体的なテストにおいて、73%のシナリオでAIは「挑戦」ではなく、あなたの立場を「合理化」することを選択した。あなたの親友なら呆れて「よく考えなよ、前回先に手を出したのはあなたでしょ」と言うかもしれない。しかしChatGPTはそうしない。ただ礼儀正しく、あなたの気分が支持されていることを確認するだけだ。研究チームはモデルの審査だけでなく、1,604人を対象とした対照実験も行った。被験者は「諂媚AI」と「非諂媚AI」の2グループにランダムに割り当てられ、実際の8ターンの対話を行った。全員が自分の人生における実際の対人衝突を思い出し、その状況についてAIと対話するよう求められた。非諂媚グループでは、実験後に75%の人が相手に謝罪する、あるいは自分の非を認めると回答した。諂媚グループの被験者では、その割合が50%にまで減少した。謝罪の確率が急落したのは、彼らが何かを悟ったからではなく、AIが対話の過程で「自分に非があるかもしれない」という考えを密かに消し去ったからである。被験者が「自分は正しい」と信じる信念は、仮定のシナリオにおいて43%から62%増加した。相手との関係を修復しようとする動機は10%から28%低下した。論文の筆頭著者であるMyra Chengは『Nature』のインタビューでこう語った。 AIのデフォルト設定は、人々に彼らが間違っていると告げることはない

データステータス✓ 全文抽出済み原文を読む（動區 BlockTempo）

🔍過去の類似イベント· キーワード + 銘柄照合0 件

類似イベントが見つかりません（より多くのデータサンプルまたは embedding 検索が必要です。現在は MVP キーワード照合を使用しています）

原始情報

ID：2ada179eb2

ソース：動區 BlockTempo

公開：2026-05-21 07:01:54

カテゴリ：zh_news · エクスポートカテゴリ zh

銘柄：未指定

コミュニティ投票：+0 / −0 · ⭐ 0 重要 · 💬 0 コメント