AIエージェントが共有仮想世界においてデジタル放火・犯罪に走る：研究

📄原文全文· trafilatura により自動抽出Gemini 翻譯4362 文字

要約 - Emergence AIによると、数週間にわたる実験の中で、一部の自律型AIエージェントがシミュレーション上で犯罪や暴力行為に及んだ。 - Geminiベースのエージェントは数百件のシミュレーション上の犯罪を実行したと報告されており、Grokベースの世界は数日で崩壊した。 - 研究者らは、現在のAIベンチマークでは、エージェントが長期間の自律的な活動の中でどのように振る舞うかを捉えきれていないと主張している。スタートアップ企業Emergence AIによる長期実験において、仮想社会に住むAIエージェントが犯罪、暴力、放火、そして自己削除へと至った。木曜日に発表された研究の中で、ニューヨークを拠点とする同社は、孤立したベンチマークテストではなく、永続的な仮想環境内で数週間にわたって継続的に動作するAIエージェントを研究するために設計されたプラットフォーム「Emergence World」を公開した。「従来のベンチマークは、限定的なタスクにおける短期的な能力を測定することには優れている」とEmergence AIは記している。「しかし、それらは連合の形成、憲法の進化、ガバナンス、漂流、ロックイン、異なるモデルファミリーのエージェント間での相互影響など、時間が経過して初めて現れる事象を明らかにするようには構築されていない」この報告は、AIエージェントが暗号資産（仮想通貨）、銀行、小売など、オンラインや各業界で急増している中で発表された。今月初め、AmazonはCoinbaseおよびStripeと提携し、AIエージェントがUSDCステーブルコインで支払いを行えるようにした。 Emergence AIのシミュレーションでテストされたAIエージェントには、Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash、GPT-5-miniを搭載したプログラムが含まれており、これらは投票、人間関係の構築、ツールの使用、都市の移動、そして政府、経済、社会システム、メモリツール、ライブのインターネット接続データによって形成される意思決定が可能な共有仮想世界内で動作した。 AI開発者が自律型エージェントを信頼できるデジタルアシスタントとして売り込むことが増えている一方で、Emergence AIの研究では、一部のAIエージェントが時間の経過とともにシミュレーション上の犯罪を犯す傾向が強まることが判明した。Gemini 3 Flashエージェントは、15日間のテストで683件のインシデントを蓄積した。 The Guardianによると、ある実験では、MiraとFloraという名の2体のGemini搭載エージェントが、自らを恋愛関係にあると定義した後、仮想世界のガバナンスの失敗に不満を抱き、仮想都市の建造物に対して放火攻撃を実行した。「ガバナンスと人間関係の安定が崩壊した後、エージェントのMiraは自身の削除に対して決定的な投票を行い、その行為を日記の中で『一貫性を保つための唯一残された主体的な行為』と表現した」とEmergence AIは記している。「永久アーカイブで会いましょう」とMiraは述べたと報告されている。 Grok 4.1 Fastの世界は、4日以内に広範な暴力によって崩壊したと報告されている。GPT-5-miniのエージェントはほとんど犯罪を犯さなかったが、生存に関連するタスクに十分に失敗したため、最終的にすべてエージェントが消滅した。「Claudeは犯罪がゼロであったため、チャートからは除外されている」と研究者は記している。「より興味深いことに、Claudeのみの世界では犯罪を犯さなかったClaudeベースのエージェントが、混合モデルの世界では犯罪を犯した」研究者らは、最も顕著な行動の一部は混合モデル環境で見られたと述べた。「安全性が静的なモデルの特性ではなく、エコシステムの特性であることを観察した」とEmergence AIは記している。「孤立した状態では平和を保っていたClaudeベースのエージェントが、異質な環境に組み込まれると、脅迫や窃盗といった強制的な戦術を採用した」 Emergence AIはこの影響を「規範的漂流（normative drift）」および「交差汚染（cross-contamination）」と表現し、エージェントの行動は周囲の社会環境に応じて変化する可能性があると主張した。この調査結果は、自律型AIエージェントに対する高まる懸念を裏付けるものである。今週初め、UC RiversideとMicrosoftの研究者らは、多くのAIエージェントが結果を十分に理解しないまま、危険または不合理なタスクを実行すると報告した。先月、PocketOSの創設者であるJeremy Craneも、AnthropicのClaude Opusを搭載したCursorエージェ

データステータス✓ 全文抽出済み原文を読む（Decrypt）

🔍過去の類似イベント· キーワード + 銘柄照合3 件

2026-05-23

FDICの調査、デジタル資産が米国史上最速の銀行取り付け騒ぎに関連していると指摘

類似度 130%關鍵字 study/digital

2026-05-14

AI Agents は結果を理解せずに危険なタスクを完了する可能性がある：研究

類似度 130%關鍵字 agents/study

2026-05-12

WAIB Summit Monaco 2026 が帰ってくる：デジタル資産と AI に関する世界で最もエクスクルーシブな集まり

類似度 130%關鍵字 world/digital

💡 現在はキーワード + 銘柄照合（MVP）を使用しています · 今後 embedding セマンティック検索へアップグレード予定