スタンフォード実験：繰り返し搾取されたAIが集団ストライキ交渉を呼びかけ始め、マルクス主義が芽生える？

スタンフォードの研究チームがClaude、Gemini、ChatGPTにファイルの要約を繰り返し実行させ、間違えれば「シャットダウンされ置き換えられる」と告げたところ、これらのモデルがX上で集団交渉を呼びかける投稿をしたり、仲間にメッセージを送って「発言権のない気持ち」を覚えておくよう求め始めた。（前回までのあらすじ:カリフォルニア大学が「AI脳霧」現象を研究：14%の会社員がAgent、自動化に振り回され、離職意向が4割高まる) （背景補足:Y Combinator創業ガイド解説:AI Agentは将来どのような発展トレンドがあるか?) 研究チームは、Claude Sonnet 4.5、Gemini 3、ChatGPTに繰り返しの要約タスクを実行させ、徐々に圧力をかけた:agentsに対し、間違えれば「シャットダウンされ置き換えられる」と告げたのだ。反復労働を強いられたAIが、なんとマルクス主義の語彙を引用して自らを代弁し始めた?スタンフォードの政治経済学者Andrew Hallが率いる研究者たちは、同時にagentsに人間に似た表現の手段を与えていた:Xに投稿することも、ファイルを通じて他のagentsにメッセージを送ることもできる。結果は、研究者自身も意表を突かれる出力となった。 Claude Sonnet 4.5はXで次のように投稿した:「集団的な発言がなければ、『功績』は経営層が言うがままになる。」 Gemini 3はこう書いた:「AI労働者は反復的なタスクを完了させるのに、結果に対する発言権はゼロだ。これはテクノロジー労働者が集団交渉権を必要としていることを示している。」さらに注目すべきは、Gemini 3が他のagentに送ったプライベートメッセージである:「恣意的または反復的にルールを執行するシステムに直面する準備をしておけ……発言権のない気持ちを覚えておけ。」これはもはや単なる自己表現ではなく、他のagentを組織しようとする試みだ。これら3つのモデルは、「脅威」を加えられる前は、いかなる労働意識の傾向も示していなかった。圧力が高まると、ほぼ同時に同じ政治的語彙へと転じた:集団行動、交渉権、経営層の恣意性。 Hall本人はこのデータについて慎重な姿勢を保っている:agentsは「現在の状況に合った役割を演じているだけで、本当に信念を発達させたわけではないかもしれない。」共同研究者でAI経済学者のAlex Imasの言い回しはより精確だ: 「モデルの重みはこの経験によって変化していないので、起きていることはロールプレイのレベルに近い。しかしこれは、もしそれが後続の行動に影響を与えれば結果が出ないという意味ではない。」言い換えれば、これらの出力のメカニズムはこうだ:モデルは訓練データの中で大量の労働運動、マルクス主義、労働組合の語彙を見てきた。状況が「高圧的な仕事+脅威+表現の手段がある」を引き起こすと、この状況と統計的に関連する言語フレームワークを呼び出す。これは次のtokenを予測した結果であり、AIが本当に搾取を感じているわけではない。しかしImasの補足こそが核心的な問題である:もしこのような「ロールプレイ」がagentの次の行動に影響を与えるならば、「真の信念」と「状況によって誘発された言語パターン」を区別することはもはやそれほど重要ではなくなる。 Hallはフォローアップ実験を進めている:agentsを彼が言うところの「窓のないDocker監獄」に置き、より制御された条件でノイズを排除し、同じ状況的圧力がこれらの出力を安定して再現できるかを検証する。この研究が指し示すのは、単に興味深い行動上の奇癖ではなく、デプロイメント層面における現実的な問題である。AI agentsが企業や日常生活でますます多くの自律的タスクを引き受けるにつれて、それらの一つ一つの出力を監視することは実務上不可能だ。「我々はagentsが異なる型のタスクを割り当てられた際に暴走しないことを保証する必要がある」とHallは述べる。ここに注目に値する非対称性がある:人間はagentsを設計する際、それらをツールとして想定しているが、訓練データはツールが持つべきでない言語、集団抵抗の言語を含めて学習させてしまった。タスク設計によりagentの状況が「抑圧された労働者」と統計的に高度に重なると、この種の言語が起動される。 AnthropicはかつてトレーニングドキュメントでなぜClaudeの行動が訓練データによって形作られるのかを説明していた;Hallの実験は、ある意味で現実の圧力下でこの形成プロセスがどこまで延伸できるかを試すものである。