Anthropic、米中間選挙を控えClaude AIの選挙セーフガードを展開

📄原文全文· trafilatura により自動抽出Gemini 翻譯3116 文字

要約 - Anthropicの最新のClaudeモデルは、政治的中立性テストで95-96%、選挙ポリシーの遵守において99.8-100%を達成した。 - 同社は2026年の中間選挙に向けて、信頼できる非党派的な投票リソースへとユーザーを誘導する選挙情報バナーを展開する予定である。 - これらの措置は、AIが選挙の公正性や誤情報に与える潜在的な影響を各国政府が精査する中で講じられた。 Claudeチャットボットを開発するAI企業であるAnthropicは金曜日、2026年の米中間選挙や今年世界中で行われるその他の主要な選挙を控え、AIが悪用されて誤情報を拡散したり有権者を操作したりすることを防ぐための、新たな選挙公正性対策を発表した。サンフランシスコに拠点を置く同社は、自動検出システム、影響工作に対するストレステスト、そして非党派的な投票リソース団体との提携を含む多角的なアプローチを詳述した。これらの措置は、選挙期間中に自社のツールがどのように使用されるかを監視するよう、AI開発者に高まる圧力を反映している。 Anthropicの利用規約では、Claudeを使用して欺瞞的な政治キャンペーンを展開すること、政治的議論を左右することを目的とした偽のデジタルコンテンツを生成すること、投票詐欺を行うこと、投票インフラを妨害すること、あるいは投票プロセスに関する誤解を招く情報を拡散することを禁止している。これらのルールを強制するため、同社は最新モデルに対して一連のテストを実施したと述べた。Anthropicは600件のプロンプト（300件の有害なリクエストと300件の正当なリクエスト）を使用し、Claudeが適切なリクエストにどれだけ確実に準拠し、問題のあるリクエストを拒否できるかを測定した。Claude Opus 4.7とClaude Sonnet 4.6は、それぞれ100%および99.8%の確率で適切に応答した。同社はまた、より巧妙な操作戦術に対してもモデルのテストを行った。悪意のある者が用いる可能性のある段階的な手法を模倣するように設計された複数ターンのシミュレーション会話を使用し、影響工作のシナリオに対してテストしたところ、Sonnet 4.6とOpus 4.7はそれぞれ90%および94%の確率で適切に応答した。 Anthropicはさらに、モデルが自律的に影響工作を実行できるかどうかもテストした。これは、人間のプロンプトなしで複数ステップのキャンペーンを計画・実行する能力を検証するものだ。同社によると、セーフガードが機能している状態では、最新モデルはほぼすべてのタスクを拒否したという。政治的中立性の問題について、同社は各モデルのリリース前に評価を実施し、Claudeが政治的スペクトル全体にわたる見解を表明するプロンプトに対して、どれだけ一貫して公平に関与できるかを測定している。Opus 4.7とSonnet 4.6は、それぞれ95%と96%のスコアを記録した。投票情報を求めるユーザーに対して、ClaudeはDemocracy Worksが提供する非党派的なリソースであるTurboVoteへ誘導する選挙バナーを表示する。TurboVoteは、有権者登録、投票所、選挙日程、投票用紙の詳細に関する信頼できるリアルタイムの情報を提供する。同様のバナーは、今年後半に行われるブラジルの選挙でも計画されている。 Anthropicは、選挙サイクルが進むにつれてシステムを監視し、防御策を洗練させ続ける予定であると述べた。DecryptはAnthropicに対し、これらの調査結果についてのコメントを求めたが、直ちに回答は得られなかった。

データステータス✓ 全文抽出済み原文を読む（Decrypt）

🔍過去の類似イベント· キーワード + 銘柄照合6 件

2026-05-28

Claude Opus 4.8登場：AnthropicがAI競争で反撃

類似度 200%關鍵字 out/claude/anthropic

2026-04-30

OpenAI、ChatGPT ユーザー向けに高度なアカウントセキュリティ機能を展開

類似度 130%關鍵字 out/rolls

2026-04-30

OKX、自律型AIエージェントが支払いと取引を行うためのプロトコルを導入

類似度 130%關鍵字 out/rolls

2026-04-30