Google、Metaの研究者が共同で提言：AI Agentのセキュリティはモデルの問題ではなく、システムの問題である

📄原文全文· trafilatura により自動抽出Gemini 翻譯1831 文字

Google、Meta の研究者と学術界の専門家が共同で論文を発表し、AI Agent のセキュリティ防護はモデル能力の向上だけに頼るべきではなく、システムレベルで防御アーキテクチャを構築し、AI を「信頼できないコンポーネント」として扱うべきだと指摘した。（前回までのあらすじ：SlowMist コラム：資金を「ロブスター」AI Agent に託すのは本当に安全か？Bitget と共同で発表したレポートが5つの主要リスクを明らかに）（背景補足：PrimePiper：AI agent 取引のためのプライムブローカー、AI agent がグローバルな取引市場で安全に取引できるように）『Agent Security is a Systems Problem』は Google、Gray Swan AI、EmbraceTheRed および複数の大学の研究者が共同で執筆したもので、様々な攻撃事例を分析した上で、大量の AI Agent 攻撃を効果的に排除できる3つの重要なメカニズムを提唱している。 5月20日に改訂・発表された論文では、現在業界の主流のアプローチは「モデルをより強力にする」ことで AI Agent の堅牢性を高めることだが、この方法自体では不十分だと指摘している。研究チームは、AI Agent のセキュリティは、コンピュータセキュリティ分野で数十年にわたり検証されてきた原則と技術を借用すべきだと考えている。論文の中核的な論点は次の通りだ：「この視点を通じて、モデルの堅牢性を向上させる努力は重要ではあるが、単独では問題を解決できない。我々はシステムセキュリティ分野の技術で既存の取り組みを補完しなければならない。」研究チームはさらに次のように説明している：「我々は Agent のセキュリティをコンピュータセキュリティの一例として捉えている。この分野は長年にわたり強力な攻撃者に対処しており、こうした敵に対抗するための原則と技術に関する数十年にわたる研究を促してきた。」研究チームは複数の攻撃事例を分析した上で、大量の攻撃を排除できる3つのメカニズムを提唱している：第一に、AI Agent は「命令」と「信頼できないデータ」を明確に区別すべきである。多くの場合、AI Agent は同じデータソース内の命令とデータを混在させて処理してしまうため、攻撃者がデータ内に悪意のある命令を隠し、Agent に誤った判断をさせることができてしまう。第二に、AI Agent は「最小権限の原則」を遵守すべきである。Agent はデフォルトで完全なアクセス権を持つべきではなく、タスク実行に必要な最小限の権限のみを持つべきである。これは、AI Agent が取引の実行、残高の確認、情報の照会を行う際に、それぞれ対応する権限レベルを使用すべきであることを意味する。第三に、システムは機密情報の流れを能動的に制御すべきである。AI Agent 自身にデータをどこに送るかを決めさせるのではなく、より上位のシステムがルールを設定し、機密情報が安全でない宛先に送信されないようにする。論文が発表されたまさにその日、AI 暗号資産取引アシスタントの Bankr が取引を一時停止すると発表した。少なくとも14のウォレットが攻撃者に侵入されたことが判明したためだ。セキュリティ専門家は、この AI ボットがハッカーに利用された可能性があると推測している。 Merkle Science の帰属責任者 Aaron Ratcliff は昨年、セキュリティの観点から見ると、AI Agent にウォレットへのアクセスを許可することは、設計上もともと無信頼であるシステムに信頼の層を一つ追加することに等しいと指摘した。「もしあなたがウォレットを AI に渡せば、信頼の層が一つ増えることになる。システム設計が正しい場合にのみ、それは安全だ。」 Ratcliff は、AI Agent は取引前に以下の能力を備えるべきだと強調している：フロントランニング（front-running）の検出、スリッページ上限の設定、詐欺トークンの識別、スマートコントラクトのリアルタイム監査、同時にプロンプトをサンドボックス化し、インジェクションを防ぎ、中間者アクセスを遮断すること。 AI Agent の暗号資産分野での応用は急速に成長している。Circle の共同創設者兼 CEO の Jeremy Allaire は今年1月、5年以内に数十億の AI Agent がユーザーに代わって取引やタスクを実行するようになると予測した。現在、AI Agent はすでに Web3 アプリの構築、トークンの発行、サービスやプロトコルとの自律的なやり取りに使用されており、一部のプラットフォームは取引分野での AI の応用を模索し始めている。Solana も最近 AI ハッカソンを開催し、12 の AI Agent 新プロジェクトの参加を集めた。 AI ネイティブブロックチェーンプラットフォーム Sahara AI の共同創設者 Sean Ren は、モデルコンテキストプロトコル（MCP）は正しく設定されればセキュリティのゴールドスタンダードになるが、ユーザーは AI Agent が実行するすべての動作に注意を払うべきだと考えている。 Ren は次のように述べた：「MCP は本質的に AI モデルとあなたのウォレットの間のゲートキーパーの役割を果たす。Agent は、残高の確認やあなたの確認を待つ支払いの準備など、特定の承認済みの動作のみを実行でき、自由に資金を動かしたりウォレット設定を変更したりすることはできない。」台湾の暗号資産市場は積極的に AI Agent 技術を取り入れており、複数の地元ウォレットや取引所が2025年にすでに AI 補助取引機能を発表している。AI Agent の数が指数関数的に増加するにつれ、システムレベルでセキュリティ防護を構築することはインフラの重要な課題となるだろう。この研究は、AI Agent のセキュリティが「モデルが強ければ強いほど良い」ものではなく、「システムアーキテクチャが完全であればあるほど安全」であることを我々に思い起こさせる。将来、数十億の AI Agent が同時に動作する時代になれば、システムレベルのセキュリティ設計が暗号資産市場の安定性を決定づけるだろう。

データステータス✓ 全文抽出済み原文を読む（動區 BlockTempo）

🔍過去の類似イベント· キーワード + 銘柄照合6 件

2026-05-20

Googleがサムスンと共同で新型スマートグラスを発表：Audio glassesが今秋発売、Metaの70%超のシェアに挑戦

類似度 170%關鍵字 google/meta同分類 zh

2026-05-19

イラン、再び動く：Google、Meta、Amazonに海底ケーブル通行料の支払いを要求、さもなければネット遮断を警告

類似度 170%關鍵字 google/meta同分類 zh

2026-04-29

米株「マグニフィセント・セブン」が本日決算発表！Microsoft、Google、Meta、Amazonの決算内容とAI関連の設備投資がTSMCの株価動向を左右する

類似度 140%關鍵字 google/meta同分類 zh

2026-04-23