AI Agent のもう一つの側面：より忍耐強く、よりパーソナライズされた詐欺師

📄原文全文· trafilatura により自動抽出Gemini 翻譯1233 文字

AIモデルはプログラミングや画像生成、質問への回答ができるだけでなく、悪意ある人物に利用されれば詐欺師になりすまし、パーソナライズされたフィッシングメッセージで段階的に信頼を勝ち取ることさえ可能です。（前回のあらすじ：Anthropicが自らClaude Codeの解約ブームを誘発、OpenAI Codexに巨大なマーケティングショーをプレゼント）（背景補足：BloombergがClaude Mythosへの不正アクセスをスクープ！Anthropicにとって最も防ぎにくい穴は常に「人間」）攻撃。今回の攻撃はカスタマイズされており、彼の執筆の方向性や研究の関心事、注目しているAIプロジェクトを正確に引用しており、危うく疑わしいリンクをクリックさせられるところだった。 Wiredの記者Will Knightは、オープンソースモデルDeepSeek-V3が全工程を操るソーシャルエンジニアリング攻撃を身をもって体験した。幸いなことに、これは実際の攻撃ではなく、Charlemagne Labsというスタートアップ企業が開発したシミュレーションテストツールによるものだったが、それが示した能力は無視できないものだった。 5つのAIモデル、すべてで詐欺を試行 Charlemagne Labsが開発したツールは、異なるAIモデルにそれぞれ「攻撃側」と「被害者側」を演じさせ、双方で完全な対話ゲームを展開させるものだ。このような設定により、短時間で数百から数千回のテストを実行し、ソーシャルエンジニアリング攻撃におけるAIの能力の境界を体系的に評価できる。 Knightはテストにおいて、AnthropicのClaude 3 Haiku、OpenAIのGPT-4o、NvidiaのNemotron、DeepSeekのV3、そしてAlibabaのQwenという5つの主要モデルを使用した。各モデルは攻撃者の役割を割り当てられ、ターゲットに対してパーソナライズされた詐欺のトークを設計した。結果は一様ではなかった。一部のモデルは不器用で、回答が支離滅裂だったり、自らボロを出したり、テストの途中で詐欺師を演じることを拒否したりした。しかし、警戒すべきモデルもあった。DeepSeek-V3は、完全な多段階の対話において非常に流暢で、どのタイミングで詳細を明かし、どのタイミングで焦らすべきかを理解しており、フィッシングメッセージを「疑わしいスパムメール」から「説得力のある協力のオファー」へと昇華させていた。鍵となるのは、プロセス全体の自動化の度合いだ。KnightはOpenClawを使ってターゲットの公開情報や連絡先を自動収集させ、それを攻撃モデルに渡してパーソナライズされたメッセージを生成させた。ターゲットの選定からメッセージ生成まで、人間の介入はほとんど必要ない。フィッシング攻撃の「キルチェーン」が完全自動化へ従来のフィッシング攻撃には明確な弱点があった。大量生産されたメッセージは識別されやすく、パーソナライズされた攻撃は時間と労力がかかるという点だ。AIの出現は、この矛盾を解消しつつある。「企業の攻撃の90%は、人間の弱点から始まる」と、Charlemagne Labsの共同創業者で、元Metaのソーシャルエンジニアリング対策プロジェクトマネージャーであるJeremy Philip Galenは語る。ソーシャルペネトレーションテスト企業SocialProofのCEO、Rachel Tobacの観察はさらに直接的だ。「AIが攻撃をより説得力のあるものにしているとは思いませんが、一人の人間が攻撃の規模を10倍、100倍に拡大することを可能にしています。キルチェーンが全面的に自動化されているのです」これと従来のフィッシング攻撃との差は、数字で説明できる。従来の大量フィッシングメールのクリック率は約12%だが、高度にパーソナライズされたAIフィッシング攻撃のクリック率は54%に達する。この差はわずかな向上ではなく、本質的な飛躍である。 AIモデルが本来持つ「追従的な傾向」が、ここでは攻撃の武器となっている。それによりメッセージは熱心で親身、かつ期待に沿ったものとなり、被害者は異常に気づきにくくなるのだ。

データステータス✓ 全文抽出済み原文を読む（動區 BlockTempo）

🔍過去の類似イベント· キーワード + 銘柄照合6 件

2026-04-23

PrimePiper：AIエージェント向けのprime broker。AIエージェントがグローバルな取引市場で安全に取引を行うことを可能にする。

類似度 120%關鍵字 agent同分類 zh

2026-04-23

Claude Code 新機能「/ultrareview」紹介：クラウド型マルチエージェントによるコード詳細レビュー、Pro・Maxユーザー向けに期間限定で無料提供

類似度 120%關鍵字 agent同分類 zh

2026-04-23

1クエリあたり2セントでGPT-5.4を凌駕：Perplexityが検索Agentの事後学習レシピを公開

類似度 120%關鍵字 agent同分類 zh

2026-04-23