Meta、従業員のPCに監視ソフトを強制インストールしAIモデルの学習に利用、CTO「拒否は認めない」

Metaは米国の従業員のPCにキーボードおよびマウスの追跡ソフトウェアを強制インストールし、AIエージェントモデルのトレーニングに使用している。会社の上層部は、拒否する選択肢はないと明言した。（前回の経緯：Metaは、中国の台湾関連コンテンツ検閲やユーザーデータの共有に協力したという疑惑を断固否定）（背景補足：カリフォルニア大学が「AIブレインフォグ」現象を研究：14%の会社員がAgentや自動化によって疲弊し、離職意向が4割上昇） Metaはこれまで、世界的なAIオープンソース運動の最も声高な支持者の一人であった。しかし、同じオフィス内で同社は全く逆のことを行っている。従業員に対し、すべてのキー入力やマウス操作を会社のAIシステムのトレーニングデータとして提供することを強制しており、拒否権は与えられていない。これは今週実際に起きたことである。Business Insiderが入手した内部告知の原文によると、Metaは米国の従業員のPCにおいて、追跡ツール「MCI（Model Capability Initiative）」の展開を開始した。 MCIの動作ロジックは複雑ではない。Metaは近年、ウェブブラウジング、フォーム入力、アプリケーション操作を自律的に行う「AI agents」の開発に注力している。しかし、こうしたAIには現在、「人間が実際にどのようにPCを使っているか」を理解していないという欠点がある。ショートカットキーを押すリズム、ドロップダウンメニューから項目を選択する方法、GmailとVSCodeの間でウィンドウを切り替える習慣など、こうした「人間の日常的な操作方法」は、トレーニングデータにおいて依然として不足している領域である。 Metaの解決策は、従業員の日常的な業務行動でこの欠落を埋めることだ。内部告知にはこう記されている。「AIエージェントが人間による日常的なPCタスクの完了方法を理解するためには、実際の事例でモデルをトレーニングする必要がある。これこそが、すべてのMeta従業員が貢献できる部分であり、普段通りの業務を続けるだけでよい」 MCIが記録するデータには、マウスの移動軌跡、クリック位置、キーボード入力、およびスクリーンショットが含まれる。追跡範囲は、Gmail、GChat、Meta独自の内部AIアシスタント「Metamate」、およびコードエディタ「VSCode」を含む、事前に承認された業務アプリケーションに限定されている。スマートフォンは追跡対象外である。Metaは、データにはプライバシー保護メカニズムが適用されており、人事評価やその他の目的には使用されないと述べている。 Metaの告知後、多くの従業員が「非常に不快だ。どうすればオプトアウトできるのか？」とコメントした。これに対し、CTOのAndrew Bosworthは自ら回答した。会社が提供するノートPCには「オプトアウトの選択肢はない」とのことだ。 Metaの公式見解は、従業員は会社支給のデバイスを使用する時点で既に監視下にあり、この合意は入社時に明確に告知されているため、MCIは既存の規定の延長であり、新しいポリシーではないというものだ。法的な観点から見れば、この説明はおそらく妥当だろう。しかし、「合法的であること」と「従業員が尊重されていると感じること」の間には、依然として大きな隔たりがある。 CNBCの報道はさらに、MCIの追跡範囲が実際にはGoogle、LinkedIn、Wikipediaなどのサードパーティサイトにまで及んでおり、勤務時間中の従業員の広範なブラウジング行動をカバーしていると指摘した。従業員の懸念も具体化している。パスワードの入力、新製品の機密詳細、さらには個人の健康状態や移民ステータスまでもが、「スクリーンショット」の過程で記録される可能性がある。Metaはプライバシー保護メカニズムが機密コンテンツをフィルタリングできると主張しているが、このメカニズムの具体的な動作方法について、会社は公開していない。さらに、告知の中で明確にされていない問題がもう一つある。これらのモデルトレーニングに使用されるデータは、結局のところ「従業員の業務を支援するツール」を訓練しているのか、それとも「将来的に従業員を代替するシステム」を訓練しているのか、という点だ。技術的なロジックから推測すれば、両者は矛盾しない。AI agentsの設計目標は、人間の操作方法を学習し、それを自動実行することにある。Gmailでのメール選別方法や、VSCodeでの関数切り替え方法をAIに教えれば、その知識は汎用的なものとなる。それが従業員を支援するために使われるか、あるいは代替するために使われるかは、将来のある時点で会社がどのように決定するかにかかっている。