Meta mewajibkan karyawan memasang perangkat lunak pemantauan di komputer mereka untuk melatih model AI, CTO: tidak menerima penolakan

Meta mewajibkan pemasangan perangkat lunak pelacak keyboard dan mouse pada komputer karyawan di Amerika Serikat untuk melatih model AI agent, dan pihak eksekutif perusahaan menyatakan dengan tegas bahwa tidak ada opsi untuk menolak. (Konteks sebelumnya: Meta membantah dengan tegas: Tidak pernah bekerja sama dengan Tiongkok untuk menyensor konten Taiwan atau membagikan data pengguna) (Latar belakang tambahan: Penelitian University of California tentang fenomena "AI brain fog": 14% pekerja kantoran merasa stres akibat Agent dan otomatisasi, keinginan untuk mengundurkan diri meningkat 40%) Meta telah menjadi salah satu pendukung gerakan AI terbuka yang paling vokal di dunia; namun di kantor yang sama, mereka melakukan hal yang sebaliknya: mewajibkan karyawan untuk menyerahkan setiap ketukan keyboard dan setiap gerakan mouse mereka kepada sistem AI perusahaan sebagai bahan pelatihan. Dan tidak bisa menolak. Ini adalah kejadian nyata minggu ini. Menurut pengumuman internal yang diperoleh Business Insider, Meta telah mulai menyebarkan alat pelacak MCI (Model Capability Initiative) pada komputer karyawan di Amerika Serikat. Logika operasional MCI sebenarnya tidak rumit. Dalam beberapa tahun terakhir, Meta secara aktif mengembangkan "AI agents" yang dapat menjelajahi web, mengisi formulir, dan mengoperasikan aplikasi secara mandiri. Namun, kelemahan AI jenis ini saat ini adalah: mereka tidak memahami bagaimana manusia sebenarnya menggunakan komputer. Ritme menekan tombol pintas, cara memilih proyek dari menu drop-down, kebiasaan berpindah jendela antara Gmail dan VSCode, "cara operasional harian manusia" ini masih menjadi bagian yang langka dalam data pelatihan. Solusi Meta adalah: membiarkan karyawan mengisi kekosongan ini dengan perilaku kerja harian mereka sendiri. Pengumuman internal tersebut menulis: "Agar AI agent memahami bagaimana manusia menyelesaikan tugas komputer sehari-hari, kita perlu melatih model dengan kasus nyata. Inilah tempat di mana setiap karyawan Meta dapat berkontribusi, cukup lanjutkan pekerjaan Anda seperti biasa." Data yang direkam oleh MCI meliputi: lintasan gerakan mouse, posisi klik, input keyboard, dan tangkapan layar. Cakupan pelacakan terbatas pada aplikasi kerja yang telah disetujui sebelumnya, termasuk Gmail, GChat, asisten AI internal Meta yaitu Metamate, serta editor kode VSCode. Ponsel tidak termasuk dalam cakupan pelacakan. Meta menyatakan bahwa data memiliki mekanisme perlindungan privasi dan tidak akan digunakan untuk penilaian kinerja atau tujuan lainnya. Setelah pengumuman Meta dirilis, banyak karyawan berkomentar: "Ini membuat saya sangat tidak nyaman. Bagaimana cara kami keluar (opt-out)?" Hasilnya, CTO Andrew Bosworth menjawab secara pribadi: laptop yang disediakan perusahaan "tidak memiliki opsi untuk keluar". Pernyataan resmi Meta adalah bahwa karyawan memang sudah dipantau saat menggunakan perangkat perusahaan, perjanjian ini telah diberitahukan dengan jelas saat masuk kerja, dan MCI hanyalah perpanjangan dari peraturan yang sudah ada, bukan kebijakan baru. Dari sudut pandang hukum, penjelasan ini mungkin bisa diterima. Namun, ada jarak yang jauh antara "legal" dan "membuat karyawan merasa dihargai". Laporan CNBC lebih lanjut menunjukkan bahwa cakupan pelacakan MCI sebenarnya meluas ke situs web pihak ketiga seperti Google, LinkedIn, dan Wikipedia, mencakup perilaku penelusuran karyawan yang luas selama jam kerja. Kekhawatiran karyawan pun menjadi konkret: input kata sandi, detail rahasia produk baru, bahkan kondisi kesehatan pribadi atau status imigrasi, semuanya berpotensi terekam selama proses "tangkapan layar". Meta mengklaim bahwa mekanisme perlindungan privasi dapat menyaring konten sensitif, namun cara kerja spesifik dari mekanisme ini tidak dijelaskan secara terbuka oleh perusahaan. Selain itu, ada satu masalah yang tidak dijelaskan dengan jelas dalam pengumuman tersebut: apakah data yang digunakan untuk melatih model ini digunakan untuk melatih "alat yang membantu pekerjaan karyawan", atau melatih "sistem yang akan menggantikan karyawan di masa depan"? Dilihat dari logika teknis, keduanya tidak bertentangan. Tujuan desain AI agents memang untuk mempelajari cara operasional manusia, lalu mengeksekusi operasi tersebut secara otomatis. Anda mengajarinya cara menyaring email di Gmail, cara berpindah fungsi di VSCode... pengetahuan ini bersifat universal, digunakan untuk membantu Anda, atau digunakan untuk menggantikan Anda, tergantung pada bagaimana perusahaan memutuskan di titik waktu tertentu di masa depan.