Deepfake가 대량의 포르노 영상으로 AI를 학습시키다: 그러나 법은 오직 얼굴만 보호할 뿐, 그 몸이 누구의 것인지 신경 쓴 사람은 아무도 없었다?

AI deepfake 음란물에 대한 논의는 오랫동안 합성된 얼굴에만 초점이 맞춰져 왔지만, 정작 그 몸이 누구의 것인지는 간과되어 왔다. 10,000 TB가 넘는 성인 콘텐츠가 nudify 모델 훈련에 사용된 것으로 의심된다. (전편 요약: 캘리포니아 대학교 연구 「AI 브레인 포그」 현상: 직장인 14%가 Agent, 자동화에 미쳐버려 이직 의향 40% 증가) (배경 보충: 속보》黃仁勳 마지막 순간 에어포스원 탑승해「川普의 訪中 동행」, NVIDIA 칩 수출이 초점으로) 누군가 AI deepfake 음란물을 이야기할 때, 논의의 초점은 거의 항상 그 얼굴, 합성되어 자신이 한 적도 없는 일을 한 것처럼 보이는 그 얼굴에 맞춰진다. 하지만 거의 아무도 언급하지 않는 또 다른 질문이 있다: 그 몸은 누구의 것인가? 《technologyreview》 보도에 따르면, 올해 37세이며 뉴욕에서 활동하는 심리치료사 Jennifer는 2023년 안면 인식 소프트웨어로 10년 전 자신의 성인 영상을 검색하다가, 본 적 없는 영상 하나를 발견했다: 자신의 몸에 다른 사람의 얼굴이 덧씌워진 영상이었다. 그녀는 배경을 보고 2013년에 촬영된 장면임을 알아챘고, 그제야 깨달았다: 「누군가 내 몸으로 deepfake를 만들었구나.」 Deepfake라는 단어는 2017년 11월에 탄생했으며, Reddit 사용자 「deepfakes」가 유명인의 얼굴을 성인 배우의 몸에 합성하면서 시작되었다. 그때부터 성인 콘텐츠 제작자의 몸은 가장 자주 도용되는 소재가 되었고, 이런 일이 「계속 일어나고 있다」고 성인 산업 전문 변호사 Corey Silverstein은 말한다. 하지만 문제의 성격이 바뀌었다. 성인 배우의 몸은 더 이상 개별 영상에 추출되어 사용되는 것에 그치지 않고, 훈련 데이터로서 AI에게 「사실적인 누드」를 어떻게 생성할지, 어떻게 움직일지, 어떻게 진짜처럼 보일지를 가르치는 데 쓰인다. 이 과정에는 사전 동의가 없으며, 추적도 거의 불가능하다. 「nudify」 앱의 비즈니스 모델은 이런 토대 위에 세워져 있다: 옷을 입은 사진 한 장만 업로드하면 위조된 누드 사진을 얻을 수 있다. 이러한 앱은 거의 확실히 10,000 TB가 넘는 온라인 성인 콘텐츠를 훈련 소스로 사용했으며, 제작자에게는 사실상 구제 수단이 거의 없다. UC Berkeley 디지털 포렌식 전문가 Hany Farid는 「이것들은 모두 블랙박스다」라고 말한다. 하지만 인터넷상에서 성인 콘텐츠가 얼마나 보편적인지를 고려하면, AI 훈련에 사용되었다는 것은 「합리적인 가정」이다. 문제는 훈련 데이터에만 머무르지 않는다. AI는 이미 성인 배우의 외모와 목소리를 완벽하게 재현할 수 있다. 제작자 Tanya Tate는 최근, 한 팬이 사기꾼이 만든 AI 버전의 「그녀」와 성적인 채팅을 하기 위해 2만 달러를 썼다는 사실을 알게 되었다. 다수의 팬이 속은 후, Tate 본인을 비난하고 허위 진술을 퍼뜨리기 시작했다. 저작권 집행 회사 Takedown Piracy는 디지털 지문 기술을 통해 Google 단일 플랫폼에서만 1억 3천만 개의 침해 영상을 내렸으며, 영상이 수정되거나 얼굴이 교체되었더라도 디지털 지문은 여전히 원본 소재를 식별할 수 있다. 많은 성인 배우들이 수년 전 서명한 계약서에는 「출판사는 현재 존재하거나 미래에 발견될 어떠한 기술도 사용할 수 있다」는 조항이 포함되어 있다. 당시의 상상은 VHS에서 DVD로의 전환이었다. 「미래의 기술」이 의미하는 것이 당신의 콘텐츠로 AI를 훈련시켜, 당신의 일을 대체할 수 있는 합성된 대체물을 생성하는 것이라고는 아무도 예견하지 못했다. MIT 컴퓨터 과학 박사과정생 Stephen Casper는, AI 부상 이전부터 활동해온 배우들이 AI 용도에 대해 사전 동의를 한다는 것은 애초에 불가능했다고 지적한다; 이러한 위험은 「소급적으로 강요된 것」이라고 Jennifer는 묘사한다. AI의 기만 능력 또한 가속화되고 있다. Farid의 2025년 연구에 따르면, 피험자가 AI 생성 음성을 정확히 식별하는 정확도는 약 60%에 불과하며, 이는 무작위 추측과 별반 다르지 않다. 미국에서 현재 deepfake를 겨냥한 유일한 연방법은 Take It Down Act로, 웹사이트가 비자발적 친밀 이미지(NCII)를 48시간 이내에 내릴 것을 요구한다. 법의 취지는 피해자 보호이지만, 정반대 방향으로 흘러갈 가능성이 있다. Santa Clara 대학교 법학 교수 Eric Goldman은, 누구든지 합법적이고 당사자 동의가 있는 성인 콘텐츠를 NCII라고 주장하며 신고할 수 있으며, 이로 인해 플랫폼이 콘텐츠를 내리도록 강제할 수 있다고 지적한다. 이는 이 법을 잠재적인 제거 도구로 만들며, 인터넷에서 음란 콘텐츠를 일소하려는 Project 2025의 목표와 정확히 맞아떨어진다. 미국 법은 현재 이러한 침해를 사생활 침해로 간주하지 않는데, 이는 「누구에게 책임을 물어야 할지 알 수 없기 때문」이라고 Goldman은 말한다. EU, 영국, 호주는 nudify 앱을 제한하겠다고 발표했지만, 이런 앱들은 일단 내려가도 이름만 바꿔 다시 등장하는 경우가 많다. Reba Rocket은 말한다: 「AI 여자아이들은 당신이 원하는 무엇이든 해줄 거예요, 그들은 거절하지 않으니까요. 이게 저를 두렵게 만들어요, 특히 그 모델들을 훈련하는 데 실제 사람들을 쓸 때 말이에요. 그리고 일단 인터넷에 올라가면, 그건 영원히 거기 있게 됩니다.」