미 NBC 뉴스 페이스북 광고 앱 조사…”수초 만에 포르노물 주인공 얼굴 뒤바뀌어”
영화 ‘해리포터’의 주인공 엠마 왓슨 등 유명 배우들이 딥페이크 기술로 인해
SNS의 음란 광고에 등장하고 있다고 미국 NBC 뉴스가 8일(현지시간) 보도했다.
딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술로,
최근 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있다.
보도에 따르면 최근 페이스북에 떠도는 딥페이크 관련 애플리케이션 광고물에서 왓슨의 얼굴이 자주 등장한다.
그녀는 처음에 수줍게 웃다가 카메라 앞에 몸을 굽히며 야릇한 행동을 취한다.
당연히 이 광고에 실제 왓슨이 출연한 것이 아니라 딥페이크로 영상의 얼굴만 바꿔치기한 것이다.
페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었고
다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 파악됐다고 NBC는 전했다.
이러한 비동의 딥페이크 영상은 왓슨 같은 유명 인사나 인플루언서뿐 아니라
미성년자까지 포함한 어떤 사람의 얼굴도 바꿔치기할 수 있다는 데 문제의 심각성이 있다.
원래 메타 등 많은 플랫폼은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있으나
NBC가 검토한 앱들은 규제의 틈을 비집고 버젓이 활성화돼 있다.
노골적인 성적 행동은 대체로 걸러지지만 ‘핫'(Hot) 콘텐츠와 같이 미리 정해진 범주의 허점을 활용해
아슬아슬하게 옷을 입은 남녀의 동영상으로 딥페이크 대상물을 삼는 것이다.
NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했다.
문제의 앱은 5~6일 이틀간 메타 산하 페이스북, 인스타그램 등 SNS에 230개 이상의 동영상 광고를 하고 있었다.
[장현경 제작] 일러스트
미국 테네시주에서 저널리즘을 공부하는 학생 로렌 바튼은 똑같은 딥페이크 광고를 이용해
손쉽게 자기 얼굴을 50개 무료 견본 중 하나의 화면으로 녹화한 뒤
트위터에 올렸더니 조회수가 1천만뷰 이상 달려 충격을 받았다고 전했다.
그러면서 “이것은 고등학교에서 학교폭력에 시달리는 이들에게 악용될 수 있다”며
“그건 누군가의 인생을 망치고 그들의 일자리까지 문제를 일으킬 수 있다”고 우려했다.
문제의 앱 광고물은 NBC가 7일 취재에 들어가자 모두 메타 서비스에서 사라졌다고 한다.
애플 앱스토어에도 똑같은 광고물이 9세 이상 무료로 다운로드가 가능하게 돼 있었으나 NBC의 취재 후 삭제됐다.
메타 대변인은 성명에서 “우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것”이라며
“우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다”고 설명했다.
애플 대변인은 아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않으나 음란물을 포함한 앱은 금지한다고 말했다.
앞서 로이터통신도 지난 2021년 12월 비슷하게 딥페이크 포르노물 조사를 한 적이 있다.
로이터가 조사한 다른 앱은 그러나 아직도 애플 앱스토어와 구글 플레이에서 다운로드가 가능하다.
딥페이크 기술은 때로 유명 인사와 정치인이 하지도 않은 언행을 한 것처럼 만들기도 한다.
그러나 압도적으로 대부분은 스타들의 동의를 받지 않은 채 포르노물에 악용되고 있다.
2019년 딥트레이스라는 미디어 온라인 모니터 회사의 조사에선 온라인 딥페이크 소재의 96%가 포르노물이었다.
2018년 이후 딥페이크 포르노 동영상은 매년 배 가까이 증가했다고 라이브 스트리밍 분석가인 제네비브 오가 말했다.
