온라인에서는 세계 곳곳에서 매일 새로운 음란물이 쏟아진다. 국내에서는 관련법에 따라 규제를 하고 있지만 단속은 쉽지 않다. 전문 배우가 출연하는 영상뿐만이 아니다. ‘몰카’나 ‘리벤지 포르노’의 주인공이 될까 봐 두려움에 떠는 이들도 있다. 그런데 내가 찍히지도 않은 영상에, 내가 등장할 수 있다면? 무슨 말일까.
12일(현지시간) 미국 인터넷매체 마더보드에 따르면, 영화 ‘원더우먼’의 주인공인 할리우드 배우 갤 가돗의 얼굴이 등장하는 음란물 영상이 인터넷에 공개됐다. 갤 가돗은 이같은 영상을 찍은 적이 없다. 이는 미국 소셜 뉴스 웹사이트 ‘레딧’에서 ‘딥페이크(deepfake)’라는 아이디를 쓰는 회원이 만들어 낸 ‘가짜 음란물’이다.
영상은 기존의 음란 영상과 갤 가돗의 얼굴을 합성하는 방식으로 만들었다. 제법 자연스러운 수준의 합성이나, 가까이서 유심히 지켜보면 어딘가 부자연스러운 모습이 보이기도 한다.
이는 구글이 연구원·대학원생 및 IT에 관심 있는 이들을 위해 오픈소스로 공개한 텐서플로(TensorFlow)라는 머신 러닝 라이브러리를 사용해 제작했다. 머신 러닝(기계 학습)은 인공 지능을 가능하게 하는 방법 중 하나로, 컴퓨터가 데이터를 분석하고 스스로 학습하는 과정을 거친 뒤 특정 패턴을 인식할 수 있는 능력을 갖추게 한다. ‘딥페이크’라는 회원은 인공지능에게 검색을 통해 얻은 갤 가돗의 얼굴 사진을 기존 음란 영상에 덧입히는 훈련을 시켰고, 인공지능은 학습을 거쳐 그럴듯한 가짜 음란물 영상을 만들어냈다.
문제는 이 작업은 일반 PC만 있으면 그다지 어렵지 않게 할 수 있다는 것이다. ‘딥페이크’는 전문 연구원도 아니었으며 머신 러닝에 관심이 있는 프로그래머 중 한 명이었다. 매체에 따르면 2015~2016년 사이 구글 포토(구글에서 제공하는 무료 사진 저장소)에 개인의 얼굴이 담은 사진은 약 240억 장이 올라갔다. 아마추어 수준의 실력을 가진 프로그래머가 누군가의 사진을 기존 음란물에 합성해 새로운 ‘리벤지 포르노’를 만들 수도 있다는 소리다.
음란물 전문 배우 그레이스 에반젤린은 트위터를 통해 “가장 중요한 문제는 ‘동의’다. 가짜 음란물 영상은 거기 출연하는 이들의 동의를 배제해 버렸다”고 말했다. 은퇴한 음란물 전문 배우 앨리아 재닌은 매체에 “가짜 음란물은 남성들에게 잘못된 인식을 심어줄 것이다. 자신들이 원하는 어떤 것도 강요할 수 있는 대상으로 여성을 보게 할 것”이라고 했다.
한편 ‘딥페이크’는 이밖에도 배우 스칼렛 조핸슨, 메이지 윌리엄스, 가수 테일러 스위프트의 얼굴을 합성한 가짜 음란물을 만들어 인터넷에 올린 바 있다. 매체는 이같은 유명인들의 소속사에 관련 사실을 알리고 공식적인 답변을 기다리고 있다고 전했다.
박예슬 동아닷컴 기자 yspark@donga.com
페이스북 구독
12일(현지시간) 미국 인터넷매체 마더보드에 따르면, 영화 ‘원더우먼’의 주인공인 할리우드 배우 갤 가돗의 얼굴이 등장하는 음란물 영상이 인터넷에 공개됐다. 갤 가돗은 이같은 영상을 찍은 적이 없다. 이는 미국 소셜 뉴스 웹사이트 ‘레딧’에서 ‘딥페이크(deepfake)’라는 아이디를 쓰는 회원이 만들어 낸 ‘가짜 음란물’이다.
영상은 기존의 음란 영상과 갤 가돗의 얼굴을 합성하는 방식으로 만들었다. 제법 자연스러운 수준의 합성이나, 가까이서 유심히 지켜보면 어딘가 부자연스러운 모습이 보이기도 한다.
이는 구글이 연구원·대학원생 및 IT에 관심 있는 이들을 위해 오픈소스로 공개한 텐서플로(TensorFlow)라는 머신 러닝 라이브러리를 사용해 제작했다. 머신 러닝(기계 학습)은 인공 지능을 가능하게 하는 방법 중 하나로, 컴퓨터가 데이터를 분석하고 스스로 학습하는 과정을 거친 뒤 특정 패턴을 인식할 수 있는 능력을 갖추게 한다. ‘딥페이크’라는 회원은 인공지능에게 검색을 통해 얻은 갤 가돗의 얼굴 사진을 기존 음란 영상에 덧입히는 훈련을 시켰고, 인공지능은 학습을 거쳐 그럴듯한 가짜 음란물 영상을 만들어냈다.
문제는 이 작업은 일반 PC만 있으면 그다지 어렵지 않게 할 수 있다는 것이다. ‘딥페이크’는 전문 연구원도 아니었으며 머신 러닝에 관심이 있는 프로그래머 중 한 명이었다. 매체에 따르면 2015~2016년 사이 구글 포토(구글에서 제공하는 무료 사진 저장소)에 개인의 얼굴이 담은 사진은 약 240억 장이 올라갔다. 아마추어 수준의 실력을 가진 프로그래머가 누군가의 사진을 기존 음란물에 합성해 새로운 ‘리벤지 포르노’를 만들 수도 있다는 소리다.
음란물 전문 배우 그레이스 에반젤린은 트위터를 통해 “가장 중요한 문제는 ‘동의’다. 가짜 음란물 영상은 거기 출연하는 이들의 동의를 배제해 버렸다”고 말했다. 은퇴한 음란물 전문 배우 앨리아 재닌은 매체에 “가짜 음란물은 남성들에게 잘못된 인식을 심어줄 것이다. 자신들이 원하는 어떤 것도 강요할 수 있는 대상으로 여성을 보게 할 것”이라고 했다.
한편 ‘딥페이크’는 이밖에도 배우 스칼렛 조핸슨, 메이지 윌리엄스, 가수 테일러 스위프트의 얼굴을 합성한 가짜 음란물을 만들어 인터넷에 올린 바 있다. 매체는 이같은 유명인들의 소속사에 관련 사실을 알리고 공식적인 답변을 기다리고 있다고 전했다.
박예슬 동아닷컴 기자 yspark@donga.com