[똑바로보기]"연예인 합성한 페이크 포르노의 폐해"-안호림 교수 2/24(토)

[YTN 라디오 ‘열린라디오YTN’]
■ 방송 : FM 94.5 MHz (20:20~20:56)
■ 방송일 : 2018년 2월 24일 (토요일)
■ 출연 : 안호림 인천대 교수

아나운서: 청취자 여러분 설 연휴 잘 보내셨습니까? <안호림의 미디어 똑바로보기> 시간입니다. 안호림 교수 모셨습니다. 교수님 안녕하셨어요.

안호림: 안녕하셨어요. 연휴 기간 잘 쉬셨는지요. 지난주만 해도 봄이 언제 오나 하는 생각이었는데, 어느덧 겨울이 조금씩 자리를 비키고 있는 것 같네요.

아나운서: 매주 재미있고 유익한 이야깃거리를 가지고 나오셔서 저도 많이 배우고 있습니다. 오늘은 무엇을 주제로 이야기해볼까요?

안호림: 아직 국내에는 많이 알려지지는 않았지만, 미국에서 최근 문제가 된 이른바 ‘페이크 포르노’ 얘기를 해볼까 합니다. 한국말로는 가짜 음란동영상이라고 번역할 수 있습니다. 지난 2월7일, 해외 유명 인터넷게시판인 레딧(Reddit)라는 사이트에서 ‘딮훼잌스(deepfakes)’라는 한 커뮤니티가 운영하는 포럼(subreddit이라고 함)에 대한 폐쇄 조치를 내렸습니다. 이 커뮤니티는 인공지능 알고리즘을 이용하여 유명인들의 얼굴을 포르노 배우 얼굴에 덮어씌우는 방식으로 만든 가짜 포르노, 즉 페이크 포르노를 다량 업로드했었습니다. 트위터, 디스코드 등과 같은 온라인 서비스들, 이런 동영상이 주로 유통되었던 포르노허브와 같은 음란 사이트도 유사한 조치를 취했습니다.

아나운서: 연예인을 대상으로 한 악의적인 합성사진은 사회 문제가 된지 꽤 되었습니다. 이제는 사진이 아니라 아예 동영상의 배우 얼굴을 바꿀 수 있다는 거네요.

안호림: 맞습니다. 이제는 컴퓨터 기술, 동영상이 실제 동영상 속의 배우 얼굴을 전혀 다른 사람의 얼굴과 교체할 수 있는 수준까지 발전한 것입니다. 더군다나 일반 사람도 쉽게 할 수 있는 수준까지 온 것이죠.

아나운서: 레딧이라면 매우 대중적인 인터넷게시판 사이트로 알고 있습니다. 이런 업체가 공식적인 대응을 할 정도로 문제가 심각해졌나 보네요.

안호림: 처음 이런 가짜 동영상들이 제작되어 온라인 게시판들을 통해 공유되고 있다는 소식은 작년 12월부터 나오기 시작했습니다. 영화 원더우먼의 주인공으로 유명한 갤 가돗(Gal Gadot)의 가짜 동영상이 온라인에서 유통되어서 화제가 되었었습니다. 알려진 바로는 엠마 왓슨, 스칼렛 요한슨, 엠마 스톤, 테일러 스위프트, 나탈릴 포트만 등 당대 최고의 인기 가수, 배우들의 가짜 음란물이 제작되어 유통되고 있다고 합니다. 공교롭게도 피해자는 모두 여성들입니다.

아나운서: 저희들이 흔히 동영상이란 말로 표현하지만 사실 영화 속 주인공의 얼굴을 바꾸는 것과 마찬가지인 것일텐데요. 대체 어떻게 이게 가능한 거죠?

안호림: 기존의 합성사진은 이미지를 카피해서 붙이는 수준이었습니다. 이런 사진들은 체격, 얼굴 모양과 각도, 피부색, 사진 속의 인물의 포즈가 완전히 똑같을 수 없어서 어색함이 남게 마련이었습니다. 요즘 사용되는 알고리즘은 카피할 사람의 사진을 원본 그대로 가져다 붙이는 것이 아닙니다. 카피할 사람의 이미지와 카피될 사람의 이미지를 이용해서 가상의 이미지를 만들어내는 방식을 사용합니다. 충분한 사진이나 영상자료가 있을 경우, 가짜인지 쉽게 알아볼 수 없을 정도의 결과가 나옵니다.

아나운서: 그 정교함이 어느 수준인지 궁금해지네요.

안호림: 머더보드라는 사이트의 기사에는 갤 가돗 가짜 비디오의 도입부분인 대화장면이 올라와 있습니다. 제가 미리 알고 보지 않았다면 가짜라는 것을 전혀 눈치채지 못할 수준이었습니다. 최근 독일의 뮌헨 기술 대학의 한 연구자는 최근 페이스투페이스(Face2Face)라는 프로젝트를 진행하고 있습니다. 실시간으로 동영상의 얼굴을 바꿀 수 있는 기술을 개발하는 프로젝트입니다. 조지 부시 전 대통령의 인터뷰 영상을 이용한 시범을 보여주었는데, 언뜻 봐서는 가짜라고 생각하기 어려운 수준입니다.

아나운서: 이런 일을 하는 이유는 무엇일까요? 아무래도 금전적인 이득 때문일까요?

안호림: 아직은 이런 것을 만드는 사람들이 누구인지 밝혀지지 않아서 단언하기는 어렵습니다. 아마도 장난이나 호기심에서 만든 사람들도 많을 것입니다. 하지만, 사람들의 주목을 끌고, 나아가 경제적인 이득을 보려는 의도를 가진 사람들도 많지 않을까 짐작됩니다. 미국의 음란물 산업은 거대산업입니다. 미디어닷컴에 따르면 매년 만 3천개의 영상이 만들어지고, 약 150억달러의 수익을 올린다고 합니다. 헐리우드에서는 매년 600편 정도의 영화가 제작되어 100억달러의 수입을 올리는 것과 비교하면 얼마나 큰 규모인지 짐작이 가실 겁니다. 음란물 사이트 방문자수는 넷플릭스, 아마존, 트위트 사용자수를 다 합한 것보다 많습니다.

아나운서: 이런 가짜 영상은 유명인이 아닌 일반 사람을 출연시키는, 출연시킨다는 표현이 좀 어색합니다만, 것도 가능한가요?

안호림: 충분한 양의 사진이나 영상이 있을 경우에는 그 누구도 가능합니다. 그래서 심지어 장난삼아 친구를 포르노 영화의 주인공으로 둔갑시키는 것도 얼마든지 가능합니다. 실제로 이런 식의 동영상도 많이 만들어지는 것으로 알려져 있습니다.

아나운서: 일반인들의 가짜 동영상도 만드는 게 가능하다면 상당한 위험성이 있어 보입니다. 최근 문제가 되는 이른바 ‘리벤지 포르노’도 있고요.

안호림: 레딧 등의 사이트들이 딥페이크 관련 영상을 금지, 삭제하고, 안면 교환 소프트웨어를 차단한 이유 중 하나도 그런 악용을 우려해서입니다. 리벤지 포르노란 말 그대로 복수를 목적으로 온라인이나 SNS에 유포되는 음란물 수위의 사진이나 영상을 말합니다. 주로 헤어진 커플들 사이에서 발생합니다. 과거에는 실제 영상이 있었어야 했는데, 이제는 사진만 가지고 있으면 매우 손쉽게 가짜로 만들어낼 수 있습니다. 자신도 모르는 사이에 본인이 주인공인 음란 영상물이 외국 음란사이트에 버젓이 업로드 되어 있을 수도 있습니다.

아나운서: 정치적인 악용도 충분히 가능할 것 같습니다.

안호림: 이미 유명 정치인의 얼굴을 이용한 패러디 작품은 쉽게 찾을 수가 있습니다. 검색을 해보시면 트럼프 대통령을 풍자한 영상들이 다수 나옵니다. 이런 풍자와 비판은 정상적인 민주주의 사회에서 충분히 용인되는 것입니다. 문제는 악의적인 모함, 비방을 위한 영상이 등장할 가능성이 매우 높다는 것입니다. 유튜브에는 오바마 전 미국대통령의 가짜 연설 동영상이 하나 업로드 되어있습니다. 영상은 동영상의 얼굴을 바꾸는 것이 얼마나 쉽고, 사실적인지 보여주기 위한 목적으로 만들어진 것입니다. 그런데 그 자연스러움이란 소름이 끼칠 정도입니다. 앞으로 있을 선거에서 자신이 싫어하는 후보를 비방할 목적으로 가짜 동영상이 나올 가능성은 낮지 않아 보입니다.

아나운서: 이런 기술이 꼭 이렇게 나쁜 일에만 쓰일 필요는 없을 것 같은데요.

안호림: 이 기술이 유명세를 타게 된 것은 자극적인 성격의 사건이어서 그런 것입니다. 사실은 패러디나 유머러스한 작품을 만들기 위해 많이 사용되고 있습니다. 혹시 최근 유명 영화 주인공들의 얼굴이 니콜라스 케이지 얼굴로 바뀐 사진을 보신 적 없으신가요? 그 사진들이 이런 방식으로 만들어진 패러디 영상을 캡처한 사진들입니다. 유튜브에 가보면 니콜라스 케이즈의 얼굴을 인디아나 존스의 해리스 포드나, 맨 오브 스틸의 여주인공인 에이미 아담스, 터미네이터2의 T-1000(티천)에 합성한 것 같은 패러디물을 무수히 볼 수 있습니다.

아나운서: 그런 것은 악의없는 장난이나, 짧은 웃음을 위한 익살 정도로 받아들일 수 있겠습니다. 그래픽 기술의 발전으로 표현의 영역이 넓어지는 것으로 봐야겠네요.

안호림: 그렇습니다. 이제는 이미 고인이 된 배우도 이런 방법을 사용하면 매우 손쉽게 되살려 낼 수 있겠지요. 체격과 얼굴형이 매우 닮은 대역배우를 사용해서 촬영한 다음 얼굴을 바꿔버리면 되니까요. 사용할 수 있는 데이터, 즉 이미지와 영상이 많으면 많을수록 더욱 정교하게 만들 수가 있습니다.

아나운서: 컴퓨터 프로그래밍에 대해서 전문적인 지식이 없어도 쉽게 만들 수 있어서 더 큰 문제라고 들었습니다.

안호림: 프로그램의 소스도 웹에서 쉽게 구할 수 있고, 이것을 이용해서 동영상을 조작하는 방법도 매우 쉽다고 합니다. 가장 유명한 프로그램은 ‘페이크앱(FakeApp)'이라는 것입니다. 조작할 동영상을 구하고, 카피할 인물의 이미지를 웹 등을 통해서 찾아내기만 하면 나머지는 프로그램이 알아서 한다고 합니다. 매우 정교한 수준의 영상은 이보다는 조금 더 복잡한 단계를 거치지만 전문적인 수준의 지식을 필요로 하지는 않습니다. 최초 갤 가돗 동영상을 만든 사람도 아마추어로 알려져 있습니다.

아나운서: 어떤 조치들이 취해지고 있나요?

안호림:  자정 조치를 취하고 있습니다. 딮페이크라는 커뮤니티는 여러 사이트에서 금지조치를 받았습니다. 이러한 명칭이 붙은 동영상, 이미지들도 사이트에서 자체적으로 삭제하고 있습니다.

아나운서: 천문학적 숫자의 동영상과 이미지 중에서 가짜 사진, 영상을 찾아내는 일도 만만치 않은 작업일 것 같습니다. 물론 사람이 직접 하는 것은 아니겠죠?

안호림: 아이러니하게도 인공지능을 이용해 만들어진 가짜 동영상을 색출해내는 것도 인공지능을 이용해서 이루어지고 있습니다. 문제는 인공지능을 이용한 방법은 완벽하지 못하다는 것입니다. 이 방법은 기존 이미지와 합성된 이미지를 비교하는 방식으로 이루어집니다. 일반인을 이용한 영상 같은 경우 비교할 사진을 찾기 힘들기 때문에 가짜인지 여부를 판단이 불가능합니다.

아나운서: 한국에서는 악의적인 합성사진이나 영상을 만들어 유포하는 것은 불법이지요?

안호림: 그렇습니다. 과거에도 유명 연예인의 합성사진을 유포했다가 처벌당한 사례들이 있습니다. 조작된 음란물 사진이나 영상을 상업적 목적으로 만들어 유포하는 것은 ‘정보통신망 이용촉진 및 정보보호등을 위한 법률’상 명예훼손에 해당합니다. 3년 이하 징역 또는 2천만원 이하의 벌금이라는 처벌이 가해집니다. 허위인줄 알면서 비방할 목적으로 사실이나 거짓을 올릴 경우에는 더 처벌이 강해져서 5년 이하 징역을 받을 수 있습니다.

아나운서: 이런 문제에 대해서 우리는 어떻게 대응해야 할까요?

안호림: 현행법상 위법이기 때문에 국내 사이트를 통해 이런 영상이 유포될 가능성은 높지 않습니다. 문제는 해외 사이트를 통해 유입되는 경우, 또는 개인이 SNS등을 통해 공유하는 경우입니다. 적발이 쉽지 않고, 처벌은 더욱 어렵습니다. 정부 당국과 네이버, 다음 같은 포털들이 할 수 있는 조치에는 한계가 있는 것입니다. 결국 사용자들에게 달려 있습니다. 모든 사람들이 가짜 동영상을 만들거나 유포하는 건 본인에게는 장난이나 재미일 수 있지만, 피해자에게는 인격 살인에 해당하는 심각한 범죄임을 인식해야 합니다. 더군다나, 이런 가짜 음란물의 피해자는 자신이 알지 못하는 사이에, 잘못한 일도 없는데 이런 억울한 일을 당해야 합니다. 온라인에서 일어나는 성폭력, 희롱도 현실세계의 범죄만큼이나 심각한 것입니다. 일반 이용자들은 ‘상식’을 기반으로 ‘의심’하는 태도를 가지시길 바랍니다. 여러분들이 보시는 동영상이 조작되었을 가능성이 있음을 항상 의식할 필요가 있습니다. 또한 자신이 만들거나 남에게 전달하지 않았다고 아무런 죄가 없는 것은 아닙니다. 이런 것을 찾는 사람이 있기 때문에 만들어지고 유통되는 것입니다. 가짜 음란물을 즐기는 행위 자체도 이런 행위를 부추기는 것임을 명심하셨으면 좋겠습니다.

아나운서: 기술의 발전은 저희에게 많은 혜택을 제공하는 만큼 위험성도 같이 선물해 주는 것 같습니다. 오늘도 유익한 얘기 감사합니다. 안교수님 다음 주에 뵙겠습니다.