'딥페이크 선거운동 금지법' 통과.. 총선 앞둔 선관위, 딥페이크 쓰나미 어떻게 막을까

■ 방송 : YTN 라디오 FM 94.5 (13:00~14:00)
■ 진행 : 이승훈 앵커
■ 방송일 : 2024년 2월 1일 (목요일)
■ 대담 : 강정수 미디어스피어 AI 연구센터장

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다.

◇ 이승훈 : 지난해 타임지가 선정한 올해의 인물은요 팝스타 테일러 스위프트였습니다. 그런 그녀가 최근에 딥페이크 음란 영상물로 곤욕을 치렀습니다. 삭제를 했는데도, 클릭이 7,200만 회나 됐다고 하죠. 특히나 11월 대통령 선거를 앞둔 미국도 그렇지만, 총선을 앞두고 인공지능을 활용한 거짓 화면, 가짜 뉴스에 대한 걱정은 우리 역시 커지고 있습니다. 얘기를 해보겠습니다. 강정수 미디어 스피어 AI 연구센터장을 전화로 연결하겠습니다. 센터장님, 안녕하세요?

◆ 강정수 : 안녕하세요.

◇ 이승훈 : 예. 말씀드렸지만, 이렇게 걱정이 커지는 딥페이크. 하지만 만드는 게 그렇게 어렵지 않아서 사진 몇 장으로 된다 그런 얘기를 들었습니다. 정말 그런가요?

◆ 강정수 : 네. 그렇습니다. 원래 이제 딥페이크의 이 딥이. 우리가 이세돌 바둑에서 우리가 들었던 딥 러닝이라는 그 딥에서 온 거거든요. 그래서 과거 인공지능이 있었을 때도 많이 이미 오래전부터 있었지만. 여러분도 아시는 것처럼 챗GPT 이후로 생성 AI라는 것이 정말 경쟁적으로 많은 서비스들이 지금 출시되고 있는데요. 한 달에 10달러, 20달러를 내면. 이런 것들을 대단히 많이 생산을 너무나도 누구든지 쉽게 할 수 있고요. 그리고 우리가 인스타그램에 개인적으로 사진을 몇 개 올려놨으면, 그 인스타그램에 있는 사진들 몇 개를 받아가지고, 그 서비스를 사용하면 이렇게 지금 테일러 스위프트처럼 음란 딥페이크도 만들어내는 것은 너무나도 저렴하고 손쉬워졌습니다. 이것이 현재 달라진 환경인 거죠.

◇ 이승훈 : 지금 센터장님, 그 말씀이 10달러, 20달러면 된다는 말씀이. 10달러, 20달러 이거 무슨 회원으로 하든가 그렇게 됐을 때 .거기에 뭐 하면 저절로 거기서 만들어주는 거군요?

◆ 강정수 : 거기다가 예를 들면 목소리 같은 경우 이번에 조 바이든 대통령 목소리 같은 경우에도 일레븐 랩스라는 서비스를 이용했는데요. 한 달에 11달러거든요? 그러면 제가 방송에서 들었던 대통령의 목소리를 녹음해서, 1분이면 돼요. 1분 녹음한 걸 거기다가 업로드하면 그 사람의 모든 목소리를 만들어줍니다. 그러면 제가 타이핑을 해서 이러이러한 내용으로 목소리를 만들어줘 하면, 바로 만들어주거든요. 그리고 이제 헤이젠이라는 이런 서비스 같은 경우에는 사람을 만들어주는데. 제가 인스타그램에서 그와 관련된 사람 사진 4장, 4장만 올려주면 그 사람에게 얼굴 똑같이 해가지고. 몸체는 다른 형태 이런 것들을 만들어주는 것도 너무 손쉽습니다. 그거를 서비스하는 건 한 달에 25달러밖에 되지 않거든요? 그런데 이러한 서비스가 지금 미국에는 정말 헌드레드 헌드레드입니다.

◇ 이승훈 : 지금 센터장님이 말씀하신 게 뉴햄프셔주 거기에서 선거할 때 바이든이 전화로 여러분 투표하지 마세요 이렇게 했는데 그게 가짜였다 그 말씀하시는 것 같은데 영상은 어때 영상이 어렵습니까?음성이 어렵습니까? 음성이 더 어렵습니까? 음성이 더 어렵죠?

◆ 강정수 : 다 쉽습니다. 다 쉽습니다. 지금 생성 AI 기술이. 정말 여러분들도 느끼시지만 나날이 발전하고 있거든요. 이걸 통해서 사실은 이미지 만드는 것들 영상 만드는 것들. 그리고 목소리 만드는 것은 정말로 이제는 누구나 우리가 이메일 쓰듯이 할 수 있는 것들이거든요. 그러다 보니까 이러한 부분들이 확산이 지금 많이 되고 있고. 사실 이번에 이렇게 노출이 돼서 그렇지, 이미 텔레그램이라든지 음성적인 인터넷 같은 경우에서는 이미 많은 여성들이, 사실은 여성의 피해자들의 대부분이 여성일 텐데요. 사실은 누가 지금 벌써 피해를 당하고 있는지 알 수도 없는 상황이라고 볼 수가 있습니다.

◇ 이승훈 : 악의적으로 내가 저 사람 한번 진짜 혼내야 되겠다. 뭐 악감정 가지고 있으면, 이상한 화면 만들고, 이렇게 해가지고 누구나 다 가해자가 될 수 있고 누구나 다 피해자가 될 수 있는겁니까?

◆ 강정수 : 정확한 표현입니다. 누구나 가해자가 될 수 있고, 누구나 피해자가 될 수 있는 상황입니다.

◇ 이승훈 : 기사로 봤습니다. 센터장님 뭐냐하면 국내 유명 연예인 화면을 도용해서 투자 유도 이런 사기를 했는데. 사기를 당하신 분들. 물론 연세 좀 되시고 그러신 분들이겠지만. 그 분들이 하는 말씀이, 아니 뭐 말하고 뭐 이런 게 너무 똑같아서, 전혀 의심을 안 했다. 뭐 이렇게 얘기를 하는데. 그렇다면, 지금의 딥페이 그 기술 말이죠. 이 기술만 따졌을 때는 정말 이제 뭐 어느 정도까지 와 있어요? 기술이 진짜?

◆ 강정수 : 기술은 아까 전에 말씀드렸던 것처럼 이미지 사진 4장이라든지 5장 정도만 올려도, 그 사람이 동일하게 제현을 할 수가 있고요. 목소리 같은 경우에도 1분이면 됩니다. 그러니까 이제 여러분들 챗GPT 써보시면서 어떤 어떤 그림을 그려줘라고 얘기하면 바로 그려주잖아요? 그러니까 흔히 말하면 이걸 프롬프트라고 얘기를 하거든요? 프롬프트에다가 몇 줄 단어, 몇 줄만 적으면. 그와 관련된 이미지나 목소리만 업로드하면, 누구든지. 정말 초등학생들도 만들 수가 있는 거거든요. 그러다 보니까 지금 이것에 대해서 사실은 긍정적인 의미로 사실은 만들었죠. 왜냐하면 인력이 모자란 가운데에서 아나운서를 대체한다든지, 인력이 모자란 가운데에서 모델을 대체한다든지, 이런 비용을 저렴하게 만들려고 사실 만들었지만. 우리가 원래 인터넷이 발전하면서도 음성적으로 음란물이라든지 이런 것들을 유통하는 경로가 인터넷과 함께 성장을 해왔잖아요? 마찬가지로 지금 인공지능이 진화하면서 원래 인공지능이 가져야 될 순기능. 즉, 우리가 업무의 생산성을 높인다든지, 비용을 절감한다든지 이런 기술들이 사실 이런 음성산업에서 또는 그리고 정치적인 영역에서 바로 쓰이고 있는 거죠. 그래서 사실은 작년에 있던 2023년 아르헨티나 선거에서도 쓰였고. 올해 1월에 있었던 방글라데시 선거에서도 이런 것들이 악용됐었고요. 사실 올해가 사실 슈퍼 선거해라고도 얘기를 합니다. 인도도 선거가 있고, 인도네시아도 있고, 미국도 있고 그리고 저희 대한민국도 있죠. 이러한 데서도 다양하게 지금 벌써 정치적인 딥페이크들이 등장하고 있기 때문에 많은 사람들이 공포감에 떨고 있는 거고, 두려움에 떨고 있다고 볼 수 있습니다.

◇ 이승훈 : 진짜 딥페이크 영상 때문에. 디페이크로 전해진 가짜 뉴스 때문에 유권자들이 잘못된 선택을 한 적이 있습니까?

◆ 강정수 : 네, 있습니다. 그것이 이번에 방글라데시 선거인데요. 친여당의 후보를 지지하기 위해서 야당 후보가. 예를 들자면, 미국하고 협력했다는 뉴스가 나온다든지. 이런 것을 앵커가 만들었는데. 이 앵커도 인공지능으로 만들었는데. 사람들이 저게 실물인지, 인공지능이 만드는지 구별하기 어려울 정도 수준이에요. 그래가지고 배경으로 해가지고, 어떤 보도 채널인 것처럼 해가지고, 방글라데시 선거 때는 야당 후보가 미국하고 협력을 하고 있다. 이런 미국 정부하고 협력을 하고 있다. 이런 식의 이야기들을 갖다가 뉴스 보도를 했거든요. 이것이 선거 결과에 어느 정도, 몇 퍼센트의 영향을 줬는지는 측정할 수가 없는 거죠. 그런데 이런 것이 분명히 나왔고 효과가 없었다고 얘기할 수도 없는 상황인 거고 이것이 선거에서 사용이 되었고요. 또 사실은 미국 공화당 같은 경우에는 인공지능 회사를 2개나 사들였어요. 사들여서 적극적으로 그런데 여기에서는 딥페이크를 하려고 하는 것이 아니라 긍정적인 메시지를 갖다가 자신의 선거 캠페인을 저렴한 비용으로 만들겠다는 의도에서 만든 거죠. 이런 거를 딥페이크라고 할 수는 없거든요. 속임수는 아니니까요. 인공지능이 긍정적으로 선거운동에서 전체 선거운동 비용을 줄여주는 효과를 갖고 있습니다. 그런데 이렇게 악용할 소지도 명확하게 존재하고 있는 거죠.

◇ 이승훈 : 그렇다면 기술도 뛰어나고 만들기도 쉬우니까 물론 그럼 반대로 AI를 활용을 해가지고 뭐 이거는 딥페이크다 이거 잡아내는 것도 어렵지 않겠네요?

◆ 강정수 : 기술적인 시도가 두 개가 있습니다. 하나가 이제 워터마크라고 해서 물론 인간의 눈에는 보이지 않지만, 컴퓨터만 인식할 수 있는 이건 인공지능으로 만들어진 기술이야라고 이렇게 표시해 주는 기능들을 지금 구글이라든지 이런 데서 도입을 하고 있거든요. 그런데 이것이 아직 전체적으로 의무화되지 않았고요. 그러다 보니까 모든 인공지능 서비스에서 이 워터마크를 아직 붙이지 않고 있고요. 그리고 의도를 갖고 있는 사람이라면, 요즘 오픈소스 인공지능도 있기 때문에. 이런 걸 피해서 만들 수는 있습니다. 또 하나 두 번째 기술적인 방법은, 독을 집어넣는 거예요. 일종의 기술적 독이라고 얘기를 하는데요. 예를 들자면 제가 A라는 사진을 집어넣었는데, 갑자기 고양이가 만들어진다든지. 유명인들 이런 이미지에는 그런 독을 타놓는 겁니다. 기술적인 독을. 그래서 예를 들면, 유명 배우를 집어넣으면 갑자기 강아지가 만들어진다든지, 이런 식으로 이렇게 하는 것들도 있는데. 아직까지 완벽하지 않은 실험적인 단계에 있기 때문에. 지금 미국 의회도 그렇고 이거는 규제를 해야 된다. 정부가 나서야 된다. 이런 지금 목소리들이 점점 커지고 있습니다.

◇ 이승훈 : 센터장님 말씀이시라면. 만들기도 쉽고, 그다음에 뭐 기술도 훌륭해서 뭐 누구든지 속기는 쉬운데. 이걸 찾아내고 뭐 하는 데는 그거보다 훨씬 더 어렵다. 그런 말씀이시네요?

◆ 강정수 : 네, 그렇습니다. 그래서 사실은 과거에 이름 트위터였던 엑스라든지, 이번에 테일러 스위프트의 영상이 많이 퍼졌던 것이 엑스라든지, 구글이라든지, 페이스북에다가 좀 더 책임감 있게 이것을 걸러내라고 하고 있지만. 이것이 요청이지, 법적인 규제가 아니잖아요. 이런 부분들이 많이 되고 그래서 작년 2023년에 영국에서는 처음으로 온라인 보호법이라는 것이 통과가 됐어요. 그래서 음란 페이크 영상을 공유하고 유통하는 것은 처벌하는 것이 이제 영국이 처음으로 도입을 했고요. 하지만 제작하는 건 처벌하지 않습니다. 그리고 지금 미국 같은 경우에도 하원에도 이 음란 공유물을 갖다가 딥페이크를 갖다가 공유하는 것, 유포하는 것에 대해서 처벌에 대한 법안이 상정되어 있었는데. 사실 관심을 못 받고 있었거든요. 그런데 이번에 테일러 스위프트 사건으로 미국에서 공화당과 민주당 양당에서도 관심을 갖게 됐고, 아마 통과될 가능성도 매우 높다고 볼 수 있습니다. 이런 부분이 규제가 강한 것은 오히려 중국입니다. 중국 같은 경우에는 특히 정치 인물에 대해서. 특히 시진핑이라든지, 이런 사람들을 딥페이크를 할 수 없게 하기 위해서 대개 강력한 처벌 규정을 중국 같은 경우는 만들어 놨고요.

◇ 이승훈 : 끝으로 간단히 묻겠습니다. 우리 선관위도 이제 총선 앞두고 딥페이크, 3단계에 걸쳐서 검증한다고 합니다. 보셨겠지만, 전문가로서 보실 때. 걱정 안 해도 됩니까?

◆ 강정수 : 저는 딥페이크의 쓰나미가 몰려온다고 생각을 하고 있고요. 이 쓰나미를 갖다가 선관위에서 막을지, 못 막을지는 좀 지켜봐야 된다고 생각이 듭니다. 선관위도 열심히 노력하고 있지만. 이것이 물론 우리나라도 선거 시기에 정치적 딥페이크는 금지되는 법안이 통과가 됐지만. 정치적인 것뿐만이 아니라 사실은 아까 말씀드렸던 것처럼. 여성들이 피해를 많이 보는 이런 성적인 디테일, 그 부분은 아직까지 한국은 무풍지대고요. 그리고 선관위에서 하는 것도 기술적인 것보다는 사람, 100여 명 가까운 사람을 동원해서 하는 것이기 때문에. 과연 큰 인터넷의 어떤 공간 속에서, 100여 명으로서 충분히 이걸 컨트롤 할 수 있을까? 대처할 수 있을까는 지켜봐야 될 문제라고 생각합니다. 선관위의 의지는 분명하게 존재하고 있는 것 같고요.

◇ 이승훈 : 오늘 말씀 잘 들었습니다. 고맙습니다.

◆ 강정수 : 네. 고맙습니다.

◇ 이승훈 : 지금까지 강정수 미디어 스피어 AI 연구센터장과 함께했습니다.