[생생플러스] "AI 아이유 밤양갱? 2분이면 누구나 만들 수 있다"

■ 방송 : YTN 라디오 FM 94.5 (15:00~16:00)
■ 진행 : 김우성 앵커
■ 방송일 : 2024년 3월 14일 (목요일)
■ 대담 : 김들풀 IT뉴스 편집장


-챗GPT같은 생성형 AI다룰 줄 알면 금방 만들 보편기술
-저작권 관련 법안 미비, 수익 인정되지 않아 문제 될 것
-AI 의무표기 반드시 해야하지만... 회피 기술도 또 발달
-목소리, 사진으로 보이스피싱 악용 우려도
-AI 기술, 정보접근 평등, 세금 통해 재분배 등 긍정기능도

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다.


◇ 김우성 앵커(이하 김우성) : 지금 들리는 이 목소리, 비비라는 가수의 밤양갱이라는 곡인데요. 여러 가수들도 따라하고 있습니다. 챌린지도 있고 또 모방도 있는데 앞서 들렸던 목소리들 여러분들 혹시 기억하십니까? 박명수 씨도 들렸고요. IU, 그다음에 돌아가셨죠? 고 김광석 가수의 목소리도 들렸는데 진짜일까요? 사실은 AI가 학습해서 낸 가짜 목소리입니다. 그런데 정말 놀랍도록 똑같죠. 과연 이게 어떻게 받아들여야 될지, 또 경제적으로 법적으로 문제가 없을지 전문가와 이야기 나눠봅니다. it 뉴스 김들풀 편집장입니다. 안녕하십니까?

◆ 김들풀 IT뉴스 편집장(이하 김들풀) : 네 안녕하십니까?

◇ 김우성 : 이게 원곡도 원곡이지만 이렇게 AI로 학습시켜서 낸 목소리 가수의 노래가 조회수가 엄청납니다. 인기가 많은가 봐요.

◆ 김들풀 : 엄청납니다. 현재 유튜브에 말씀하신 것처럼 IU를 비롯해서요. 악뮤 이수현, 잔나비 최정훈 심지어 개그맨이죠. 박명수 씨의 목소리로 영상이 많이 뜨고 있는데요. 현재 약 한 300만 회 정도 엄청나게 지금 기록을 세우고 있고요. 화제가 되고 있죠.

◇ 김우성 : 이게 뭐 다른 가수들이 좀 이렇게 챌린지나 여러 가지 했던 기억들은 나는데 AI로 이렇게, 그러면 지금 이 기술을 적용한다면 김들풀 편집장이나 제 목소리로도 밤양갱 부를 수 있는 거 아닌가요?

◆ 김들풀 : 네 당연하죠. 아주 방법은 간단하고요. 기존에 있는 툴들을 사용하면 한 2~3분 안에 이렇게 만들어낼 수가 있죠.

◇ 김우성 : 정말 빠릅니다. 저 같은 경우에는 음악에서 배경 음악에서 목소리를 분리하는 그런 AI 기술을 통해서 방송이 필요하니까 활용한 적도 있는데 이거는 뭐 목소리 가지고 아예 없는 새로운 걸 만들어내는 거니까 정말 놀랍습니다. 이게 기술이 어느 정도 보편화돼 있나요?

◆ 김들풀 : 조금 일반적으로 ChatGPT랄지 생성 AI를 조금만 다룰 줄 알면 누구나 만들 수 있는 너무 보편적인 기술이죠.

◇ 김우성 : 누구나 만들 수 있다 그러면 지금 조회수가 300만 이렇게 나오는데 그런 경우에는 돈이 생기잖아요. 광고비가. IU씨는 직접 밤양갱을 부르지 않았습니다만 AI를 통해서 IU씨 목소리로 노래를 했습니다. IU씨가 그 수익도 가져갈 수 있는 건가요?

◆ 김들풀 : 그렇지 않습니다. 현재 AI 커버곡이라고 우리가 일명 말하잖아요. 이 제작 과정에서 IU의 목소리를 학습을 시켜서 한 건데 이게 이제 명확히는 저작인접권이라고 그래요. 저작인접권이 인정되지 않아서 받을 수가 없죠. 실제로 저작권법에 따르면 인간이 만들어 창작을 인정할 수 있는 보호 대상이라고 얘기했지만 여기에는 동물이나 AI가 만든 산출물은 저작권법에 의해 보호되지 않는다. 이거는 이제 우리나라뿐만 아니라 미국이랄지 유럽 일본 이런 데도 다 마찬가지입니다.

◇ 김우성 : 그러면 지금 사실은 법으로는 이거 어떻게 처리할 수 없는 상황입니다. 왜냐하면 근거가 없기 때문인데 지금 연예인들도 이 목소리 주인공들도 불편함을 드러냈거든요. 물론 다른 장점도 얘기했습니다만 이거는 지금 법을 좀 만들어서 하지 않으면 나도 김광석의 목소리로 뭐 이런 노래 무슨 비틀즈 노래 하나를 불러보겠어 라고 마음대로 올릴 수도 있는 거잖아요. 이거 문제가 될 것 같은데요.

◆ 김들풀 : 네 그렇습니다. 장윤정 씨나 박명수 씨가 이 말을 했죠. 일단은 첫 번째로는 너무 깜짝 놀랐다.

◇ 김우성 : 소름 돋는다 그러시더라고요.

◆ 김들풀 : 이게 심각하다라는 거고 이거 AI가 하면 나는 이제 레코딩까지 할 필요가 있겠느냐

◇ 김우성 : 네

◆ 김들풀 : 이렇게 당혹스러움, 놀라움 이렇게 반응을 보였던 거고요. 음악 저작권협회라고 있어요. 여기에는 이 생성형 AI 콘텐츠 표기 의무화법에 대해서 도입이 꼭 필요하다.

◇ 김우성 : 네.

◆ 김들풀 : 예. 공청회도 이제 국회에서 열었고요. 여기에 대한 입법이 시급하다고 지금 계속 강조하고 있죠.

◇ 김우성 : 이게 정말 저는 사실은 이런 얘기를 좀 더 하고 싶습니다. 이게 콘텐츠에 대한 이익이 어떻게 배분되느냐 법적으로 어떻게 처리되느냐의 문제도 있지만 지금 간단하게 생성형 AI 많은 앱들이 이미 출시돼 있습니다. 유료 모델도 있고 무료 모델도 있는데 간단하게만 조작하면 이걸 할 수 있다는 거잖아요 누구나. 그러면 지금 사실 저희가 보이스피싱 같은 거 보면 목소리 속이고 뭐 엄마 난데 지금 다쳐서 병원에 있는데 돈 좀 부쳐줘 이런 범죄가 실제로 있잖아요.

◆ 김들풀 : 그렇죠 심지어 요즘에는 그 사진을 도용해서 거기에 상처 난 사진을 입히거나 이 정도까지 지금 보이스피싱도 지금,

◇ 김우성 : 그러니까 편집장님이나 저처럼 이렇게 대중들한테 목소리가 노출된 사람들은 이렇게 악용해가지고 가족들한테 전화 걸면 이거 속수무책 아닌가요?

◆ 김들풀 : 그렇죠 저희 가족도 마찬가지겠죠. 아무리 잘한다고 그래도 아주 급박한 상황에서 그렇게 덤비면 이게 감정의 문제라서요.

◇ 김우성 : 네 맞습니다. 이게 좀 그래서 지금 제도가 전혀 없는 상황이라 더 무섭고요. 심지어는 목소리의 톤 방금 노래도 부를 정도니까요. 불안하게 다급하게 이렇게 다 목소리를 조작할 수 있다라고 합니다. 정말 걱정되는데, 이게 지금 어떻게 보면 AI가 새로운 기술과 가능성도 열어주고 있는 측면도 있고, 방금 좀 우려하는 측면도 있고, 두 가지가 충돌하고 있어요. 이런 상황에서는 어떻게 봐야 됩니까? 초기이긴 한데.

◆ 김들풀 : 먼저 저작권 침해 여부를 먼저 봐야 될 것 같고요. 특히 생산형 AI가 가장 저작권에 대한 침해 여부고, 실제로 생산형 AI 개발 원 회사들이 이제 소송을 당하고 있기도 하고, 그렇죠 왜냐하면 먼저 데이터 학습을 하기 위해서는 원천 데이터가 기본적으로 있어야 되는데

◇ 김우성 : 인간이 만든 것들

◆ 김들풀 : 일부가 학습이 됐는가, 아니면 전부 이거를 가지고 학습을 했느냐 이 부분인데요.논란이 계속 많이 되고 있죠. 첫 번째로는 침해 여부는 어떤 논쟁이냐 하면 이게 아주 일부 같은 경우에도 이걸 저작권을 줘야 되냐 아니면 공정에 사용권을 했느냐 이런 판단이 어려운 거고요. 그다음에 이 이 산출물에 대한 저작권 인정 여부에 있어서는 이게 AI가 인간과 같이 책임을 질 수 있느냐, 없다는 거죠. 그래서 저작권자로 인정하기 어렵다 이런 논란들이 계속 일어나는 거죠.

◇ 김우성 : 아까 범죄를 예를 들었습니다만 저는 그게 사실 가장 섬뜩하더라고요. 그러면 이게 처벌을 할 때도 AI 프로그램을 처벌할 수는 없잖아요. 굉장히 어려운 상황입니다. 지금 복잡하기 때문인데 지금 사실은 AI 선거협정 같은 곳에 한국의 LG, AI 연구소도 들어가 있고 빅테이크끼리 전 세계 유명한 회사들끼리 함께 협정을 맺었습니다. 왜냐하면 이게 민주주의를 흔들 수도 있잖아요. 트럼프 잡혀가는 사진 저는 너무 리얼해서 놀랐거든요. 다 가짜입니다. 딥페이크인데, 이걸 좀 규정 같은 것들을 만들어야 될 것 같아요. 어떻게 좀 보십니까? 법률적인 문제는 또 법률가의 문제이기도 하지만 it 자체가 좀 완전히 새로운 영역이라서요.

◆ 김들풀 : 그렇습니다. 전 세계적으로 아주 논란이고 미국도 관련 법률도 있고요. 또 EU 같은 경우에도 관련돼서 이 법안을 통과시키기도 했고 먼저 가까운 우리나라를 먼저 보면 인공지능 저작권 제도 개선에 대한 워킹그룹을 문화체육관광부 주도로 현재 운영하고 있어요. 그리고 이제 지난해 2023년 말이죠. 인공지능 저작권 안내서도 발간을 했거든요. 여기에는 지금 진행자님이 얘기한 것처럼 그러한 저작권 침해 소지, 그다음에 이 사진을 이용 허락을 받아야 된다 이런 것들을 지적하고 있거든요. 그런데 이제 실제로 현행법에 말씀드린 것처럼 저작권법에 따르면 이 지적재산권에 대한 제한 사유로 명시되지 않고 있어서 아주 심각한 거죠. 여기에 문체부가 올해 말 정도에 아주 디테일한 이러한 개선 방안 법과 제도에 대한 이런 부분들을 발표할 예정이기도 합니다.

◇ 김우성 : 이게 지금 사실은 편집장께서도 얼마 전에 이 핵심 기술 관련된 책들을 내셨어요. 2030 핵심 기술. 미래가 너무 빨리 바뀌고 있는데 지금 드러나고 있는 AI 현상이 미래에도 주된 것일지 이건 도입부에서 일어나는 시작 단계에서 일어나는 이슈고 앞으로는 더 놀라운 세상들이 펼쳐질 거야 인지 궁금합니다. 어떻게 전망하십니까?

◆ 김들풀 : 저는 우리 꼭 기술 역사뿐만 아니라 우리 인류 역사를 한번 봐봐야 될 것 같아요. 큰 변화잖아요. 이 변화는 새로운 세상을 여는 어떤 잠재력을 가지고 있다는 거고요. 당연히 이런 논쟁과 우려는 나오는 거고 그래서 이 변화가 올 때는 항상 시끄러웠거든요. 그리고 또 우리는 그 뒤에는 항상 인류의 발전이 있었다는 점 그래서 이 부분들이 아주 많은 지속적인 노력과 연구가 이제 필요한 부분들이기는 하죠.

◇ 김우성 : 지금 같은 경우에는 유튜브의 등장으로 언론사와 개인의 힘의 차이가 컸지만 그게 좀 좁혀졌다 이런 평가도 있거든요. AI도 마찬가지로 그런 평등 부문에 좀 영향을 미친다 이렇게 보시는 건가요?

◆ 김들풀 : 그렇습니다. 이미 유럽에서는 AI 세금을 부과를 하잖아요. 그러니까 인공지능을 다루고 인공지능을 가지고 어떤 생산성에 적용을 했을 때 거기에 생산성에다가 세금을 부과하는 거죠. 그러니까 사회적인 편차가 있는 그런 소외된 이런 계층한테 또 다시 정부가 재분배하는 이런 형태로 계속 법률적인 부분들을 정비해 나가고 있는 거죠.

◇ 김우성 : AI로 높은 수익, AI로 효율성을 추구하는 곳에는 세금을 또 먹여서 그 세금이 또 재분배되고 재투자되도록 그것도 괜찮네요. 일단은 지금은 밤양갱 때문에 벌어진 소동이긴 합니다만 과제가 많습니다. AI로 만들어진 건 이거 AI로 만든 겁니다 라고 명확하게 표시나 구분을 할 수 있어야 되는데 아직까지는 없거든요. 그 부분은 어떻게 정비됩니까?

◆ 김들풀 : 현재 가장 큰 대안으로는 워터마크라고 있잖아요. 우리가 영상이나 이미지에 이렇게 찍히는 워터마크.

◇ 김우성 : 네 반투명하게 딱 찍혀 있는

◆ 김들풀 : 네네 그런데 이제 실제로 우리 사진 있잖아요. 이미지 사진을 찍으면 여기에도 메타데이터가 들어있거든요. 몇 년도 며칠 이렇게 다 나와 있는데 마찬가지로 이 워터마크 기능을 넣는 거죠. 그런데 이걸 임베디드 워터 마킹이라고 해서 그냥 안에 심는 것이죠. 그러니까 이 콘텐츠를 생성할 때 아주 미묘한 신호가 자동 삽입되는 거여서 정보 출처를 확인할 수 있고요. 그래서 이 딥페이크랄지 이런 허위 정보들을 찾아내는 건데 그런데 이 문제가 있어요. 이 워터마크도. 실효성 부분이에요. 그래서 한 달 전쯤에 이 논문에는 기존의 워터마크를 모두 무력화시켰다. 워터마킹을 신뢰할 수 없다 궁극적으로는. 이런 부분들이어서 굉장히 논란도 많고 많은 연구도 필요할 것 같습니다.

◇ 김우성 : 마치 영화 매트릭스처럼 뭐가 진짜인지 가짜인지를 싸워야 되는 상황이 될 수도 있는데 반대로 또 개인들에게는 무한한 기회가 될 수 있습니다. 여건이 안 돼서 못했던 분들한테는 아주 훌륭한 비서 능력 있는 도구가 될 수도 있는데 어쨌든 이 밤양갱 문제도 결국은 워낙 유명한 연예인들이 연결되어 있기 때문에 법적인 문제뿐만 아니라 제도적으로도 좀 해결이 돼야 될 것 같은데요. 그때 저희가 또 다시 한 번 제도안이 나오면 연결해서 얘기 듣도록 하겠습니다. 오늘 말씀 여기까지 듣겠습니다. 감사합니다.

◆ 김들풀 : 네 감사합니다.

◇ 김우성 : 네 it 뉴스 김들풀 편집장이었습니다.