AI가 만들어낸 가짜 사진, 가짜 음성 식별하고 차단할 수 있을까?

[열린라디오 YTN]

■ 방송 : YTN 라디오 FM 94.5 (20:20~21:00)

■ 방송일 : 2023년 11월 4일 (토요일)

■ 진행 : 최휘 아나운서

■ 대담 : 송경재 상지대 사회적경제학과 교수

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다.

◇ 최휘 아나운서(이하 최휘)> 한 주간의 뉴스를 꼭꼭 씹어보는 시간, 미디어 비평입니다. 오늘은 상지대 사회적경제학과 송경재 교수님과 전화로 연결해서 이야기 나눠보겠습니다. 교수님 안녕하세요?

◆ 송경재 교수(이하 송경재)> 네 안녕하세요. 송경재입니다.

◇ 최휘> 이번에 G7 정상회담에서는 AI 관련해서 몇 가지 정보 작성의 원칙이 결정됐다고 합니다, 그런데 이 내용이 언론사나 뉴스 이용자에게도 영향을 미칠 것 같아요. 교수님 이에 대해 소개해주신다고요?

◆ 송경재> 네. G7이 AI 개발 기업을 대상으로 AI 기술 오용 가능성을 차단하기 위한 국제 행동 강령을 제시했는데요. 이에 대해서 <조선일보> 10월 31일자 “AI 콘텐츠에 워터마크 G7, 국제 규범 첫 제정“ 보도에서 심도 있게 다루었습니다. AI가 본격 도입된 이후 사실상 처음 마련되는 국제 규범이기 때문에 향후 한국을 비롯해 주요국이 추진 중인 AI 규제 법안에도 영향을 미칠 전망입니다.

<조선일보>는 <로이터>의 보도를 인용했는데요. <로이터>는 29일 “G7이 30일 AI 관리·보안 강화, 개인정보보호 등 총 11개 항목으로 구성된 AI 국제 행동 강령에 합의할 예정”이라고 보도했습니다. 여기에는 AI를 개발하거나 이용하는 기업이 AI 위험성을 주기적으로 식별하고 이를 완화하기 위한 적절한 조치를 해야 하고 AI 시스템의 성능·제약·오용 사례에 대한 보고서도 공개하도록 했습니다.

그리고 AI가 생성한 콘텐츠에는 별도 식별표시(워터마크)를 달아야 하고, AI 해킹을 막기 위해 보안에 적극적으로 투자하는 것을 규정하고 있습니다. 여기서 우리가 주목해야 할 것은 AI가 생성한 콘텐츠에 워터마크를 부착하자는 것입니다. 그동안 국내외에서 이미 AI가 뉴스를 작성하거나 AI 아나운서 등이 개발되어 있는데요. 국제기구에서 처음으로 AI가 만든 콘텐츠, 여기에는 당연히 미디어도 포함이 됩니다. 이 콘텐츠에 워터마크를 부착해 AI가 작성한 것임을 분명하게 하지는 원칙이 제시된 것입니다.

◇ 최휘> 보통 AI 관련한 규제는 국가마다 천차만별이지 않았나요? 이번에 G7이 이런 결정을 한 배경은 무엇인가요?

◆ 송경재> 물론, G7의 결정에는 여러 가지 배경이 있습니다. 그중에는 허위조작정보라고 할 수 있는 가짜뉴스가 한 원인인데요. AI를 이용하여 허위조작정보를 만들 경우 진위파악이 어렵다는 현실적인 문제도 있지만 인터넷 정보의 신롸성 차원에서 AI를 악용할 경우의 위험성을 인식했다고 할 수 있습니다. 여기에 국제적 공감대 형성도 이번 규제 강화의 배경이 되고 있습니다. <조선일보> 보도에서는 그동안 강력한 AI 규제를 마련하자는 유럽연합(EU)과 달리 미국·일본에서는 기업에 대한 간섭을 최소화하는 정책 기조를 보였습니다. 국가별로 관점이 좀 달랐던 것이지요. 그런데 최근 전 세계적으로 생성형 AI 도입 이후 허위조작정보가 폭증하는 등 부작용이 나타나자, 규제 강화에 대한 목소리가 커졌다고 지적합니다. 이미 G7 정상들은 지난 5월 히로시마 회의에서 AI 기술을 통제할 국제 규범 마련에 합의하고, 구체적인 규제안을 협의해 왔는데요. 이번에 G7이 합의한 행동 강령은 강제성은 없지만, 앞으로 AI 기업들의 운영과 각국 정부 규제안의 기준이 될 것이란 점에서 주목해야 할 것입니다. 유럽연합 관계자는 “G7의 AI 행동 강령은 구체적이고 강력한 규제 법안이 만들어질 때까지 AI 안전을 보장하는 가교 역할을 할 것”이라고 전망했습니다. 우리나라 역시 포털과 언론뿐만 아니라 배달, 여행, 쇼핑, 금융 등 주요 플랫폼 기업들이 AI를 활용하고 있다는 점에서 주의 깊게 지켜보아야 할 부분입니다.

◇ 최휘> 전 세계적으로 디지털 기술의 발전 특히 AI가 등장한 이후에 우리 미디어 차원에서도 활용과 규제를 둘러싼 논의가 활발한 것 같습니다. 앞으로 국제적인 이슈가 된 만큼 국내 미디어와 인터넷 업계에도 미치는 영향이 클 것으로 보입니다. 이번에는 국내로 시각을 전환해서요. 그동안 우리 방송에서도 포털뉴스의 영향력과 서비스 방식에 대한 이야기를 많이 나누었는데요. 이번에 <국회입법조사처>에서 “포털뉴스의 평가와 영향” 보고서가 발표되었다고 합니다. 어떤 내용이 담겼나요?

◆ 송경재> <국회입법조사처>는 지난 10월 27일 ‘포털뉴스의 평가와 영향: 실증연구에 대한 문헌고찰’을 제목으로 한 보고서를 발간했습니다. 이와 관련한 내용은 <독서신문> 10월 29일자 “국회입법조사처, 포털뉴스 문헌 분석 보고서 발간” 기사와 국회입법조사처의 원문보기 서비스에 잘 나타나 있습니다. 보고서에서는 국내 포털뉴스 관련 학술논문과 보고서 가운데 18권을 분석 대상으로 정해 포털뉴스 문제를 파악한 것입니다. 아무래도 현장의 목소리도 중요하지만, 학계에서 포털뉴스 문제점과 현황을 진단한 연구 결과를 통해서 학문적인 흐름과 포털뉴스 서비스의 개선 방향성을 다루었다는 점에서 의미가 있습니다. 보고서에서는 그동안 학계의 연구가 포털뉴스의 정파성, 포털뉴스의 만족도 및 신뢰도, 포털뉴스가 이용자 및 언론매체에 미치는 영향, 포털의 자율규제 정책 등을 주로 다루었으며 개선 방안도 상당 부분 제시되었다고 지적하고 있습니다. 보고서에서는 학술논문 18편을 추출하여 내용을 살펴보았습니다. 포털뉴스 관련한 보고서가 많을 것이지만, 핵심적인 키워드 추출을 통해서 18편의 최근 논문을 분석 대상으로 했습니다. 종합적으로 분석 결과를 요약하면, 선행연구에서는 포털뉴스의 긍정적 역할에도 불구하고 이용자는 포털뉴스가 정파성을 갖고 있다고 인식하고 있고, 포털뉴스에 대한 만족도가 전문성과 상호작용성이 아닌 흥미성과 편의성 측면에 있다는 점을 실증적으로 확인할 수 있었습니다. 그러나 연구에서 확인된 바는 포털뉴스가 긍정적인 면만 있는 것은 아니라고 지적하고 있습니다. 포털뉴스의 이용이 오히려 사회적 신뢰를 낮추고 매체의 상업화를 유도함으로써 언론의 신뢰도를 저하시키고 있다는 점도 발견된다고 평가했습니다. 이러한 문제 해결을 위해 현재 방송통신위원회는 민관협의체를 구성하여 포털뉴스 대응 방안을 논의하고 있으며 국회에서도 포털뉴스와 관련한 입법안이 다수 발의되어 논의 중에 있다고 지적했습니다.

◇ 최휘> 국내 포털뉴스 생태계가 가지는 문제점을 일목요연하게 제시한 것이군요?

◆ 송경재> 그렇습니다. 보고서는 포털뉴스의 현 단계를 진단하고 예상되는 문제점과 정책대안이 잘 제시되어 있습니다. 보고서를 작성한 국회입법조사처의 최진응 사회문화조사실 과학방송통신팀 입법조사관은 내용분석 결과를 크게 4가지로 요약했습니다. 첫째, 이용자는 포털뉴스가 정파성이 있다고 보고 있고, 포털뉴스의 전문성과 상호작용성이 이용 만족도에 영향을 주지 않으며, 포털뉴스의 신뢰도는 포털 자체보다는 언론사나 정당, 정치환경, 규제제도 등 외부요인이 주요 변수가 된다고 분석했습니다. 둘째, 포털뉴스는 정치참여에는 긍정적 영향을 주었지만, 사회적 신뢰와 이성적 대응에는 부정적 영향을 미치고 있음을 규명했습니다. 그리고 포털뉴스는 언론생태계의 상업화를 가져오면서 언론의 신뢰도를 저하시키는데 일정한 부정적인 문제점이 있는 것으로 학계에서는 분석하고 있습니다. 셋째, 포털뉴스의 자율규제 정책이 포털뉴스의 신뢰성 및 다양성을 높이는 효과는 있었으나, 그 영향이 미미하다는 분석도 제시되었습니다. 넷째, 포털뉴스에 대한 규제에 있어 포털뉴스에서 이용자 선택권 강화, 뉴스 알고리즘 및 댓글 서비스의 개선 등 포털의 책임 강화가 필요하다는 견해가 제시되었습니다. 이 부분은 그동안 우리 방송에서도 다양하게 다루어 온 이슈인데요.. 학계에서도 이용자 선택권의 강화 문제, 알고리즘이나 댓글 문제의 심각성을 인지하고 많은 연구가 진행 중입니다.

◇ 최휘> 그렇다면 혹시 보고서에서 언론 현업이나 정책 담당자들이 참고할 만한 정책적 시사점은 있었을까요?

◆ 송경재> 네 포함되었습니다. 보고서 내용을 보면, 쟁점별로 정책적인 시사점 내지는 참고할 만한 개선 방안이 나왔는데요. 크게 네 가지를 제시했습니다. 첫째, 포털의 뉴스서비스 제공방식에 대한 변화를 먼저 이야기 했습니다. 기존에는 포털이 제공하는 방식인데, 이를 이용자 중심으로 전환하자는 것인데요.. 선행 연구에서 포털뉴스 정파성에 대한 이용자의 주관적 인식이 존재하고 이용자의 선택권을 확대하면 포털뉴스의 신뢰도가 높아진다는 점에서 이용자 선택권을 늘리는 것을 추진해야 한다는 것입니다. 둘째, 이용자의 편의성 측면을 고려하여 알고리즘 기반의 포털뉴스 편집 방식 체계를 유지하더라도 포털사업자의 사회적 책임 강화를 위한 방안 마련이 필요하다고 밝혔습니다. 그동안 포털사업자의 투명성과 사회적 책임이 역시 중요한 정책으로 제시된 것입니다. 적어도 포털뉴스 추천 알고리즘이 구체적으로 어떤 방식으로 이루어지는지에 대한 투명성을 보장하는 실질적 조치를 하고 속보나 상업적 목적으로 클릭을 유도하는 기사가 아닌 공공성에 기반한 전문적이고 심층적 기사의 유통이 보장되도록 뉴스 추천 알고리즘을 재설계해야 한다고 제시하고 있습니다. 셋째, 포털 뉴스제휴평가위원회의 공적 역할을 객관적으로 담보할 수 있는 제도 개선도 제안하고 있습니다. 적어도 포털의 뉴스제휴 중 검색뉴스 제휴의 경우에는 공공재 측면에서 바라보면서 언론사에 대한 포털의 진입장벽을 두기보다는 언론매체의 다양성을 보장하는 차원에서 접근하는 것을 제안합니다. 넷째, 포털뉴스 댓글 순위 정렬 방식인데요. 현행 베스트댓글 방식의 포털뉴스 댓글서비스는 온라인 정치참여를 확대하는 순기능이 있으나 자극적인 내용에 따른 감정적 대응을 강화하는 문제점도 확인됩니다. 이에 포털뉴스 댓글 실명제 강화나 댓글폐지와 같이 이용자 참여를 감소시키는 방식보다는 현행 이용자 참여방식을 보장하면서 좋은 댓글을 상위에 올리는 방법 등의 대안도 고민하자는 것입니다.

◇ 최휘> 한국에서 포털뉴스의 이용자가 많다 보니 그 영향력이나 저널리즘의 가치와 관련한 많은 연구가 있었는데, 그 문제점과 대안을 정리한 보고서가 나왔다. 정책적으로 들여다보면 좋을 것 같다. 이렇게 정리하겠습니다. 오늘 말씀은 여기까지 듣겠습니다. 감사합니다.

◆ 송경재> 네 감사합니다.

◇ 최휘> 지금까지 상지대 사회적 경제학과 송경재 교수였습니다.