4월 총선, 딥페이크 가짜뉴스 면밀히 차단해야

4월 총선이 2개월 남았다. 선거철이면 음모와 괴담에 가짜뉴스가 난무해 유권자를 혼란에 빠트린다. 올해는 전 세계 76개국에서 선거가 치러진다.

최근 미국 민주당 대선후보를 뽑는 뉴햄프셔 예비경선 직전에 바이든 대통령 음성으로 투표 거부를 독려하는 가짜전화가 당원들 2만5000명에게 동시다발적으로 걸려와 소동이 났다.

바이든 대통령 목소리를 인공지능(AI)으로 만들어 낸 딥페이크 가짜음성으로 유권자를 혼란시켜 경선을 방해하려는 악의적 시도였다. 인공지능(AI)을 악용한 허위 정보가 민주주의에 중대 위협이 될 것이라는 경고가 현실화된 것이다.  

딥페이크(Deepfake)는 인공지능 기술인 ‘딥러닝(deep learning)’과 가짜를 의미하는 ‘페이크(fake)’의 합성어다. 딥페이크는 인공지능(AI)과 디지털 기술을 활용한 이미지 합성 기술로 만들어낸 가짜 이미지·음향·영상물 이다.

국내도 딥페이크로 인한 패혜가 증가하고 있다. 방송통신심의위원회가 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 사례는 2020년 473건에서 2023년(11월까지) 5996건으로 12배 이상 급증했다.  

딥페이크의 특성상 선거에도 많이 활용된다. 지난 대선에서 ‘AI 윤석열’, ‘AI 이재명’ 등 딥페이크 영상이 등장해 관심을 끌었다. AI로 만들어진 가짜 음성, 사진, 영상에 대중이 익숙해지면서 정치인들이 딥페이크의 유혹에 빠져 이를 악용하는 상황이 발생할 우려가 높다. 딥페이크를 활용하면 유권자의 관심을 높이고 홍보비용을 줄일 수 있지만, 가짜뉴스 허위정보로 선거 조작 등 부작용이 크다.

생성형 AI 기술이 대중화되면서 누구나 쉽고 빠르게 딥페이크를 만들 수 있는 환경이 됐다. 이번 총선에서 출몰하게 될 ‘딥페이크 쓰나미’가 크게 우려되면서 철저한 사전 대비가 요구된다.

우리나라도 1월 29일부터 딥페이크를 활용한 선거운동이 금지된다. 지난해 12월에 선거 90일 전부터는 딥페이크를 활용한 선거운동을 금지하는 공직선거법 개정안이 국회를 통과했다.

선거운동을 위해 실제와 구분하기 어려운 음향·이미지·영상 등 딥페이크 영상을 제작·편집·유포·상영·게시하는 것이 금지된다. 딥페이크를 이용해 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다.

총선을 바로 앞둔 시점에서 딥페이크 규제를 시작했지만, 피해를 막기엔 역부족이라는 우려가 나온다. AI는 빠르게 조작된 영상·사진을 만들어내고, 소셜미디어(SNS) 등을 통해 순식간에 확산되기 때문에 사람이 검증해서 광범위한 폐해를 막기엔 이미 한계가 있다는 것이다. 대중을 속이기 위해 만든 딥페이크 영상은 전문가도 얼핏 구분하기 어렵고, 정치적인 목적의 선전·선동에 쉽게 악용될 가능성이 높기 때문이다. 

딥페이크를 악용하는 사례가 끊이지 않는 가운데, 딥페이크를 구별하는 기술도 함께 발전하고 있다. AI로 AI를 잡는 딥페이크 판별 기술이 인텔 등에서 나왔다. 구글·마이크로소프트 등 빅테크는 생성 AI로 만든 딥페이크에 워터마크를 부착해 악용 가능성을 사전에 차단하고 있다.

국내에서도 생성형 AI 전문 기업 딥브레인AI가 서비스형 소프트웨어 기반의 딥페이크 탐지 솔루션을 지난달 출시했다. 이번 총선에서 적용 가능성은 지켜봐야 하겠다. SNS를 운영하는 플랫폼 업체들이 이런 기술을 활용해 더 적극적으로 문제 해결에 나서 주기를 기대한다. 

전문가들은 완벽한 단속은 어렵고, AI가 대중화할수록 관리는 점점 더 힘들어질 것이라고 경고하고 있다. 빅테크 기업들이 선의로 내놓는 딥페이크 기술을 악용하는 건 워터마크 요청 등을 할 수 있지만, 사적 기술로 만든 수준 높은 콘텐츠를 사전에 차단하기는 쉽지 않다는 것이다. 수사력을 강화하고 일벌백계 하는 등 악용 사례마다 대책을 철저하게 세워야 할 것이다.

그러나 딥페이크 특수효과는 필요한 영화, 방송의 영상 산업에서 활용도가 매우 높다. 실존하지 않는 과거 인물을 딥페이크를 이용해 과거 모습을 실존 인물처럼 구현하는 데 유용하게 쓰인다.

고(故)송해·김광석·김현식 등의 무대를 다시 볼 수 있는 것도 딥페이크 덕분이다. 긍정적 활용이 많지만, 딥페이크 특성 때문에 가짜뉴스를 제작하거나 범죄에 오남용 되기도 한다. 실제 미국에선 트럼프가 체포되는 장면에 전 세계를 혼란에 빠뜨린 바 있다. 결국 기술이 악용되는 부작용은 막되 효율성을 높이는 방향으로 관리하는 게 중요하다.

올해는 지구인의 절반이 선거한다고 할 만큼 여러 나라의 선거가 몰린 해다. 특히 AI가 선거에 미치는 경고가 지난해부터 나오고 있다. 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 미국은 벌써부터 그 경고가 현실이 되고 있다.

구글·애플 앱스토어에서 ‘딥페이크’를 검색하면 수십 개의 앱이 뜨고 이를 다운로드 하는 데는 5초, 사진 조작은 2분이면 충분하다. 딥페이크는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 4월 10일 총선을 앞둔 국내 정치계도 딥페이크에서 전혀 안전할 수 없다. 중앙선거관리위원회와 수사당국 간 신속 대응체계 구축에 만전을 기해야 할 것이다.

또한 한국을 공격하는 북한의 해킹이 급증하고 있다. 지난해 정부와 공공기관을 공격한 국제 해킹이 전년도 대비 36% 늘어났는데, 이중 80%가 북한의 소행이었다. 또 중국이 국내 언론사로 위장한 사이트를 200여개 개설, 친중·반미 선동으로 소셜미디어(SNS)로 확산시켰다고 국가정보원이 밝혔다. 총선을 앞두고 선거개입으로 허위정보와 여론조작을 조장하는 행위가 더욱 기승을 부릴 것이 예상된다.

과거 어느 선거보다 치열하게 가짜뉴스와 전쟁을 벌여야 할 것이다. 총선을 위협하는 여론 조작 세력들을 차단하고 엄단해야 한다. ‘댓글 작업’부터 첨단 AI 기술까지, 다양한 수법으로 총선 여론 조작에 뛰어들 것이다. 인터넷에서 정치 여론을 조작하는 ‘댓글 작업 사이트’를 철저히 색출 처단해야 한다. 유권자도 가짜뉴스에 더더욱 경각심을 가져야 한다.

경희대 언론정보학부 교수 경남대 석좌교수 YTN 매체비평 고정 출연 방송통신심의위원회 연예오락방송 특별 위원장 방송위원회(보도교양/연예오락)심의 위원장 방송통신연구원 부원장 언론중재위원회 위원 KBS 예능국장·TV제작국장·총국장·정책실장·편성실장 중앙일보·동양방송(TBC) TV제작부 차장