가짜뉴스로 돈 벌려는 악성 사이트 급증

온통 세상은 가짜뉴스로 몸살을 앓고 있다. 인공지능(AI)로 만든 가짜 정보가 활자를 넘어 영상 이미지로 세상을 혼탁하게 만드는 시대다. 트럼프 전 대통령이 뉴욕 경찰에 체포되며 강하게 저항하는 장면, 경찰을 피해 도망치는 트럼프, 주황색 죄수복을 입은 트럼프의 모습 등 다양한 가짜 이미지가 트위터 등을 통해 확산됐다. 모두 AI 기술로 만들어진 가짜뉴스다. 

지난 5월 미국 국방부 청사(펜타곤) 인근에서 폭발이 발생한 사진과 조 바이든 미국 대통령 사망설과 같은 가짜뉴스들이 당시 미국 증시를 출렁이게 했다. AI를 비즈니스 기회로 활용하려는 움직임이 확산하면서 AI가 만들어내는 가짜뉴스 콘텐츠(AI 정크)가 기하급수적으로 증가하고 있어 AI 정크(junk)가 인터넷을 오염시키고 있다는 분석이다. 

최근 미국의 가짜뉴스 추적 기관인 ‘뉴스가드’에 따르면, AI를 활용해 가짜뉴스 콘텐츠를 찍어내는 뉴스사이트가 지난 6월 말 기준 277개에 달하는 것으로 나타났다. 챗GPT와 같이 문장과 영상을 만드는 생성형 AI를 활용해 가짜뉴스를 양산해내고 이를 통해 광고 수익을 올리는 수법이다. AI 전문가들에 의하면 2026년이면 온라인 콘텐츠의 90% 이상이 AI가 생성한 정보가 될 것이라 한다. 이제 AI가 생성한 뉴스를 찾아내는 또 다른 AI가 필요하다는 주장이다.

‘뉴스가드’의 공동설립자인 고든 크로비츠는 이들 사이트는 AI가 만든 자극적이고 선정적인 뉴스 콘텐츠로 조회수를 높여 쏠쏠한 광고 수익료를 챙기는 방식으로 AI를 새로운 비즈니스의 기회로 삼고 있다고 지적했다. 그러면서 "이같이 AI를 악용하는 가짜뉴스사이트가 기하급수적으로 증가하고 있다"고 경고했다.   

가짜 뉴스의 결정적인 문제점이 자극적인 이야기가 돈이 된다는 점이다. 특히 ‘단독’이라는 미명의 타이틀로 글이나 영상을 신속하게 업로드하면 트래픽(traffic)이 몰리게 되고, 그것은 곧 바로 돈벌이 수익성과 직결된다. 이제는 딥페이크(deepfake)라는 AI기술의 발전으로 목소리와 인물의 모습까지 흡사하게 구현할 수 있어 무엇이 진실인지 알기 더 어려워진 것이다. 

보통 사람들은 주어지는 정보에 그저 무비판적으로 빠르게 반응하니까 가짜 뉴스에 취약할 수밖에 없다. 사람들은 선정적이고 폭력적이거나, 이질적이고 자극적인 정보에 저절로 잘 끌려드는 본능이 존재한다. 가짜뉴스는 대개 호기심을 유발하며 자극적이고 부정적인 감정을 일으키는 메시지를 전달한다. 유튜브에는 AI가짜뉴스로 돈을 버는 방법을 조언하는 영상 콘텐츠들이 올라와 있고, 조회수도 수십만회에 달한다. '일주일에 수천달러를 벌 수 있는 방법'이라는 제목의 영상에는 AI가 생성한 콘텐츠로 채워진 블로그를 구글의 검색 결과 최상단에 노출시켜 광고 수익을 올리는 내용을 담고 있다. 

미국도 내년 11월 대선을 앞두고 AI발 가짜뉴스에 대한 경각심이 커지자 의회와 행정부 차원에서 법제화 작업에 속도를 내고 있다. 미 백악관은 AI의 안전한 사용을 위한 정책 개발 회의를 정기적으로 열고 있으며, 미 상원도 AI 정책 논의에 최근 착수했다. 미 국무부 해외 여론 대응팀 글로벌인게이지먼트센터(GEC)도 최근 여러 사람의 얼굴이 조합된 ‘가짜 얼굴’ 사진을 판별하는 기술을 개발 중이다.

세계 각국과 주요 국제기구들도 AI 통제를 위한 움직임이 분주하다. 유엔 안전보장이사회는 AI가 인류 평화와 안보에 미칠 수 있는 위협을 논의하는 회의를 지난 7월에 가졌다. 이번 9월에는 안토니우 구테흐스 유엔 사무총장 주도로 'AI 자문위원회'를 만들어 AI 대응 계획을 구체화하겠다는 목표다. 앞서 유럽연합(EU) 입법기관인 유럽의회는 지난 6월 AI에 대한 세계 최초의 포괄적 규정안을 의결했다.  

유럽연합 집행위원회 부의장인 베라 주로바는 최근 구글, 메타, 마이크로소프트, 틱톡 등의 기업이 가입된 ‘허위정보에 관한 EU 실천강령(EU Code of Practice on Disinformation)’ 서명 주체들에게 “거짓 콘텐츠를 식별하고 이를 명확하게 표시할 수 있는 기술을 마련할 것”을 촉구했다.

생성형 AI 기술 제품을 판매하는 일부 기업을 포함해 더 많은 스타트업들과 빅테크 기업들이 이미지 또는 동영상이 AI로 제작되었는지 여부를 식별할 수 있는 표준과 솔루션 마련에 나서고 있다. 리얼리티 디펜더(Reality Defender)도 이런 노력에 앞장서는 기업 중 하나이다. 이 기업은 무엇이 사실이고 무엇이 거짓인지를 식별하는 능력을 사업핵심 아이템으로 삼고 있다.

CNN방송은 9일(현지 시각) 조작된 이미지 퇴치에 앞장서고 있는 테크놀로지 기업들의 활동상을 소개했다. 기업들은 당면 문제를 해결하기 위해 주로 두 가지 경로로 접근하고 있다. 하나는 AI에 의해 생성된 가짜 이미지를 식별하는 프로그램 개발이고, 다른 하나는 일종의 디지털 서명 개념을 도입해 이미지에 진위 여부를 표시하는 방식이다.

글로벌 소프트웨어 개발 기업 어도비(Adobe)도 최근 사진·영상 등의 편집 기록을 역탐지하는 ‘콘텐츠 인증 이니셔티브(CAI)’란 기술을 새롭게 선보였다. 콘텐츠가 가공, 편집된 기록을 확인해 진위를 가려낸다는 것이다. 지난달 기준 전 세계 55국에서 1500개 이상 기업과 단체가 CAI를 도입했다.  

일본 NHK는 지난달 24일, 도쿄 소재 AI 연구소이자 소프트웨어 개발 기업인 나블라스(NABLAS)가 AI가 만든 조작물을 AI로 판별해내는 기술을 개발했다고 보도했다. 나블라스는 지난 2017년 도쿄대학 졸업생들이 모여 설립한 스타트업이다. AI가 만든 조작 콘텐츠의 특징을 AI에 역으로 교육시켜서 가짜 합성물을 가려낸다는 것이다. 음성, 사진, 영상 등으로부터 딥페이크 사용 여부를 판별하는 AI 기술이다. 이른바 ‘AI를 잡아내는 AI’다.  

나블라스의 신(新)기술은 단시간에 높은 정밀도로, 어떠한 화질에서도 딥페이크 사용 여부를 가려낸다는 점에서 주목받고 있다. 다만 판별 능력이 어디까지나 ‘학습된 콘텐츠’의 범위로 한정된다는 점에서 아직 한계점이 있다.  

아직 기술의 한계는 있지만, 당장 미국을 비롯한 선거를 앞둔 국가들은 가짜뉴스를 활용한 여론 조작과 선동에 유권자들이 무방비 노출돼 있는 상황에서, 딥페이크 규제안과 함께 이 같은 신기술의 개발과 도입을 서둘고 있다.

방송통신위원회는 가짜뉴스 근절을 위해 법제도 개선을 통해 근본적인 방안을 마련하되, 패스트트랙을 가동해 가짜뉴스 퇴출에 나섰다. 국민의 69%가 포털을 통해 언론 기사를 접하는 미디어 환경에서 인터넷 사업자의 영향력 강화 추세를 고려해 포털 사업자들에 가짜뉴스 근절 대응 협의체 참여와 다양한 자율규제 조치 등을 요청했다.

내년 총선에서 딥페이크 영상과 AI 가짜뉴스 방지를 위한 AI관련 규제 법안도 이미 발의됐다. 하지만 이들 법안은 공포 후 1년이 경과해야 시행되는 탓에 내년 4월 실시될 총선에 적용되기 어렵다. 중앙선관위는 국회 입법과 별개로 AI 가짜뉴스 관련 법규운용 기준을 마련하고 특별 대응팀 운영을 시작했다. 그러나 짧은 선거기간 내 급속도로 유포되는 AI 가짜뉴스를 모두 잡아내는데 현실적인 어려움이 있을 것으로 예상되면서 사후 처벌보다 입법을 통한 사전 예방이 절실하다는 지적이다. 가짜뉴스로 사실이 무엇인지 구분하기 어려운 세상이다. 이제 총선을 앞두고 가짜뉴스가 온통 판을 칠 것이다. 국민들도 ‘위드 페이크(with fake)’란 현 상황을 주지하고, 인터넷, 유튜브, SNS에서 퍼지는 정보에 대해 스스로 진위를 검증할 힘을 키워야 할 것이다.

[최충웅 언론학 박사 주요약력] 경희대 언론정보학부 교수 경남대 석좌교수 YTN 매체비평 고정 출연 방송통신심의위원회 연예오락방송 특별 위원장 방송위원회(보도교양/연예오락)심의 위원장 방송통신연구원 부원장 언론중재위원회 위원 KBS 예능국장·TV제작국장·총국장·정책실장·편성실장 중앙일보·동양방송(TBC) TV제작부 차장