4·10 총선에 가짜 딥페이크 기승, 금융사기에도 악용

최근 동영상 플랫폼 틱톡과 온라인상에 퍼진 윤석열 대통령의 딥페이크 조작 영상이 논란을 일으켰다. '가상으로 꾸며본 윤 대통령 양심고백 연설'이라는 제목으로 "저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다. 저 윤석열의 사전에 정치 보복은 있어도 민생은 없습니다." 라는 가짜 영상 중의 일부다. 46초 분량의 가짜 조작 영상이 SNS에서 한동안 돌아다녔다. 딥페이크(Deepfake)는 인공지능 기술인 ‘딥러닝(deep learning)’과 가짜를 의미하는 ‘페이크(fake)’의 합성어다.

지난 26일 조지호 서울경찰청장은 최근 윤석열 대통령 모습이 등장하는 허위 조작 영상이 온라인상에 유포된 데 대해 "오늘 아이디로 개인을 특정하는 압수수색을 할 것"이라고 밝혔다.

이 가짜 영상 딥페이크(AI로 만든 영상·이미지 합성 조작물)로 지난 대선 후보 시절의 연설 영상을 부분적으로 짜깁기해 만든 것으로 보인다. 누가 보더라도 윤 대통령이 그런 말을 했을 리 없다고 보지만, 얼핏 대통령과 꼭 닮은 이미지와 음성에 순간적으로 속을 수도 있고, 당황스럽게 된다.

대통령실은 윤 대통령 '딥페이크' 영상은 "명백한 허위 조작"이라며, 국민을 호도할 우려가 커 강력 대응할 것이라고 밝혔다. 서울경찰청 사이버범죄수사대는 이미 수사에 착수했고, 방송통신심의위원회에 공문을 보내 동영상 플랫폼 틱톡을 비롯해 인스타그램, 페이스북 등 소셜미디어에서 공유되고 있는 해당 영상의 삭제 및 차단을 요청했다. 방송통신심의위는 즉각 긴급 통신심의소위원회를 열고 '사회 혼란을 야기할 우려가 있는 영상'이라며 인스타그램과 페이스북 등에 삭제와 접속차단을 요청했다.

4·10 총선이 다가오면서 인공지능(AI)으로 만든 영상·이미지 합성 조작물인 딥페이크 게시물이 기승을 부리고 있다. 중앙선거관리위원회가 지난달 29일부터 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거운동 행위로 공직선거법을 위반한 게시물을 총 129건이나 적발했다. 선관위가 70명여의 직원을 투입해 삭제한 딥페이크 129건은 모두 자체 모니터링을 통해서 파악한 것이다. 선관위가 구축한 딥페이크 감시 시스템은 인력도 한계가 있어 이번에 적발되지 않은 총선 관련 딥페이크는 훨씬 더 많을 것으로 추산된다.

국회는 지난 12월 20일 본회의에서 선거일 90일 전부터 딥페이크를 활용한 선거운동을 못 하도록 하는 공직선거법 개정안을 의결했다. 개정안은 지난달 1월 29일부터 시행됐다. 선거일 90일 전부터 선거일까지 인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영·게시할 수 없도록 했다. 이를 위반하면 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금에 처한다.

선관위가 적발한 딥페이크는 상대방 후보가 나오는 동영상을 교묘하게 조작, 발언의 일부를 왜곡하거나 통째로 조작해 SNS에 유포시킨 것이 대부분이었다. 자세히 봐도 특정 후보가 문제의 발언을 한 것처럼 속을 정도다. 중앙선관위는 선거일이 다가올수록 딥페이크 영상물과 가짜 정보가 더욱 기승을 부릴 것이라고 했다. 특히 온라인을 통해 순식간에 확산되는 딥페이크 영상은 그 진위를 가리기도 전에 투표에 영향을 미쳐 혼란을 야기 시킬 수 있다,

여론조사를 왜곡해 퍼뜨리는 위법행위도 잇따르고 있다. 중앙선거여론조사심의위는 여야 후보 간 여론조사, 당내 경선 관련 여론조사 등을 조작한 범죄 5건을 수사 기관에 고발했다. 경선 통과를 위해 SNS 단체방에 여론조사 전화 응답 시 연령을 거짓으로 응답하도록 유도하는 글을 게시한 이들도 적발됐다.

열성 지지자들이 개인적으로 짧은 시간 내 제작해 소셜미디어(SNS)에 유포해 퍼지는 속도가 워낙 빠르기 때문에 원천적으로 차단하기가 쉽지 않다. 그러니 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 가짜 정보를 마구 퍼뜨려 선거판을 뒤흔들 가능성이 높다. 법은 사후적 성격이라 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수 없는 상황이다.

선관위에서 AI 전담 조직을 꾸려 모니터링을 강화한다지만 기습적으로 창궐하는 모든 딥페이크물을 적발하기란 힘든 일이다. 포털 업체가 선관위의 삭제 요청에 앞서 스스로 이런 딥페이크물을 걸러 내는 시스템을 갖춰야 한다. 네이버, 카카오톡 등 국내 대형 테크 기업들은 딥페이크를 막기 위해 적극적으로 나서고 선관위도 이들 테크 기업과의 협력 체제를 면밀히 구축해야 한다.

올해는 지구인의 절반이 선거한다고 할 만큼 여러 나라가 선거에 몰려있다. 구글과 오픈AI 등 20개의 글로벌 빅테크 기업이 딥페이크가 선거의 공정성을 저해하지 않도록 '연합군'을 만들어 대응하기로 한 것은 딥페이크의 심각성을 보여준다. '2024년 선거AI 기만적 사용방지 기술 협약'을 맺고 AI 콘텐츠의 위험 완화를 위한 기술 개발과 확산 방지 노력을 함께하기로 했다.

뿐만 아니라 딥페이크가 금융사기에도 악용되면서 전 세계가 '사기 주의보'에 비상이 걸렸다. 국내도 딥페이크를 이용한 금융사기 피해가 속출하고 있다. '유명인 사칭 투자' 사기에 휘말린 A씨는 총 1억6000만원의 투자금을 잃었고 피해자는 100명을 넘어서 피해액도 수백억원으로 추정된다. 지난해 11월에는 1891명에게 1491억원을 가로챈 보이스피싱 일당이 딥페이크 피싱 범죄로 영역을 넓히기 직전에 경찰에 검거됐다. 이들은 실제 검사의 얼굴과 목소리를 얹은 딥페이크 영상을 범죄에 활용한 것으로 조사됐다.

디지털 기술 발전이 선거를 위협하는 것은 이제 시작일 수 있다. 감지 기술이 개발되면 그것을 피해 가려는 기술도 뒤따르게 마련이다. 많은 전문가들은 정부의 기계적 단속보다는 온라인 플랫폼을 보유한 빅테크들이 책임을 지고 자정하는 노력이 필요하다고 입을 모은다. 선관위와 관련 업계가 큰 책임 의식을 가져야 한다. 공정한 총선이 보장되지 않으면 민주주의가 후퇴하는 것은 물론, 감당키 어려운 혼란이 우리 사회를 휩쓸게 될 것이다. 4·10 총선이 이제 40여일 남았다. 가짜 딥페이크는 반드시 차단해야 한다.