'AI 윤석열' 등장.."허상을 진실로 만드는 무서운 대중여론 공작"
이준석 선거 전략 ‘비단주머니’ 중 하나..'횡설수설 尹?' 위한 ‘인공지능(AI) 윤석열’
"독재자가 영상 틀어 놓고 국민들 지배한다. 영화가 현실로 나오다니!"
"진짜 기계 없으면 말을 못하는가 보다"
[정현숙 기자]= ‘인공지능(AI) 윤석열’로 변신한 윤석열 국민의힘 대선후보가 한 말이다. 'AI 윤석열'은 실제 윤 후보와 똑같은 목소리와 얼굴 표정을 지녔다.
6일 서울 송파구 올림픽공원 케이스포(KSPO)돔에서 열린 국민의힘 중앙선대위 출범식에서 윤 후보의 연설에 앞서 마이크를 쥔 사람은 'AI 윤석열'이 었다.
이날 이준석 대표의 선거 전략 ‘비단주머니’ 중 하나였던 ‘AI 윤석열’이 화면으로 등장해 “정치권 최초로 만들어진 AI 윤석열은 선거 혁신의 시작”이라며 “새로운 시대를 열어갈 리더는 오직 국민에게 충성한 윤 후보”라고 말하며 이목을 끌었다.
AI 윤석열은 "정치권 최초로 만들어진 AI 윤석열은 윤석열 후보가 열어갈 대한민국의 새로운 미래와 도전을 상징한다"라며 "AI 윤석열은 동에 번쩍, 서에 번쩍 방방곡곡 국민 여러분을 찾아갈 것"이라고 말했다.
AI 윤석열은 윤 후보의 모습과 목소리를 똑같이 갖췄다. AI가 딥러닝을 통해 윤 후보의 영상·음성 등을 학습하고 그대로 구현했다. 텍스트만 입력해도 마치 윤 후보가 그 내용을 자연스럽게 읽는 듯한 동영상 구현이 가능하다. 국힘은 윤 후보가 직접 찾아가기 어려운 지역 선거운동에 활용한다고 한다.
그런데 이어지는 말 실수와 화법에 조리가 없고 논리가 딸리는 윤 후보를 위한 대처일 뿐이라는 비판이 나온다. 얼마전 윤 후보는 프롬프터에 연설문이 뜨지 않자 2분가량 입을 떼지 못하고 고개만 좌우로 흔드는 모습을 보여 순발력도 문제라는 지적이 나왔다.
"명백하게 조작된 이미지..아바타로 선거운동 하는 것 불법으로 규정해야"
AI 윤석열의 등장을 두고 김민웅 경희대 미래문명원 교수는 7일 페이스북을 통해 "간단하게 넘길 일이 아니다, 'AI 윤석열' Deep Fake는 정치에 이용할 수 없다"라면서 'deep fake technology'가 민주주의를 위협한다는 주장이 담긴 미국 법대 교수들의 논문 요약 자료를 게시했다.
김 교수는 "버벅거리는 윤석열을 대체할 AI 윤석열의 등장은 이른바 Deep Fake 기술의 정치화로, 대중을 기만하는 방식이 된다"라며 "제4차 산업 운운하면서 영상 아바타로 선거운동을 하는 것은 불법으로 규정해야 한다"라고 지적했다.
이어 "방방곡곡에 AI 윤석열을 등장시키겠단다. 대대적인 프로젝트다. 결코 안 된다"라며 "선거관리위원회는 가짜 대체물로 선거하는 이같은 방식을 전면 금지시켜야 한다. 아니면 우리는 명백하게 조작된 이미지, 언행과 싸워야 하는 기이한 선거를 하게 된다"라고 짚었다.
그러면서 "이는 허상을 진실로 만드는 무서운 대중여론 공작이 된다"라며 "그렇지 않아도 언론지형이 이런 판국에 infocalypse(대재앙)의 시대를 막아야한다"라고 경고했다.
김 교수는 "윤석열과는 달리 잠깐 시도해 보았다는 'AI 이재명'도 멈추는 것이 옳다. 지금처럼 대본 따로 없이 자연스러운 '라방'을 밀고 나가야 한다"라고 덧붙였다.