“AI가 초래할 재앙 막자” 한·미·EU 28개국 나섰다

세계가 인공지능(AI)의 부작용을 막기 위해 발 벗고 나섰다. 세계 주요국 정부와 빅테크 대표들은 1일(현지 시각) 영국 버킹엄셔주 블레츨리파크에서 열린 제1회 ‘AI 안전정상회의’에서 AI 안전에 관한 첫 국제 협약인 ‘블레츨리 선언’을 발표했다. 미국·영국·중국·한국·일본·유럽연합(EU) 등 주요 28개국이 급속도로 발달하는 인공지능(AI)이 갖고 있는 잠재적인 위험과 피해를 관리하기 위해 “AI가 초래할 수 있는 파국적 위험을 막는 데 협력하자”며 AI 관련 첫 공동선언을 발표한 것이다.

사진: 지난 11월 1일(현지시간)부터 이틀간 영국 블레츨리에서 개최되는 'AI 안전 정상회의'에서 각국 주요 참석자들이 기념사진을 찍고 있다.

선언문엔 “AI 기술로 인해 고의적이든 의도적이지 않든 심각하고 심지어 재앙적인 피해가 발생할 가능성이 있다”며 “AI가 유발하는 많은 위험은 본질적으로 국제적이므로 이를 막기 위한 국제 협력이 필요하다”는 내용이다. “인간 중심적이고 신뢰할 수 있으며 책임감 있는 AI를 보장하기 위해 포괄적인 방식으로 협력하자”는 내용이 담겼다.

이 선언에는 AI가 사이버보안, 생명공학 등의 분야에서 오용되거나 콘텐츠 조작 등으로 심각한 피해를 초래할 수 있다며 국제사회가 협력해 이를 해결할 것을 결의하는 내용이 담겼다. AI가 고도의 능력을 갖춰 사람보다 더 뛰어날 수 있다고 알려진 ‘프런티어 AI’의 실존적 위험을 우려했다는 점에서 앞선 AI 규제들과 차이가 있다. AI 규제 관련 법 및 행정 명령을 먼저 마련한 EU와 미국은 그간 개인정보 보호, 인권 침해 등 AI의 잠재적 위험에 집중해 왔다.

이번 ‘블레츨리 선언’은 AI가 통제되지 않으면 소비자의 개인정보가 침해되는 것은 물론 세계적인 재앙이 초래되는 등 엄청난 위험이 발생할 수 있다며 국제사회가 협력해 이를 해결할 것을 결의하는 내용을 담았다. 고도의 능력을 갖춘 ‘프런티어 AI’의 잠재적 위험 관리를 플랫폼에만 맡길 수는 없으니, 정부와 외부 전문 기관이 적절한 수위의 규제를 가하겠다는 것이 선언의 골자다. 이에 관해 리시 수낵 영국 총리는 세계 최고 AI 강국들이 AI의 위험을 이해하는 것이 시급하다는 데 동의한 것이며, 후손들의 미래를 보장하는 데 도움이 된다는 데 동의한 ‘획기적 성과’라고 평가했다.

2일까지 이어진 이번 회의에 세계 주요국 정상급 인사들과 일론 머스크 등 AI 빅테크 기업인, 학계 전문가 약 100명이 모여 생성형 AI 등 첨단 AI의 기술적 위험에 관해 처음으로 국제사회 차원의 공동 대응 방안을 모색한 것이다. 커밀라 해리스 미국 부통령, 우르줄라 폰데어라이엔 EU 집행위원장, 안토니우 구테흐스 유엔 사무총장 등이 참석하고 윤석열 대통령은 화상연설을 통해 "챗GPT를 비롯한 생성형 AI의 등장이 우리 삶의 편익을 증진하고 산업 생산성을 높여주었지만, 디지털 격차가 경제 격차를 악화시키고 급증하는 가짜뉴스가 우리의 자유를 위축시키고 선거 등 민주주의 시스템을 위협할 수 있다"고 밝혔다.

빅테크 대표로 일론 머스크 테슬라 최고경영자(CEO), 브래드 스미스 마이크로소프트(MS) 부회장, ‘알파고’를 개발한 구글 딥마인드의 데미스 허사비스 CEO, ‘챗GPT의 아버지’로 불리는 샘 올트먼 오픈AI CEO, 브래드 스미스 마이크로소프트(MS) 부회장 겸 사장 등 세계적 정보기술(IT) 기업의 수장도 대거 참석했다. 한국에선 삼성전자와 네이버가 포함됐다.

작년 챗GPT 출시 후 AI 규제는 전 세계적으로 주목 받는 추세다. AI 기술 발전으로 인한 잠재적 위험성이 커졌기 때문이다. AI연구를 선도하는 미국 실리콘밸리에서도 경고의 목소리가 나오고 있다. ‘AI대부’로 불리는 제프리 힌턴 박사가 최근 구글을 그만두고 생성AI의 위험성을 경고했다. 지난달에는 일론 머스크 테슬라 CEO(최고경영자)와 스티브 워즈니악 애플 공동 창업자 등이 “최소 6개월간 첨단 AI개발을 일시 중단하고 안전장치부터 만들자”고 성명을 발표했다. 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 미국을 비롯한 남미, 유럽, 아프리카, 아시아에 방문해 AI 규제 필요성을 알리고 있다.

이번 28개 참가국과 EU는 "AI가 인류의 복지·평화·번영을 변화시키고 향상할 잠재력이 있다"면서도 "고도의 능력을 갖춘 AI가 잠재적으로 파국적 피해를 초래할 수도 있어 문제 해결의 필요성과 시급성을 확인한다"고 밝혔다. 주요국들이 AI가 심각한 피해를 초래할 수 있다는 점에 공감하고 공식적으로 협력을 다짐한 것은 이번이 처음이다. 여기엔 전례 없는 규모의 사이버 공격, 수백만의 생명을 위협하는 생물학 무기뿐 아니라 편견, 차별, 가짜정보, 알고리듬 오류로 인한 노인 의료접근 차단 등까지 폭넓게 포함된다고 말했다.

미국을 비롯해 중국, 한국, 일본 등은 AI 규제보다는 기술 개발에 좀 더 무게를 뒀다. 하지만 AI 기술이 급속도로 발전하는 과정에서 오남용에 따른 위험이 커지자 규제 필요성이 강력히 요구됐다. 결국 각국이 AI 규제 법적 장치 마련을 위해 발빠르게 나서게 된 것이다. 내년 총선과 대선을 각각 앞둔 한국, 미국 등 주요 국가에 가짜 뉴스는 실질적인 위협으로 다가오기에 ‘블레츨리 선언’ 이행의 필요성이 부각된 것이다.

AI 규제에 대한 글로벌 표준이 아직 정해지지 않은 상황에서 공동선언이 국제 공조의 시발점이 될 것이라는 긍정 평가가 나왔지만, 구속력이 없는 선언문 수준이라는 회의적 시각도 제기됐다. 선언문은 채택됐지만 구속력 있는 AI 규제에 대해선 각국에서 치열한 신경전이 펼쳐졌다. 그만큼 AI를 중심으로 한 새로운 디지털 질서에서 주도권을 놓치지 않겠다는 주요국들의 전략이 확인된 셈이다.

주요국들은 AI 규제의 범위와 강도에 시각차를 드러내고 있다. AI 산업 주도권을 선점하려는 국가 간 이해관계가 서로 달라 공통의 AI 규제안을 만들기는 쉽지 않다는 견해다. 이를 두고 주요국들이 자국 산업에 유리한 방향으로 AI 규제를 이끌어 미래 산업 패권을 굳히려 한다는 분석이 제기된다. 이번 선언문에 AI 위험에 대응하기 위한 구체적인 규제안이 담기지 못한 것도 이런 한계점이 반영된 것으로 간주된다.

주요국들은 발 빠르게 자국 규제안을 구체화하고 있다. 자국 이익에 부합하는 AI 규제안을 선점함으로써 AI 산업 우위를 차지하겠다는 포석이다. 주요국들이 자국 AI 기업에 유리한 방향으로 규제를 주도하고 타국 AI 산업에 진입장벽을 쌓아 AI 패권을 공고히 하려는 것이란 분석이 나온다. 이번 6대륙 28개국과 유럽연합(EU)이 인공지능(AI)의 위협에 대응하기 위한 사상 첫 공동선언을 발표됐지만 구체적인 협력 내용은 빠져 있어 한계가 있다는 지적도 제기됐다.

그렇다고 규제만이 능사는 아니다. AI 시대 개막 자체를 부정할 순 없다는 점에서 위험은 최소화하되 국익을 최대화 하는 전략에 유념할 필요가 있다. 승자 독식 특성이 큰 AI 분야에서 경제와 안보에 직결된 AI 주권을 서둘러 확보하는 것이 중요한 과제다.

[최충웅 언론학 박사 주요약력]