美·中·EU AI신뢰성 확보 경쟁 가열

[서울=뉴스프리존]서용하 기자= 중국이 알리바바·화웨이 등 주요 빅테크 기업이 참여하는 ‘인공지능(AI) 표준화 기술 위원회’를 띄웠다. ‘고위험 AI’를 규제하고 안정성과 신뢰성을 확보해 글로벌 AI 경쟁을 주도하겠다는 의도다. 각국이 AI 신뢰성 확보를 위해 발 빠르게 움직이고 있는 가운데 전문가들은 우리나라도 AI 기본법을 빠르게 제정해 경쟁에서 뒤처지지 않도록 해야 한다고 강조한다.

▲ AI 신뢰성 확보 왜 중요한가

미국, 유럽 등 각국은 AI규제 관련 입법을 통해 신뢰성을 확보하기 위해 안간힘이다.

신뢰성은 AI 기술이 사회, 경제적으로 자리 잡고 지속 가능한 발전을 이루기 위해 필수적인 까닭이다.

AI업계 전문가들은 신뢰성 확보가  AI의 위험을 최소화하면서 기술개발 허용 기준을 마련해 안정적으로 개발할 수 있는 토대를 마련하는 중요한 기준이라고 지적한다.

따라서 주요국들이 AI의 위험성을 통제하는 수단을 고민하고 적극적으로 입법화를 시도하는 만큼 우리나라도 AI 규제의 틀을 빨리 마련해야 한다고 지적하고 있다. 

▲ EU,  美 겨냥 규제중심 'AI Act' 법

EU는 AI 기술의 안전성과 투명성을 확보하기 위해 포괄적 규제법안인 '인공지능법(AI Act)'를 마련했다. 이 법은 2024년 6월부터 단계적으로 시행되고 있다.

이 법안은 AI 기술의 발전과 활용을 촉진하면서도 잠재적 위험을 최소화하기 위해 AI 시스템을 위험도 기반으로 분류, 그에 따른 규제를 적용하는 것을 골자로 한다.

AI 시스템을 금지, 고위험, 한정적 위험, 최소 위험 네 가지 등급으로 분류해 이용 및 개발을 제한하고 있다.

우선 AI 시스템 중 사회질서를 심각하게 위협하거나 기본권을 침해할 수 있는 기술은 사용이 전면 금지된다.

예를 들어 실시간 생체 인식 기술이나 사회적 점수화 시스템(Social Scoring)은 규제 대상에 포함된다. 다만, 범죄 수사와 같은 특수 상황에 한해 제한적으로 허용될 수 있다.

고위험(High Risk)에는 의료, 교통, 교육, 법 집행 등 개인의 안전과 권리에 큰 영향을 미칠 수 있는 AI 시스템이 포함된다. 이 카테고리의 AI시스템은 엄격한 안전 기준을 충족하도록 당국이 사전 인증을 실시한다. AI 개발자에 대해선 데이터 품질, 투명성, 인적 감독 등에 대한 기준을 준수하도록 의무가 부여된다.

한정적 위험(Limited Risk)으로는 생성 AI나 챗봇처럼 상대적으로 위험이 낮은 기술이 포함되며 이에 대해선 투명성 의무가 부과된다. AI가 생성한 콘텐츠나 텍스트는 AI가 만든 것임을 명확하게 표시해야 한다.

최소 위험(Minimal Risk)으로는 비디오 게임 AI, 스팸 필터 등 위험도가 낮은 AI 기술들이 해당되며 특별한 규제 없이 활용할 수 있다.

▲ 美, AI기업들 자발적 준수 기준 마련

미국 정부도 AI에 대해 혁신을 저해하지 않으면서 안전하고 책임있게 활용되도록 하는 방향으로 유럽보다는 다소 느슨한 규제인 AI관련 행정명령을 지난 2023년 10월 발표했다.

이 명령은 AI 기술이 국가 안보, 경제 성장, 사회적 신뢰를 동시에 뒷받침할 수 있도록 포괄적인 가이드라인을 제시하고 있는데 핵심은 AI 기술의 안전성 확보다.

특히 고위험 AI 시스템이 사회와 국가 안보에 미칠 수 있는 부작용을 방지하기 위해 정부 차원에서 엄격하게 검토하도록 했다. 

행정명령 발표 당시 조 바이든 대통령은 "AI 기술이 발전하면서 우리 모두에게 새로운 기회와 위험이 동시에 찾아오고 있다"며 "AI가 사람들을 보호하고 사회를 더 나은 방향으로 이끌 수 있도록 정부의 책임을 다할 것"이라고 말했다.

미국의 AI 행정명령에 대해 일부 업계 전문가들은 대체로 환영하면서도 과도한 규제가 기술 혁신을 저해할 수 있다는 우려도 제기하고 있다.

전창배 국제인공지능 및 윤리협회 이사장은 "유럽은 미국 빅테크 기업을 대상으로 자국 산업 보호 위주의 목적으로 제정했고, 미국은 유럽보다는 비교적 약한 규제로 AI기업들이 자발적으로 지킬 수 있는 기준을 만들었다"면서 "우리나라는 유럽과 미국의 장점을 도입해 AI산업진흥과 윤리 간에 균형을 도모하는 조항들로 규제안이 구성돼 있다"고 뉴스프리존에 말했다.

▲ 중국, AI 표준화 기술 위원회 띄워

최근 중국은 AI+교육, AI+산업, AI+문화 등으로 AI의 활용 범위를 꾸준히 확대하고 있다. 중국은 AI가 하나의 거대한 산업으로 자리 잡았고 세계적인 기술 수준을 자랑한다.

현재 중국의 AI 특허 보유량은 세계 1위로 음성인식, 자연어 처리, 컴퓨터그래픽 등 분야에서 상대적으로 앞서나가고 있다.

이를 뒷받침하기 위해 AI 산업 발전을 장려하는 지원 정책과 법률이 지속적으로 제정되고 있다.

지난 16일(현지시각) 로이터통신에 따르면, 중국 과학기술부(MIIT)는 AI의 신뢰성 및 안전성 표준을 확립하기 위한 ‘AI 표준화 기술 위원회’를 설립했다.

이 위원회의 주요 임무는 AI·거대언어모델(LLM)·애플리케이션(앱)의 기술과 데이터셋의 위험성을 평가하고 산업 표준을 규정하는 것이다. 위원회는 향후 MIIT가 2026년까지 최소 50개의 AI 표준을 제정하는 걸 목표로 한다.

위원회는 바이두, 알리바바, 텐센트, 화웨이 등 중국의 주요 빅테크 기업 관계자 등 41명의 위원으로 이뤄진다. 이 중에는 주 홍루(Zhu Hongru) 알리바바 클라우드 부사장, 유 팡(You Fang) 화웨이 표준화 책임자, 장 지에(Jiang Jie) 텐센트 AI 연구소장도 포함됐다.

전창배 이사장은 "중국 AI 표준화 위원회는 현재 중구난방격인 AI 기술의 체계적 개발과 관리를 목적으로 설립됐다"면서 "AI 기술 평가, 데이터셋 관리, 대규모 언어모델 개발 및 애플리케이션 관리 등 다양한 AI 분야에서의 표준 제정을 통해 전 세계 AI 기술과 안전성에 대한 주도권을 주도하려는 의도로 보인다"고 말했다.

▲ 한국, 17일 'AI기본법 법사위 통과' 

국회 법사위는 AI 산업 육성 및 지원, AI 신뢰성 확보 조치 등을 담은 AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'을 17일 통과시켰다.

이 법안에 대해 문화체육관광부와 과학기술정보통신부 간 이견이 있었으나 정청래 법사위원장은 "적기에 출발하지 않으면 또 다른 문제가 생긴다"며 "일단 개문발차한 뒤 부족한 부분은 해당 상임위원회에서 해결하는 것으로 하자"고 말했다.

우리나라 AI 기본법은 AI에 대한 개념 규정과 AI 산업 육성·안전성 확보를 위한 방향성을 담고 있다.

한편 산업통상자원부(장관 안덕근, 이하 산업부)도 17일 디지털‧AI 관련 기업과 유관기관, 학계 전문가 등이 참석한 가운데 제5차 디지털통상 대응반회의를 개최했다.

이번 회의는 빠르게 변화하는 디지털 및 AI 환경에서 우리 기업들이 글로벌 시장에서 뒤처지지 않도록 선제적인 대응 방안을 논의하기 위해 마련됐다.

발표를 맡은 서울시립대 이주형 교수는 “미국, 유럽연합(EU) 등 주요국은 디지털‧AI 분야의 정책을 지속적으로 발표하고 있으며, 특히 미국 신행정부가 글로벌 주도권 확보를 위해 국제 표준과 규범 형성에도 적극적으로 나설 것으로 예상된다"면서 "우리 정부도 관련 국제 규범 논의 등에 적극적으로 참여해야 한다”고 강조했다.

회의를 주재한 심진수 신통상전략지원관은 “디지털 통상은 글로벌 경제전반의 새로운 패러다임으로 자리 잡고 있으며, 관련 기술과 주요국 정책도 지속적으로 발전하고 있다”면서 “정부는 우리 디지털 기업의 글로벌 시장 진출을 지원할 수 있도록 관련 통상 이슈에 적극적으로 대응해 나가겠다”고 밝혔다.

전창배 이사장은 “내년에는 AI 강대국들의 AI 기술과 안전성에 대한 주도권 다툼이 본격화할 것인 만큼 우리나라도 이와 같은 상황에 뒤처지지 않기 위해 하루속히 AI 기본법을 통과시켜야 한다"라고 뉴스프리존에 말했다.