[구본권의 AI와 함께 살기] AI시대의 신종 유망직업 ‘AI 진위 감별사’

챗GPT, 구글 제미나이, 미드저니 등 생성 인공지능 서비스가 보급되면서 일자리 불안이 커지고 있다. 2024년 한국개발연구원(KDI)은 ‘인공지능으로 인한 노동시장의 변화와 정책방향’ 보고서(한요셉 KDI 연구위원)에서 “2030년이면 현재 형태의 일자리 90%에서 직무의 90% 이상이 자동화될 수 있을 것”이라고 전망했다.

인공지능은 수많은 일자리를 소멸 위기로 몰아가고 있지만, 동시에 새로운 직업을 대규모로 만들어내고 있다. 2020년 세계경제포럼(WEF) 보고서는 2025년까지 새 직업이 9700만개 나타날 것으로 전망한 바 있다. 그중에는 ‘프롬프트 엔지니어’ ‘가상현실 개발’처럼 AI 기술이 가져온 첨단 기술 활용 전문직이 많지만, 전혀 새로운 차원의 직업군도 있다. 인공지능 환경에서 신뢰와 책임을 담보하는 ‘AI 진위 감별사’다. 그 배경은 인공지능으로 인해 상상하기 어려웠던 문제적 상황이 생겨나고 있기 때문이다.  

AI로 인한 새로운 리스크의 출현

2023년 2월13일 미국 미시건주립대에서 총기 난사로 3명이 숨진 사건이 일어났다. 테네시주의 밴더빌트대 피바디단과대학은 모든 학생들에게 희생자를 추모하고 안전하고 포용적 환경을 만들자는 이메일을 보냈다. 이메일은 대대적인 분노를 유발했다. 이메일 끝에 챗지피티로 작성했다는 내용을 지우지 않고 그대로 보낸 까닭이다. 이메일에 서명해 보낸 부학장 등 책임자는 업무 정지 징계를 받았다. 

미국 ‘시카고 선타임스’는 지난 5월 18일 여름 추천도서 15권을 소개한 기사를 실었다. 유명 작가들이 포함돼 있었지만, 목록중 9권은 아예 존재하지 않는 책이었고, 제목과 내용도 허구였다. 인공지능으로 만든 기사를 그대로 게재한 탓이다. 신문사는 사과하고 정정했다. 

시드니 오페라하우스, 퐁피두센터 등의 설계에 참여한 영국의 세계적인 구조설계회사 에이럽은 지난해 1월 2500만달러(350억원)를 사기범 계좌에 입금했다. 영상통화에서 틀림없는 회사 경영진의 얼굴과 음성을 확인했는데, 알고보니 딥페이크 조작 영상이었다.

캐나다 최대항공사 에어캐나다는 지난해 2월 상담 업무에 인공지능 챗봇을 활용했는데, 구매자에게 잘못된 환불 정책을 안내했다. 항공사는 환불을 요청하는 고객에게 “챗봇이 잘못 답변했다”며 환불을 거부했지만, 법원은 전적으로 항공사 책임이라고 판결했다.

2023년 6월 22일 뉴욕 맨해튼 연방지방법원은 변호사 2명과 소속 법무법인에 각각 5000달러(700만원)씩의 벌금을 부과했다. 소송을 진행하던 두 변호사가 가짜 판례를 판사에게 제출한 게 재판 과정에서 들통났다. 두 변호사는 챗지피티를 이용해 소송 문서를 작성했는데, 허위의 판례가 여섯 건 넘게 서류에 포함된 걸 몰랐다. 지난 8월 호주 빅토리아주 대법원에서도 AI가 만든 가짜 판례가 재판 도중 적발되는 등 영국, 프랑스 등 각국에서 변호사가 AI가 만든 허위 판례를 제출했다가 드러나 징계받은 사례가 여럿이다.

 AI리스크가 만들어낸 새 직업들

이처럼 인공지능을 사용했다가 뜻밖의 곤경에 처한 사례들이 늘어나면서 새로운 직업군이 등장하고 있다. 미국 ‘NBC 뉴스’는 지난 8월 31일 인공지능이 만들어낸 신종 직무를 소개했다. 일자리를 걱정하던 디자이너, 콘텐츠 편집자 등에게 인공지능이 만든 ‘엉성한 결과물’을 수정하고 진위를 검증하는 일이 쏟아지고 있다는 사례였다.

‘뉴욕타임스 매거진’도 지난 6월 17일 인공지능 확산으로 인해 신뢰와 책임을 다루는 새로운 직업군이 폭발적으로 늘어날 것이라고 보도했다. 인공지능이 직무와 결과물에 광범하게 활용되고 잘못된 사용으로 인한 파급 효과가 커짐에 따라 각 기업에서 진위 감별, 신뢰 관리, 인공지능 윤리를 다루는 전문가의 역할이 필수적이 됐다. 일부 대기업들이 법규, 윤리, 사회적 책임 등을 담당하는 준법감시(컴플라이언스) 조직을 꾸려왔는데, 앞으로는 ‘AI 컴플라이언스’ 전문가가 필요해지게 된다.

인공지능의 오류를 바로잡는 업무는 지금까지도 사람의 일이었다. 거대언어모델은 확률통계적 방법으로 문장과 단어 사이의 관계를 파악해 작동하는데, 질문에 대해 황당한 답변(환각)을 하는 결함이 있다. ‘인간 피드백 기반의 강화학습(RLHF)’은 환각과 오류 등 인공지능의 잘못된 답변을 사람이 바로잡아 챗지피티 등 거대언어모델의 성능 향상을 가져온 대표적 기술이다.

‘좋은 글’ ‘유익한 내용’ ‘민감하고 위험한 답변’ 등 수치화하기 어려운 목표를 인간 평가자의 피드백을 통해 직접 인공지능에 학습시키는 방식이다. 페이스북, 유튜브 같은 소셜미디어에서도 부적절한 콘텐츠를 관리하는데 알고리즘만으로 충분치 않아 사람 손길이 필수적이다. 콘텐츠 관리자가 기계적 판단이 어렵거나 민감한 내용을 처리한다. 포티투닷(42.dot), 쿠팡 등 국내 기업들도 인공지능 모델, 콘텐츠 품질 채용공고를 올려놓았다. 

소셜미디어와 커뮤니티 콘텐츠 관리자의 업무는 기본적으로 이용 규정을 위반한 게시물을 담당하는 것인데 비해 인공지능 신뢰와 관련한 신종 직무는 예측 불가능성, 광범함, 기술적 전문성이 특징이다. 이제껏 진위 검증, 사기 판별 등 팩트체크가 핵심인 직무는 기자, 수사관, 감사담당자 정도였는데, 인공지능으로 인해 새로이 각광받는 직업군이 되고 있다.

또한 기존 팩트체크, 콘텐츠 관리 등이 실무자의 직무였던 것에 비해, 향후 인공지능을 사용한 결과의 신뢰와 책임을 보증하는 직무는 고위급의 직무가 된다는 점이 다르다. 인공지능의 영향력이 조직의 명운을 가를 정도로 막대하기 때문이다. 

 ‘AI 감별사’가 알려주는 ‘미래 일자리’ 지형도

AI 서비스 범용화로 인해, AI 환경에서 진위를 감별하고 신뢰와 책임을 보증하는 직무가 새로운 유망 직업으로 부상하는 현실은 일자리의 미래와 관련해 중요한 사실을 알려준다. 기술발전으로 인해 일자리는 계속 변화하는데, 사라지는 일자리 못지않게 생겨나는 일자리가 많다는 점이다. 그런데, 판매원, 주차관리원, 조립공 등 사라지는 일자리는 잘 보이지만, 생겨나는 새로운 일자리는 눈에 잘 보이지 않는다. 인공지능 열풍이 부는 순간에도 ‘AI 진위 감별사’ ‘AI 컴플라이언스 전문가’라는 직종은 상상하기 어려웠다. 

기술 발전으로 인해 일자리 변화는 불가피하지만, 이는 일자리 감소로 나타나지 않을 것이다. 왜냐하면 새로운 기술은 해묵은 걱정거리를 해결해주는 동시에 전에 없던 새로운 문제와 고민거리를 가져오기 때문이다. ‘AI 진위 감별사’의 부상에서 보듯, 이는 새로운 일자리 창출로 이어진다.

“과학은 항상 잘못을 저지르지요. 문제를 하나 해결할 때마다 열 개의 새로운 문제를 만들어내니까요.” 날카로운 풍자로 이름난 아일랜드 작가 조지 버나드 쇼는 1930년 아인슈타인을 환영하는 식사 자리에서 이렇게 말했다. 일자리에서도 마찬가지 상황이 벌어진다. 문제를 해결하기 위해 기술은 개발되지만, 이는 새로운 문제를 한아름 가져온다. 기술 발달에 따라 일자리가 계속 변화하고 새로운 직무가 만들어지는 세상이다.