선거 앞둔 美·英, AI 경보..."대규모 가짜뉴스 유통 위험" 초비상

민주주의 선진국인 미국과 영국에서 최근 급속도로 발달 중인 생성형 인공지능, AI를 두고 허위정보 범람에 대한 우려가 커지고 있다고 영국 일간 가디언이 현지시간 20일 보도했습니다.

주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 주요 선거에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기되기 때문입니다.

지난 16일 샘 올트먼 오픈AI 최고경영자 CEO는 미 의회 청문회에서 "가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력"이라고 경고했습니다.

리시 수낵 영국 총리가 지난 18일 영국이 AI 위험을 제한하는 데에 앞장서겠다고 공언하고 나서는 등 최근 전세계에서 동시다발적으로 AI 기술에 대한 경계의 목소리가 커지고 있습니다.

챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 '딥페이크' 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있기 때문입니다.

특히 이런 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 가디언은 짚었습니다.

타이완해협 갈등, 성소수자 권리, 기후변화 등 논쟁적 주제에 대한 관련한 특정 논점을 반복하도록 훈련된 AI의 메시지가 수천 개의 소셜미디어 계정을 통해 전파될 경우 정치적 반대파의 목소리를 억누르고, 관망하는 이들의 귀를 솔깃하게 하는 식으로 생산적 공론 과정을 차단할 수 있다는 것입니다.

영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수는 "AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리"라면서 특히 "영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다"고 지적했습니다.

그러면서 "생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다"고 경고했습니다.

아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것입니다.

실제 오픈AI와 구글의 챗봇이 특정 질문에 그럴싸한 오답을 꾸며내는 사례는 심심찮게 보고되고 있습니다.

지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있습니다.

또 지난 1월에는 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했습니다.

불법 업자들이 온라인에서 이런 '음성 복제'를 악용, 기업 대표나 공인의 목소리를 베낀 영상을 판매하는 일도 기술적으로 불가능하지 않다고 가디언은 관측했습니다.