"AI 탓에 100년 신뢰체계 붕괴...눈으로 본 것 못 믿어"

인공지능, AI의 급속한 발전으로 이미지와 음성, 영상 기록은 신뢰할 수 있다는 100년 신뢰 체계가 무너지고 있다는 진단이 나왔습니다.

미국 스탠퍼드대 인간중심AI연구소는 현지 시간 10일 발표한 3차 보고서 'AI의 대중화 : 규모 확장 시대와 생성 AI의 부상'에서 이같이 평가했습니다.

보고서는 "AI로 생성된 미디어는 진짜 기록물과 구별하기가 점점 더 어려워지고 있다"며 "복제된 목소리는 대중을 속이고 무지한 피해자들에게서 돈을 갈취하는 데 점점 더 많이 쓰이고 있다"고 지적했습니다.

특히 첨단 영상 조작기술인 '딥페이크'가 전 세계 선거 개입에 악용되는 것은 물론, 아동성착취자료등 해로운 자료 제작에도 폭넓게 쓰이고 있다고 덧붙였습니다.

당사자 동의 없이 제작된 성적 딥페이크 이미지·영상은 2023년부터 2025년까지 2년 만에 천600% 급증한 것으로 조사됐습니다.

보고서는 AI 조작 미디어에 따른 악영향이 저널리즘과 창작 산업, 정치권, 법조계 등 분야를 막론하고 광범위하게 확산할 것이라고 예상했습니다.

또 이러한 현상이 2021년 발간한 2차 보고서에서의 부정적인 예상과 맞아떨어지고 있다며, 'AI 기술이 대중에게 다각도의 정보를 전달해 정보 편향을 해소해줄 것'이라는 희망적인 기대는 빗나갔다고 밝혔습니다.

이와함께 군사·전쟁 영역에서도 AI가 광범위하게 사용되면서 국제 분쟁의 양상을 완전히 바꿔놨다고 진단했습니다.

AI 무기는 5년 전 보고서에서 예상했던 수준을 훨씬 뛰어넘는 속도로 배치되고 있으며, 가자지구 전쟁이나 우크라이나 전쟁 등 실전에서 '라벤더·가스펠·팔란티어' 등 AI가 살상 무기의 표적을 선정하는 시스템이 산업적 규모로 도입되고 있다고 지적했습니다.

연구진은 "이는 오랫동안 예상돼왔고 동시에 오랫동안 우려돼온 현상"이라며 "인도주의적 재앙을 방지하려면 새로운 교전 규칙이 필요할 것"이라고 제언했습니다.

YTN 홍상희 (san@ytn.co.kr)