뛰는 AI 조작에 나는 탐지기술...지방선거 감시 나선다

감쪽같은 인공지능 생성 영상…악용 사례 '급증'
'조작 영상' 잡는 첨단 기술, 6월 지방선거 투입
전체 흐름·특정 부위 조작 흔적까지 동시 탐지
실제와 구분 어려우면 단속 대상…풍자·만화 예외

[앵커]
인공지능 기술이 하루가 다르게 발전하면서 이를 악용한 이른바 '딥페이크' 영상도 갈수록 교묘해지고 있습니다.

이런 조작 영상이 표심을 흔드는 일이 없도록 첨단 탐지 기술이 이번 지방선거부터 파수꾼 역할에 나섭니다.

양일혁 기자가 보도합니다.

[기자]
밤거리에서 셀카봉을 손에 든 젊은 여성이 경찰과 승강이를 벌입니다.

"라이브 방송 중단하세요. 사람들 얼굴 다 찍히고 있습니다."
"(왜요? 불법 아니잖아요. 거리 브이로그 하고 있는데요.)"
"동의 없이 촬영하시면 개인정보 유출됩니다. 카메라 내려놓으시죠. 협조 안 하시면 제지할 수 있습니다."

무소속이라 적힌 띠를 두른 중년 남성이 전통시장 상인 손을 꼭 잡고 활짝 웃습니다.

"감사합니다, 어머니."
"(아닙니다, 홍길동 후보님, 힘내세요!)"
"네, 더 열심히 하겠습니다."
"(기대할게요!)"

영락없는 실제 현장 같지만 실은 인공지능 기술로 만든 가짜 영상입니다.

생성형 인공지능 기술이 비약적으로 발전해 사람의 눈으로 진위를 판단하기 어려운 지경에 이르자 이를 악용하는 사례가 기하급수적으로 늘고 있습니다.

특히 대표적으로 활개 치는 때는 상대보다 하나라도 많은 표를 얻어 당선해야 하는 선거 국면.

실재인물을 짜깁기한 이른바 '딥페이크', 조작 영상을 삭제해 달라는 요청이 1년 만에 무려 30배 가까이 뛰었습니다.

이처럼 선거를 겨냥한 조작 범죄에 대응하기 위한 첨단 인공지능 탐지 기술이 현장에 투입됩니다.

영상의 전체적인 흐름은 물론, 얼굴 같은 특정 부위를 조작한 흔적까지 동시에 탐지하고, 어느 구간에서 몇 퍼센트 확률로 조작이 의심되는지 시간대별로 쪼개서 분석도 가능합니다.

경진대회에서 뽑힌 우수 모델들의 장점만 모아 과거 76%이던 정확도가 92% 수준으로 높아졌습니다.

[윤호중 / 행정안전부 장관 : 온라인 공간에서는 조작된 영상과 거짓 정보가 서로 연결되며 일종의 '망상의 네트워크'를 만들어내기 쉽습니다. 이러한 위협으로부터 국민의 권리와 민주주의를 지키는 것은 (정부의 책무입니다.)]

다만, 단속 범위는 실제와 혼동을 줄 수 있는 고도화된 조작 영상으로 제한됩니다.

만화처럼 묘사하거나 누구나 가짜임을 알 수 있는 풍자 영상은 단속 대상이 아니라는 게 정부의 설명입니다.

YTN 양일혁입니다.

영상기자 : 고민철
영상편집 : 강은지
화면제공 : 행정안전부