경찰의 현장 출동 장면을 비롯해 음란물 등 인공지능(AI) 챗봇을 활용해 허위영상물을 제작해 유포한 유튜버가 구속돼 검찰에 넘겨졌다.
2일 경기북부경찰청 사이버범죄수사1대는 전기통신기본법, 자본시장법, 정보통신망법 위반 혐의로 30대 유튜버 A씨를 구속 송치했다고 밝혔다.
A씨는 지난해 10월부터 마치 사건현장에서 경찰 보디캠으로 찍은 듯한 AI 영상 50여 개를 제작해 유포한 혐의를 받는다.
영상에는 '아파트 흡연 신고 출동 영상', '부천역 인터넷 BJ 체포 영상' 등의 제목이 달렸는데, 일부 뉴스기사 등을 참고해 시나리오를 수정해가며 AI 챗봇으로 영상을 제작한 것으로 전해졌다.
A씨는 채널 소개 글에는 '실제 경찰과 무관하며 실화 바탕 각색 AI'라고 표시했지만, 개별 영상에는 AI로 만든 가짜 영상이라는 알림이 없었고 AI 제작 영상을 표시하는 워터마크를 지우기도 했다.
이러한 영상들은 유튜브뿐만 아니라 인스타그램, 틱톡, 페이스북 등에 짧은 영상(숏폼) 형태로 유포되며 총 3,000만이 넘는 조회수를 기록했다. 경찰은 A씨의 영상들이 공권력에 대한 국민적 신뢰를 훼손한다고 판단해 A씨를 입건해 구속했다.
수사에 착수한 경찰은 A씨가 무허가 사설 선물거래, 해외선물 투자리딩방 등 운영 범죄에 가담해 피해자들의 관심을 끄는 속칭 '바람잡이' 역할을 하고 돈을 받는 방식으로 3,000만 원을 챙긴 혐의도 적발했다.
또한 A씨는 유료 구독형 사회관계망서비스(SNS) 채널을 운영하며 돈을 받고 AI로 만든 음란물을 제작해 팔기도 했다.
경찰은 올해 10월까지를 공동체의 신뢰를 저해하는 허위정보 관련 범죄 집중 단속기간으로 정하고 A씨와 같은 사례 적발에 주력하고 있다.
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]