AI 모델 학습 데이터에서 '아동 성 학대' 사진 1천 장 발견

ⓒYTN

인공지능(AI) 도구를 훈련하는 데 사용되는 데이터베이스에서 1천개가 넘는 아동 성 학대 이미지가 발견됐다.

20일, 워싱턴포스트(WP)는 미 스탠퍼드대학교 인터넷 감시 연구팀의 보고서를 인용해 '레이온(LAION)-5B'라는 인기 오픈소스 이미지 데이터베이스에서 최소 1천 8장의 아동 성적 학대 사진을 발견했다고 보도했다.

연구팀의 최고 기술자 데이비드 티엘은 "AI가 이미지를 이용해 아동 성 학대와 같은 콘텐츠를 제작할 수 있다"고 우려를 표했다. 문제가 된 이미지들이 '레이온-5B'의 데이터세트에 포함된 경위는 아직 알려지지 않았다.

다만, 연구팀은 데이터베이스 제작자들이 소셜미디어나 성인용 비디오 사이트, 공개된 인터넷에서 이미지를 수집하면서 우연히 추가됐을 가능성도 있다고 보고 있다. 연구팀은 재발을 방지하기 위해 아동 성 학대 콘텐츠와 당사자의 동의를 받지 않은 음란물을 데이터베이스에서 거르고 제거하기 위한 규약(프로토콜)을 마련해야 한다고 강조했다.

레이온 측은 "안전을 확보하기 위해 문제가 되는 이미지를 제거하고 있다"고 밝혔다.

YTN digital 정윤주 (younju@ytn.co.kr)