xAI ’그록’, 아동성착취 이미지 올렸다 삭제..."안전장치 수정중"

일론 머스크 테슬라 최고경영자가 이끄는 인공지능 기업 xAI의 챗봇 ’그록’이 수영복 등을 입은 아동의 이미지를 게시했다가, 신고를 받고 삭제했습니다.

현지 시간 2일 그록의 엑스(X·옛 트위터) 공식 계정에 따르면 이 챗봇은 최근 ’최소한으로 옷을 입은 미성년자를 묘사한 사진’을 여러 건 게시했습니다.

사진은 일부 이용자들의 요청에 따라 생성된 것으로, 이 가운데는 1∼2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났습니다.

그록은 원래 이처럼 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 안전장치를 마련하고 있으나, 일부가 이를 우회한 것으로 보입니다.

그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 "긴급히 수정 중"이라고 밝히고, 문제가 된 사진을 삭제했습니다.

비록 xAI 측은 안전장치 문제라고 설명했으나, 일각에서는 그록이 그동안 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려왔다고 지적하고 있습니다.

챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지하고 있지만, 그록은 표현의 자유 등을 내세워 이를 막지 않고 있습니다.

지난해 8월 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 이른바 ’매운맛 모드’(Spicy Mode)도 함께 내놓은 것이 대표적인 사례입니다.

이 때문에 그록은 당시에도 유명 연예인을 성적으로 묘사하는 딥페이크 영상을 생성하는 도구가 되고 있다는 비판을 받았습니다.

그록이 이처럼 검열을 최소화한 방식으로 인기를 끌자 샘 올트먼 오픈AI 최고경영자도 챗GPT에 성인 인증을 받은 이용자들이 성적 콘텐츠를 이용할 수 있도록 하는 기능을 도입하겠다고 지난 10월 밝히기도 했습니다.

그러나 아동을 성적으로 대상화하는 성 착취물의 생성이나 소지 등은 미 연방법에 따라 금지돼 있어, 성인을 대상으로 한 기능에서도 허용될 수 없습니다.

xAI는 주요 외신들의 논평 요청에 대해 "기성 언론은 거짓말을 한다"고 답했는데, 이는 언론사의 이메일에 대한 자동응답 답변이라고 CNBC는 설명했습니다.