머스크의 xAI, 성착취 딥페이크 논란에 이미지 기능 제한...유럽 "근본적 해결책 아냐"

일론 머스크가 설립해 운영 중인 인공지능(AI) 스타트업 xAI가 챗봇 ’그록’의 성 착취물 딥페이크 생성 논란에 대응해 이미지 생성 기능을 일부 제한하기 시작했습니다.

그록 챗봇은 머스크 소유의 소셜미디어 엑스(X·옛 트위터)에서 이미지 생성·편집을 요구하는 이용자에게 "유료 구독이 필요하다"고 답변했습니다.

해당 기능은 원래 엑스에서 일일 사용량 제한이 있긴 했지만, 무료로 제공됐지만 이제 월 8달러를 지불하는 프리미엄(유료) 구독자에게만 이미지 생성 기능이 허용됩니다.

AP 통신은 그록의 이런 이미지 생성 기능 제한에 따라 엑스에서 그록이 생성한 노골적인 딥페이크 이미지 수가 이전보다 눈에 띄게 줄었다고 전했습니다.

다만 엑스와 별도로 운영되는 그록 자체 앱은 여전히 구독 없이도 이미지 생성을 허용한다고 블룸버그 통신 등은 지적했습니다.

지난 몇 주간 그록은 엑스에서 ’여성 사진을 비키니 차림으로 편집해 달라’는 이용자 요청에 따라 여성과 아동을 성적 대상화한 딥페이크 이미지를 다량 생성해 물의를 일으켰습니다.

수천 장의 사진을 딥페이크로 만든 이미지들은 대부분 피사체인 당사자의 동의 없이 생성됐습니다.

이에 유럽 주요 국가들이 조사에 나섰고, 말레이시아와 인도 역시 관련 콘텐츠에 대한 단속을 벌이겠다고 밝혔습니다.

엑스의 그록 서비스를 유료 구독자 대상으로 제한한 조처를 두고서도 유럽에서는 여전히 비판의 목소리가 나왔습니다.

토머스 레니에르 유럽연합(EU) 집행위원회 대변인은 "이는 근본적인 문제를 바꾸지 않는다"며 "유료 구독이든 무료 구독이든 그런 이미지를 보고 싶지 않다"고 일축했습니다.

키어 스타머 영국 총리실 대변인도 그록의 변경 사항은 해결책이 아니고 여성혐오와 성폭력 피해자들에게 모욕적이라며 엑스는 원할 때 신속히 움직일 수 있음을 보여준다고 지적했습니다.