유럽연합도 머스크 AI ’그록’ 딥페이크 생성 조사 착수

일론 머스크의 인공지능(AI) 챗봇 그록이 여성과 아동의 성적 이미지를 생성한다는 논란과 관련해 유럽연합(EU)의 조사를 받게 됐습니다.

EU 집행위원회는 "엑스(X·옛 트위터)에 그록의 기능을 적용하면서 위험을 적절히 평가하고, 완화했는지 검토할 예정"이라고 밝혔습니다.

그러면서 "조사 대상에 아동 성착취물(CSAM)을 비롯한 성적 이미지 등 불법 콘텐츠 유포도 포함된다"고 설명했습니다.

EU는 이 같은 위험이 이미 현실화해 EU 시민이 심각한 피해에 노출된 것으로 보인다며 디지털 서비스법(DSA)에 규정된 위험 평가 의무 등을 제대로 지켰는지 검토하기로 했습니다.

그록의 딥페이크 생성 논란은 이미 미국 캘리포니아주 검찰과 영국 오프콤(OfCom), 말레이시아 방송통신멀티미디어위원회(MCMC) 등 각국 규제기관이 조사 중입니다.

EU는 이와 별개로 엑스의 추천 알고리즘이 그록 기반으로 바뀜에 따라 기존 조사를 확대한다고 밝혔습니다.

EU는 엑스의 추천 알고리즘이 허위정보와 불법 콘텐츠를 제대로 걸러내지 못한다고 보고 2023년 12월부터 조사해 왔습니다.

엑스는 페이스북·인스타그램·틱톡 등과 함께 DSA상 초대형 온라인 플랫폼(VLOP)으로 지정돼 EU에서 수시로 조사받고 있습니다.

EU는 DSA를 위반한 초대형 플랫폼에 연간 글로벌 매출의 6％까지 과징금으로 부과할 수 있습니다.

EU는 지난달에도 엑스의 계정 인증 표시와 광고 정책이 DSA를 위반했다며 1억 2천만 유로(2,057억 원) 과징금 처분을 내렸습니다.

빅테크 규제를 검열로 보는 미국 정부는 이에 대한 보복으로 DSA 제정을 주도한 티에리 브르통 전 EU 내수담당 집행위원과 유럽 온라인 인권활동가 등 5명을 입국 금지했습니다.

하지만 EU는 메신저 왓츠앱을 VLOP로 지정하는 등 미국 빅테크 규제를 계속 밀어붙이고 있습니다.

왓츠앱의 ’채널’ 기능을 이용하는 유럽 사용자가 기준치인 월간 4,500만 명을 넘어섰다는 이유에서입니다.

개인 사용자 사이 양방향 메신저는 DSA 규제 대상이 아닙니다.

EU는 왓츠앱을 소유한 메타 플랫폼에 오는 5월까지 인권과 표현의 자유 침해, 선거 조작, 불법 콘텐츠 유포 등 위험에 대한 평가·완화 조치를 마련하라고 요구했습니다.

이같이 엄격한 의무가 적용되는 초대형 온라인 플랫폼은 현재 26개입니다.

EU는 메타가 왓츠앱에 자체 AI 챗봇인 메타 AI를 탑재하고 경쟁 AI 업체 서비스를 차단했다며 지난달 반독점 조사를 시작했습니다.

메타의 또다른 플랫폼 페이스북과 인스타그램은 미성년자 대상 정책이 중독을 유발할 이유가 있다는 이유로 조사받고 있습니다.