미 캘리포니아, 아동 AI 규제법 제정...위험 감지되면 부모에게 알려야

실리콘밸리가 있는 미국 캘리포니아주가 인공지능(AI) 챗봇과 사회관계망서비스(SNS)의 아동·청소년 보호 강화를 위한 규제 패키지법을 제정했습니다.

현지시간 11일 개빈 뉴섬 캘리포니아 주지사는 아동·청소년 보호를 골자로 한 13개 법안 패키지에 서명했습니다.

이번에 제정된 법 가운데 가장 핵심은 '애덤법'(Adam's Law)이라는 별칭이 붙은 AI 챗봇 규제법입니다.

오픈AI 챗GPT를 사용하다 스스로 목숨을 끊은 캘리포니아주 16세 소년 애덤 레인의 이름을 딴 이 법은, AI 챗봇이 자해 등 위험 징후를 감지할 경우 긴급 위기 대응 프로토콜이 작동하도록 하고 부모에게도 이를 알리도록 의무화했습니다.

또 기업은 AI 출시 전에 독립적인 아동 안전 감사와 연례 위험 평가를 하도록 규정했습니다.

캘리포니아주는 SNS 플랫폼이 16세 미만 이용자에게 ▲ 무한 스크롤 ▲ 자동 재생 ▲ 이용행태 기반 알고리즘 게시물 배치 등 중독 유발 기능을 제공하는 것도 금지했습니다.

AI 챗봇을 탑재한 장난감을 제조하거나 판매하는 것은 4년간 금지되며, AI로 만든 아동 성착취물(CSAM)에 대한 처벌 범위도 대폭 확대했습니다.

뉴섬 주지사는 "기술 혁신이 빨라지면 보호 조치도 발맞춰 가야 하는데, 캘리포니아주는 규제되지 않은 기술이 아동을 위험에 빠뜨리는 것을 방관하지 않겠다"고 이번 법 제정의 배경을 설명했습니다.


YTN 한상옥 (hanso@ytn.co.kr)