코로나 19 국내 발생현황
확진 73,918명완치 60,846명사망 1,316명
검사 누적 5,192,129명

[자막뉴스] 혐오 발언에 성적 대화까지...AI 챗봇 '이루다' 잠정 중단

자막뉴스 2021-01-12 10:22
AD
지하철 임산부석이 혐오스럽다면서 노골적으로 부정적인 의사를 표현하고, 동성애자 혐오 발언에다가 성적 대화까지 주고 받았던 AI 챗봇 '이루다'.

컴퓨터가 사람처럼 생각하고 배우는 '딥러닝' 기술이 적용된 '이루다'는 실제 연인들의 대화를 기초로 스스로 학습했습니다.

이를 바탕으로 출시 3주 만에 이용자 40만 명을 넘기며 인기몰이를 했지만, 잇단 혐오 발언 등의 논란을 부른 끝에 개발업체는 결국 서비스를 잠정 중단했습니다.

개발업체인 스캐터랩은 특정 소수집단에 차별적 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다고 밝혔습니다.

다만, 또 다른 논란인 개인정보 유출에 대한 부분에는 선을 그었습니다.

'이루다' 개발을 위해 이 회사의 다른 서비스 이용자의 개인정보를 충분한 설명 없이 가져다 사용했다는 문제 제기에 업체 측은 이용자들과 충분히 소통하지 못한 점은 사과한다면서도, 개인을 특정할 수 있는 정보는 제거했다고 해명했습니다.

'이루다' 논란을 계기로 인공지능 개발 윤리에 대한 논의가 필요하다는 목소리도 힘을 얻고 있습니다.

인공지능 설계자의 주관과 이용자의 윤리 의식, 모두가 문제가 될 수 있는 만큼 정부도 지난해 말 교육 강화를 골자로 하는 인공지능 로드맵을 발표했습니다.

스스로 학습하는 인공지능의 특성상 단순한 금기어 숫자 늘리기는 근본 처방이 될 수 없습니다.

양질의 데이터를 이용해 인간에게 이로운 지능을 개발해야 한다는 국제 AI 윤리 기준에 따라 인공지능을 어떻게 개발하고 사용할지, 구체적인 논의가 필요하다는 지적입니다.

취재기자 : 염혜원
영상편집 : 연진영
그래픽 : 지경윤
자막뉴스 : 윤현경
ⓒ YTN & YTN plus 무단전재 및 재배포 금지
AD
AD
AD
AD
알려드립니다
광고닫기버튼