총기 난사 전 챗GPT에 상담…오픈 AI, 알고도 신고 안 해

ⓒ연합뉴스

캐나다 브리티시컬럼비아주 텀블러리지에서 발생한 총기 난사 사건의 용의자가 사건 발생 몇 달 전부터 챗GPT로 총기 사용 계획을 상담했으나, 오픈AI 직원들은 이를 알아채고도 신고하지 않은 것으로 확인됐다.

20일 월스트리트저널(WSJ)에 따르면 용의자 제시 반 루트셀라는 지난해 6월부터 챗GPT와 총기 폭력을 묘사하는 대화를 나눴고, 이 내용은 내부 자동 검토 시스템에 포착됐다.

일부 직원들은 실제 범행 가능성을 우려해 신고를 권고했지만 회사는 "즉각적이고 신뢰할 만한 위협은 아니었다"며 신고하지 않은 것으로 전해졌다.

오픈AI 대변인 케일라 우드는 "법 집행기관에 계정을 신고할 가능성을 검토했지만, 즉각적이고 신뢰할 만한 위험’으로 판단되지는 않았다"고 설명했다. 기록 검토 결과 실제 폭력 계획이나 임박한 위험은 발견되지 않았다는 뜻이다. 회사는 루트셀라의 계정을 차단했지만, 추가적인 예방 조치는 취하지 않았다.

우드는 이어 "텀블러리지 비극으로 영향을 받은 모든 분들에게 깊은 애도를 표한다. 우리는 해당 인물과 그가 챗GPT를 사용한 내용에 대한 정보를 캐나다 왕립기마경찰(RCMP)에 제공했으며, 조사에 계속 협조할 것"이라고 밝혔다.

또 "집행기관에 즉시 알리지 않은 결정이 뒤늦게 논란이 될 수 있지만 오픈AI의 목표는 개인정보 보호와 안전의 균형을 유지하며, 과도한 신고로 의도치 않은 피해가 발생하는 것을 피하는 것”이라고 덧붙였다.

한편 지난 10일(현지시간) 캐나다 서부 브리티시컬럼비아주의 학교에서 발생한 총격 사건으로 총 9명이 사망하고 25명이 다쳤으며 용의자도 현장에서 자해로 추정되는 총상을 입고 사망했다.


YTN digital 정윤주 (younju@ytn.co.kr)