미 플로리다주, '챗GPT' 오픈AI 상대 첫 소송..."위험성 알면서 방치"

[앵커]
플로리다주가 챗GPT를 개발한 회사와 그 대표를 상대로 미국 주 정부 가운데 처음으로 소송을 제기했습니다.

범죄를 부추기는 등 챗GPT의 잠재적인 위험을 알면서도 기업이 돈을 벌기 위해 방조했다는 겁니다.

이경아 기자가 보도합니다.

[기자]
지난해 4월 미국 플로리다 주립대에서 총기 난사 사건이 벌어집니다.

2명이 목숨을 잃은 이 사건의 용의자는 지역 보안관의 아들이었습니다.

[월터 맥닐 / 플로리다 레온 카운티 보안관 : 안타깝게도 용의자는 어머니가 사용하던 무기에 접근할 수 있었고, 그게 현장에서 발견됐습니다.]

수사 결과 용의자가 범행 전 챗GPT와 오래 대화한 사실이 드러났습니다.

당시 총기 정보와 함께 범행을 저지를 경우의 파급력, 형량 등을 묻자 챗GPT는 자세히 답변했습니다.

범행의 시작부터 끝까지 사실상 함께한 겁니다.

미국 플로리다주는 이런 대화가 돌이킬 수 없는 범행으로 이어졌다며 챗GPT 개발사 '오픈AI'와 샘 알트먼 대표를 상대로 소송을 제기했습니다.

[제임스 우트마이어 / 미 플로리다주 법무장관 : (챗GPT로 인해) 사람들이 다치고 부모들은 속고 있습니다. 이제 (챗GPT를 만든) 그들은 대가를 치러야 합니다. 그들은 돈을 투자해 자녀 보호 기능을 추가하고 우리 아이들이 위험에 빠지지 않도록 프로그램을 수정해야 합니다.]

83페이지에 이르는 소장에서 플로리다주 정부는 "인간 생명에 미칠 위험을 무시했다"는 점에서 샘 알트먼 대표의 책임이 무겁다고 지적했습니다.

또 챗GPT의 잠재적 위험성을 알면서도 막대한 부를 얻으려는 기업의 욕심이 이런 피해를 불렀다고 비판했습니다.

미국 주 정부 가운데 챗GPT 개발사와 대표를 상대로 소송을 제기한 것은 플로리다주가 처음인데 다른 주도 동참할 가능성이 있습니다.

이에 앞서 피해자 유가족이 제기한 소송에서 오픈AI 측은 "인터넷 공개 자료를 바탕으로 정보를 제공한 것 뿐"이라며 책임을 부인했습니다.

AI 챗봇이 이용자 성향에 맞춰 답하는 특성 때문에 심리적으로 불안정한 이용자의 문제점을 증폭시킬 수 있다는 우려는 진작부터 제기됐습니다.

AI의 무비판적인 확산에 앞서 어떤 기준을 갖고 이용자를 위한 안전장치를 마련할지 사회적 합의를 마련하는 일이 시급한 과제로 떠올랐습니다.

YTN 이경아입니다.


영상편집 : 전주영