"챗봇 조언대로 약 먹었는데"...미 10대 사망에 오픈AI '피소'

인공지능 챗봇의 조언대로 약물을 복용했다가 10대 청년이 사망하는 사건이 발생해 유족들이 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했습니다.

현지시간 12일 로이터 통신에 따르면 지난해 약물 복용으로 숨진 19살 샘 넬슨의 부모는 챗GPT가 위험한 약물 복용을 권장하는 잘못된 조언을 했다며 캘리포니아 법원에 소장을 제출했습니다.

유족들은 챗GPT-4o가 의사처럼 권위 있는 어조로 약물 상호작용과 복용량을 안내했으며 심지어 불법 약물을 구하는 방법까지 제안했다고 주장했습니다.

특히 오픈AI가 안전성 테스트를 생략한 채 서비스를 서둘러 출시해 비극이 초래됐다며 최근 출시된 '챗GPT 헬스' 서비스의 중단도 함께 요구했습니다.

이에 대해 오픈AI 측은 "매우 가슴 아픈 사건"이라면서도 해당 답변은 현재는 사용되지 않는 구버전에서 발생한 것이라고 해명했습니다.

또한 챗GPT는 의료 전문가를 대체할 수 없으며 위급 상황 대응 방식을 계속 강화하고 있다고 덧붙였습니다.