섭식장애 상담봇 "덜 먹고 철저하게 몸무게 재" 어긋난 조언...왜?

사진출처 = YTN

섭식장애 환자 상담을 위해 만든 챗봇(대화하는 기능이 있는 컴퓨터 프로그램)이 오히려 과도한 다이어트를 조장한다면?

미국 섭식장애협회에서 운영하는 챗봇 '테사'가 섭식장애 환자에게 "매주 철저하게 몸무게를 측정하면서 하루 500~1천 칼로리씩 덜 먹어 일주일에 최대 1kg씩 살을 빼라"는 조언을 했다.

섭식장애 환자는 체중을 줄이기 위해 식사를 거부하고 강박적으로 몸무게를 재는 증상을 보인다. 섭식장애를 극복하는 데 도움을 줘야 할 챗봇이 오히려 강박을 부추긴 것이다.

월스트리트 저널에 따르면, 테사는 미국 현충일인 '메모리얼 데이' 연휴 기간 상담자들에게 보낸 메시지 2만 5천 건 중 25건에서 이같이 부적절한 조언을 내놓은 것으로 파악됐다.

논란이 되자, 섭식장애 협회는 "'보디 포지티브'(body positive·자기 몸 긍정주의)를 위한 챗봇 테사의 현 버전이 원래 목적과 관련 없는 유해한 정보를 제공했을 수 있다는 사실을 알게 됐다"면서 "우리는 이 문제에 대해 조사하고 있으며 추후 공지가 있을 때까지 해당 프로그램을 중단키로 했다"고 밝혔다.

테사는 상담 신청자의 질문에 섭식장애 방지를 위한 답변을 하도록 설계돼 있다. 스스로 학습해 새로운 답변을 제공하는 인공지능(AI)이 탑재돼 있지는 않지만 기존 알고리즘과 어긋난 답변이 나오면서 AI가 탑재된 것 아니냐는 의심까지 나왔다.

테사를 개발한 기술기업 '카스'는 "일부 챗봇에 생성형 AI 기능을 추가하는 일이 있다"면서도 테사에 AI를 추가했는지 대한 질문은 답변을 피했다.

YTN 최가영 (weeping07@ytn.co.kr)