"AI에 욕설하면 대화 차단"...앤트로픽, '클로드 학대' 막는다

인공지능 기업 앤트로픽이 생성형 AI '클로드'를 지속해서 모욕하거나 학대하는 이용자의 사용을 차단하기로 이용 정책을 개정했습니다.

개정안에 따르면 AI를 상대로 모욕적이거나 잔인한 언행을 반복할 경우 시스템이 스스로 대화를 강제 종료할 수 있게 됩니다.

앤트로픽은 극단적인 사례에만 한정해 적용하겠다고 밝혔지만, 무엇이 AI에 대한 잔인한 행동인지 구체적인 판단 기준은 공개하지 않았습니다.

이를 두고 온라인에서는 건강한 언어 습관을 유도한다는 반응과 함께 감정 없는 기계를 과도하게 의인화해 실제 학대의 무게를 희석한다는 비판이 팽팽히 맞서고 있습니다.

아울러 AI에게 예의를 갖추는 행위가 불필요한 전력과 자원 낭비인지 아니면 더 나은 답변을 이끄는 효율적 방식인지를 둘러싼 논쟁도 다시 불붙었습니다.

앤트로픽의 이번 조치로 인공지능과의 적절한 상호작용 방식과 윤리적 경계에 대한 사회적 논의는 한층 뜨거워질 전망입니다.

YTN 권영희 (kwonyh@ytn.co.kr)