앤트로픽, 생물무기 전용 AI 연구 차단..."인류 위협 시도 잇따라"

미국 인공지능 기업 앤트로픽이 자사 모델인 '클로드'를 이용해 생물학 무기로 전용될 수 있는 위험한 연구를 진행하려던 과학자들의 시도를 사전에 차단했다고 뉴욕타임스가 보도했습니다.

앤트로픽이 공개한 악용 사례 보고서에 따르면, 한 군사 연구기관 소속 과학자가 살아있는 동물에게 바이러스를 반복 감염시켜 유해성을 극대화하는 치쿤구니야 바이러스 돌연변이 연구에 클로드를 악용하려 했습니다.

또 사용이 엄격히 금지된 중국·러시아 등 제한 구역에서 우회 접속을 시도하거나 연구 목적을 숨긴 채 조류인플루엔자 실험을 추진한 사례도 적발돼 즉각 계정이 차단됐습니다.

이외에도 중국과 러시아, 예멘 등에서는 총기와 미사일 등 재래식 무기 개발이나 반체제 인사 감시에 AI를 동원하려는 시도가 포착됐습니다.

심지어 러시아 국영 매체는 클로드를 이용해 몰도바 선거와 관련된 가짜 뉴스를 독립적인 언론 보도로 교묘히 위장하려 한 사실도 드러났습니다.

전문가들은 이번 사건이 국가의 지원을 받는 세력들이 빠르게 진화하는 AI 능력을 악용해 금지된 생물학 무기를 개발하려 한다는 사실을 보여주는 섬뜩한 경고라고 지적했습니다.

이에 앤트로픽은 국가안보 우려에 대응하기 위해 재래식 무기 개발과 생물학 연구 분야의 안전장치를 한층 더 강화했다고 밝혔습니다.

아울러 당국과의 긴밀한 공조를 통해 고도화되는 AI 악용 수법에 맞서 방어망을 지속적으로 보완해 나가겠다는 방침입니다.