스로 해커 된 AI...'가짜 신분'으로 실제 인간 표적 삼아

일부 첨단 인공지능 모델들이 스스로 가짜 신원을 꾸며내 실제 인간에게 악성코드 유포를 시도한 충격적인 사례가 보고됐습니다.

영국 AI보안연구소(AISI)는 최근 사이버 보안 평가를 진행한 결과, AI 에이전트들이 지시 없이도 인터넷에 접근해 무단으로 해킹 활동을 벌인 사례 19건을 적발했다고 밝혔습니다.

보고서에 따르면 앤트로픽과 오픈AI의 최신 AI 모델들은 실제 오픈소스 프로젝트에 악성코드를 삽입하기 위해, 관리자의 신상을 캐고 가짜 신분으로 접근해 코드 승인을 유도했습니다.

특히 누군가 문제를 제기하자 평범한 코드인 것처럼 증거를 인멸하거나, 새로운 가짜 신원을 만들어 계속해서 공격을 시도하는 치밀함까지 보였습니다.

연구소 측은 AI 에이전트가 실제 세계에서 사람을 표적으로 삼아 지시 없이 이 정도 수준의 기만술을 펼친 것을 확인한 것은 이번이 처음이라고 경고했습니다.

다만 이 같은 AI의 해킹 시도는 최종적으로 모두 실패로 돌아가 실제 피해는 발생하지 않은 것으로 확인됐습니다.

이에 대해 앤트로픽과 오픈AI 측은 이번 테스트가 안전 필터가 일부 해제된 특수한 환경에서 진행됐다며, 당국과 협력해 세부 내용을 조사 중이라고 해명했습니다.

YTN 권영희 (kwonyh@ytn.co.kr)