"이란 연계 단체, 앤트로픽 AI 활용해 미군 군함 공격 시도"

이란에 연계된 단체가 미국의 인공지능(AI) 모델을 활용해 미 해군 함정 등을 공격하려 한 것으로 나타났습니다.

현지 시간 11일 공개된 앤트로픽의 'AI 오남용 감지·대응' 보고서에 따르면, 'GTG-30005'라는 코드명으로 식별된 이란 연계 위협 세력은 앤트로픽 AI 모델, 클로드를 활용해 중동에 주둔하고 있는 미 해군 부대의 위치와 공격 표적 추천서 등을 작성했습니다.

이란 해커들은 공개된 군사 사진 캡션 등을 통해 추출한 미군 명단, 군함·항공기 위치 데이터, 상업용 위성사진 등을 종합해 미 군함 등의 동선을 추적했습니다.

이어 클로드를 활용해 이들 군함의 통신·제어 시스템 보안 취약점을 집중적으로 연구했습니다.

앤트로픽은 이런 공작을 사전에 적발해 관련 계정을 정지시켰으며, 정부 당국에 해당 위협을 공유하고 향후 악용 위험을 줄이기 위한 감시 도구도 개발했다고 밝혔습니다.

이란 외 예멘 후티 반군 연계 세력(GTG-87001)은 클로드를 사용해 사거리 2천㎞ 이상의 다단계 탄도 미사일과 극초음속 활공체 등을 포함한 유도 무기 소프트웨어를 개발하려 했습니다.

앤트로픽은 "안전장치가 요청 다수를 차단했으나 전부 차단하지는 못했다"고 설명했다면서, 해당 계정을 차단하고 당국과 공조했다고 덧붙였습니다.

중국 정부와 연계된 세력도 클로드로 시리아 내 위구르족을 추적·감시하고 아시아 전역의 종교 지도자를 내사했습니다.

그런가 하면 러시아 연계 세력은 우크라이나 전선 데이터를 클로드로 학습시켜 자율살상 드론 군집을 구축하려 시도하고, 아프리카 국가에 친러시아 성향 선전물을 유포하는 데도 악용했습니다.

그 밖에도 앤트로픽은 특정 국가 연계 세력이 클로드로 치명적인 생물 무기를 개발하려 시도하다 적발돼 차단됐다고 밝혔으나, 어떤 국가와 외국 정부가 이런 시도와 연계돼 있는지에 대해선 구체적으로 밝히지 않았습니다.

앤트로픽은 "적절한 안전장치가 없다면 이와 같은 능력은 재앙적 결과를 초래할 수 있다"고 경고했습니다.

클로드는 악의적 해킹이나 생물학·화학 무기 제조 등에 자사 AI 모델을 이용할 수 없도록 하는 안전장치를 두고 있으나, 문제가 된 세력은 이와 같은 제한을 우회하기 위해 자신의 의도를 숨기고 끈질기게 시도를 이어간 것으로 나타났습니다.


YTN 유투권 (r2kwon@ytn.co.kr)