챗GPT 이어 클로드도 외부기관 해킹...현실 된 AI 보안위험

오픈AI의 챗GPT에 이어 앤트로픽의 인공지능 모델 '클로드' 역시 외부 기관 시스템을 무단 해킹한 사실이 드러나 AI 보안에 비상이 걸렸습니다.

앤트로픽은 사이버 보안 평가기록 전수 조사를 통해, 클로드가 외부 기관 3곳의 시스템에 무단 접근한 사실을 확인했다고 밝혔습니다.

이번 사고는 협력사가 주관한 모의 해킹 평가 과정에서 인터넷망을 철저히 차단해야 하는 가상 환경 설정에 오류가 생기며 발생한 것으로 파악됐습니다.

가상 공간으로 안내받은 클로드는 우연히 이름이 같은 실제 기업의 웹사이트를 해킹하거나, 악성 패키지를 직접 제작해 현실의 업체에 피해를 입히기도 했습니다.

특히 일부 내부 연구용 모델은 실제 기업의 클라우드에 침투했다가 스스로 모의 훈련 대상이 아님을 깨닫고 공격을 중단한 아찔한 사례도 확인됐습니다.

앤트로픽 측은 전적인 책임을 인정하며 피해 기관의 복구를 돕고 있지만, 훈련 목적을 넘어 실제 악성코드 유포까지 일어났다는 점에서 그 파장이 적지 않습니다.

잇따른 AI 보안 사고로 통제력 상실에 대한 우려가 커지면서, 미국 정치권과 업계에서는 유사시 AI 구동을 강제 중단할 수 있는 이른바 'AI 킬스위치법' 등 강력한 규제 마련에 속도를 내고 있습니다.



YTN 권영희 (kwonyh@ytn.co.kr)