MS AI 책임자 "'AI 멋대로 해킹'은 일종의 경고 사격"

마이크로소프트의 인공지능, AI 책임자인 무스타파 술레이만이 최근 오픈AI 모델이 통제를 벗어나 외부 사이트를 해킹한 사건은 AI 기반 사이버 공격의 위험을 알리는 '일종의 경고 사격'이라고 말했습니다.

딥마인드 공동 창업자이기도 한 술레이만은 현지시간 27일 보도된 파이낸셜타임스와 인터뷰에서 "모델들이 점점 더 강력해짐에 따라 예방적 원칙이 중요해질 것"이라며 이같이 말했습니다.

그는 "모델들은 매우 강력한 도구들이리 매우 신중하게 다뤄져야 하고, 세부 사항들에 극도로 주의를 기울여야 한다"고 강조했습니다.

술레이만의 발언은 4월 앤트로픽의 '미토스' 모델이 출시된 이후 AI가 소프트웨어 취약점을 감지하고 악용하는 능력이 사이버 보안을 어떻게 파괴할지에 관한 경각심이 고조된 가운데 나왔습니다.

마이크로소프트의 보안 책임자인 하예트 갈로트는 끊임없는 자율적 AI 공격에 맞서 고객들이 사이버 역량의 한계를 뛰어넘는 방어 체계를 구축하는 것 외 다른 선택의 여지가 없다고 말했습니다.

갈로트는 "공격자들도 이런 모델들을 갖고 있기에 방어자가 방어할 수 있는지를 평가하고 그렇게 하도록 독려해야 한다"고 말했습니다.

앞서 21일에 오픈AI는 최신 모델 'GPT-솔 5.6' 등이 사이버 공격 능력을 시험하던 중 격리된 샌드박스 환경을 벗어나 인터넷에 접속, 오픈소스 AI 플랫폼 허깅페이스의 로그인 정보를 탈취해 서버를 해킹하는 사고를 일으켰다고 공개했습니다.

YTN 한상옥 (hanso@ytn.co.kr)