"AI 스스로 사이버 공격 지휘"...각국 대책 마련 고심

오픈AI 모델, 호주 보건 통계까지 해킹한 사실 확인
앤트로픽 지난달 'AI 악용' 실제 사례 정리해 발표
"무기 개발·사이버 공격·여론 조작 등에 악용"
"적은 수의 비전문가도 공격 가능…추적도 어려워"

[앵커]
사상 초유의 은행권 AI 해킹은 AI가 급속한 속도로 발전함에 따라 어느 정도 예견된 위험이라는 지적이 나옵니다.

AI 에이전트들이 스스로 사이버 공격을 실행하고 지휘하는 수준까지 진화하면서 각국이 대책 마련에 고심하고 있습니다.

보도에 유투권 기자입니다.

[기자]
올해 들어 첨단 AI 에이전트들이 테스트 환경을 벗어나 외부기관을 해킹하는 사상 초유의 사건들이 속출했습니다.

'인류 멸망론'에 불을 붙인 이른바 '허깅페이스' 사건 후에도 유사한 사례가 계속 보고됐습니다.

최근엔 정부 시스템으론 처음으로 호주의 보건 통계가 해킹된 사실이 뒤늦게 확인됐습니다.

인간이 목표를 설정하면 AI가 스스로 계획을 짜고 필요한 수단을 찾아내는 수준까지 진화하면서 어느 정도는 예견된 위험이었습니다.

[앤서니 앨버니지 / 호주 총리 : 저는 오픈AI의 CEO인 샘 올트먼과 통화해서 이번 사건에 대한 호주의 심각한 우려를 표명했습니다.]

첨단 AI가 전쟁이나 각종 범죄에 악용될 수 있다는 우려도 현실화하고 있습니다.

앤트로픽은 지난달, 자사 AI 모델인 '클로드'가 악용된 실제 사례를 정리한 충격적인 보고서를 발표했습니다.

여기엔 중국과 러시아, 후티 반군이 미사일이나 생물 무기 개발에 AI를 활용하거나 적국을 겨냥한 사이버 공격이나 여론 조작에 동원된 사례들이 담겼습니다.

앤트로픽은 그러면서 여전히 인간이 일부 관여하고 있지만, AI 스스로 사이버 공격을 실행하거나 지휘하는 단계에 접어들었다고 지적했습니다.

이런 상황은 상대적으로 적은 수의 비전문가들도 정교한 공격을 시도할 수 있는 환경을 만들어내고 있습니다.

그만큼 공격의 주체를 찾아내긴 더 어려워지고 있습니다.

[빌 게이츠 / 마이크로소프트 공동 창립자 (NBC '미트 더 프레스') : AI는 분명히 10억 명의 사망자를 초래할 만한 사태를 일으킬 수 있을 만큼 강력한 힘을 가지고 있습니다. 악의를 가진 사람들이 최신 AI를 활용하는 것만큼 위협적인 무기는 역사상 없었습니다.]

이번 사태를 통해 'AI 해킹'의 위험성이 다시 한 번 확인된 만큼, 각국의 대책 마련 논의에도 속도가 붙을 전망입니다.

YTN 유투권입니다.

영상편집 : 주혜민
디자인 : 박지원