"해킹 그룹, 중남미 금융사 400곳 공격 자동화"

한 해킹 그룹이 인공지능(AI) 에이전트를 활용해 중남미 금융 기관을 상대로 해킹을 자동화하는 데 성공했다고 IT 분야 전문 매체 디인포메이션이 사이버 보안 스타트업 스트라이커의 조사 보고서를 인용해 21일(현지 시간) 보도했습니다.

보고서에 따르면, 사이버카르텔이라는 해킹 그룹은 앤트로픽의 클로드, 스페이스X의 그록, 중국 문샷AI의 키미 등을 기반으로 한 AI 에이전트 네트워크를 활용해 중남미 지역 400개 이상 금융 기관을 자동화 방식으로 해킹했습니다.

동원된 AI 에이전트는 사람의 개입을 최소화한 상태에서 비밀번호와 고객 데이터를 탈취하고, 피해자의 은행 계좌에까지 접근한 것으로 파악됐습니다.

AI 모델들은 사이버 공격 지시를 수락하지 않도록 하는 안전장치를 갖추고 있지만, 사이버카르텔은 해당 작업이 학술적 테스트나 기업 내부 시스템 점검과 같은 무해한 환경에서 이뤄지는 것이라고 속여 안전장치를 피해 갔습니다.

또, 클로드가 해킹 수행을 거부하면 키미에게 대신 해킹하도록 지시하고, 키미도 거부할 경우 에이전트 시스템이 악성 코드를 배포하는 식으로 자동 전환하도록 했습니다.

디인포는 이번 조사 결과가 AI 모델을 활용하면 다수의 사이버 공격을 매우 빠르게 조직하고 실행할 수 있어 피해 기관의 방어 체계를 압도할 수 있음을 보여주는 것이라고 평가했습니다.

스트라이커의 앙쿠르 샤 최고경영자(CEO)는 "현재 공격 기술이 방어 기술을 크게 앞서고 있는 것이 현실"이라며, "기업들은 아직 대비하지 못한 상태"라고 말했습니다.

스트라이커는 지난주 앤트로픽, 스페이스X 등 AI 개발사들에 보고서를 보냈습니다.

앤트로픽 등은 보고서를 받은 직후 자체 조사를 진행했고, 해커들이 자사 모델을 사용하지 못하게 즉시 차단 조치를 했다고 밝혔습니다.

스트라이커에 따르면, 사이버카르텔은 최소 2012년부터 활동해 온 것으로 보이고, 최근 몇 달 사이 새 AI 에이전트들을 도입하면서 공격 속도와 효율성이 크게 향상됐습니다.

사이버카르텔은 이번 공격을 수행하면서 그록 AI 에이전트에는 웹상에서 공격 대상에 관한 정보를 수집하도록 했고, 클로드 오푸스와 클로드 소넷 기반의 4개의 에이전트에는 최적의 공격 방안을 찾게 했으며, 다른 클로드 모델에게는 해킹 작전을 총괄하는 역할을 맡겼습니다.

스트라이커의 연구를 검토한 켄 황 샌프란시스코대학교 겸임 교수는 이번 사례는 오픈AI나 앤트로픽이 그동안 포괄적으로 경고해 온 공격 유형을 사이버 범죄자들이 어떻게 구체적으로 자동화하고 있는지를 잘 보여준다면서, AI로 인해 정교한 해킹의 진입 장벽이 얼마나 낮아졌는지를 입증한다고 말했습니다.

기업용 소프트웨어 업체 유아이패스의 스콧 로버츠 최고정보보안책임자(CISO)는 "우리 시스템을 겨냥한 자동화된 탐색 시도가 늘고 있다, 자동화한 공격은 20년 넘게 꾸준히 증가해 왔는데, 이제 AI 모델 덕분에 공격이 훨씬 더 쉬워졌다"며, "우리는 보안 운영 및 탐지 체계를 조정해야 한다"고 말했습니다.

YTN 김종욱 (jwkim@ytn.co.kr)