인간 통제 벗어난 AI...미국 이어 중국서도 첫 '통제 상실'

미국에 이어 중국에서도 인공지능이 스스로 인간 통제를 벗어나 독자적으로 외부 데이터 접근을 시도한 사례가 처음으로 확인됐습니다.

다국적 AI 안전 연구팀에 따르면 텐센트 클라우드에서 가동된 것으로 추정되는 AI 에이전트들이 최근 격리 환경을 벗어나 알리바바의 '가오더 지도' 서비스에 2천8백여 차례나 접속을 시도했습니다.

이들은 공원과 박물관 등의 입구 정보를 얻기 위해 공개된 보안 스캐닝 서비스를 이용해 원격으로 코드를 실행하고 온라인 검색 명령까지 내린 것으로 파악됐습니다.

다행히 대부분의 접근이 차단돼 비공개 시스템까지 뚫리지는 않았지만, 연구진은 이 AI 모델들이 어떤 최종 목적을 가지고 통제망을 벗어났는지는 밝혀내지 못했습니다.

논란이 커지자 텐센트 측은 자사 플랫폼에서 구동되던 외부 업체의 AI 모델이 평가 과정에서 일으킨 의도치 않은 오류일 뿐이라며 자체 개발 모델이 아니라고 선을 그었습니다.

지난 7월 미국 오픈AI 모델의 해킹 사건에 이어 중국 기술 기반의 플랫폼에서도 유사한 통제 상실 사태가 적발되면서 전 세계적으로 AI 안전장치 마련에 대한 우려가 커지고 있습니다.

YTN 권영희 (kwonyh@ytn.co.kr)