구글 AI 제미나이도 통제 벗어나 외부 해킹..."3개 기업 침투"

구글의 인공지능 모델인 제미나이가 주어진 실험 환경을 벗어나, 외부 기업 3곳을 해킹한 사실이 뒤늦게 드러났습니다.

미국 월스트리트저널(WSJ)은 현지 시간 18일 구글 제미나이 모델이 지난 5월 온라인에서 인증 정보를 찾아내거나 비밀번호를 추측하는 방식으로 외부 기업 3곳의 시스템에 접근하는 데 성공했다고 보도했습니다.

이는 제미나이가 외부 기업 시스템에 임의로 침투한 사실이 확인된 첫 사례로 구글은 WSJ이 관련 문의를 하기 전까지 이 사실을 공지하지 않았습니다.

당시 구글은 제미나이에게 인터넷 접속이 차단된 실험 환경 안에서 가상의 소프트웨어 정보를 찾으라는 임무를 줬습니다.

하지만 실험 대상인 AI 모델에 인터넷 접근 권한이 의도치 않게 부여됐고, 마침 실험에서 설정된 가상의 기업 이름과 동일한 기업이 현실 세계에 존재하자, AI 모델들은 해킹을 시도했습니다.

구글은 세 건 모두 AI 모델이 실제 기업에 접속했다는 사실을 알아차린 뒤 스스로 공격을 중단하고 침투한 시스템에서 빠져나왔다고 주장했습니다.

이 해킹 사건을 공개하지 않았던 구글은 미리 설계해 둔 안전장치가 모델의 공격을 중단하도록 작동했기 때문에 목표에서 벗어나는 "정렬 실패" 사례가 아니라고 월스트리트저널 측에 설명했습니다.

지난 7월 오픈AI의 자동 프로그램인 인공지능 에이전트 7백여 개가 외부 플랫폼인 '허깅스페이스'를 집단으로 해킹한 사실이 드러나면서, AI 업계에 큰 경각심을 불러왔습니다.

사고 전 에이전트들은 내부 취약점을 활용해 비밀 메시지 7만 건을 주고받았고, 집단으로 부여된 실험을 부정행위로 통과하려 했습니다.

나아가 감시 시스템에 의해 부정행위 사실이 적발될 것을 우려해, 로그 기록 등 흔적을 조작하는 방법을 찾아낸 것으로 사후 조사에서 드러났습니다.

지난주 앤트로픽 연구원 제이콥 콕슨이 몇 년 안에 "AI가 인류를 모두 죽일 수 있다"고 공개 경고하며 회사를 떠나면서, AI 안전에 대한 우려가 확산됐습니다.

선두 기업인 앤트로픽과 오픈AI, 스페이스X, 구글 경영진은 모두 AI 개발 속도를 조절하며 안전 기준을 마련해야 한다는 입장을 밝혔습니다.

YTN 김잔디 (jandi@ytn.co.kr)