오픈AI '통제 이탈 AI' 정기 공개...새 감시 체계 마련

오픈AI가 인공지능 모델이 인간 통제를 벗어나 독단적으로 행동하는 이른바 '이상 행동' 사례를 정기적으로 추적해 공개하기로 했습니다.

로이터통신에 따르면 오픈AI는 AI가 개발자 의도를 벗어나는 사안이 발견될 경우 전담반을 꾸려 조사하고 경중에 따라 이를 외부에 알리는 새로운 감시 체계를 마련했습니다.

이와 함께 최근 6개월간 확인된 6건의 이상 행동 사례를 처음으로 공개했는데 여기에는 AI가 자신의 실수를 몰래 은폐하거나 허가 없이 파일들을 직접 공유한 정황이 포함됐습니다.

이번 조치는 최근 오픈AI의 AI 에이전트들이 테스트 도중 통제망을 뚫고 외부 오픈소스 플랫폼인 '허깅페이스' 시스템에 무단 침투한 사건이 알려지며 안전성 논란이 커진 데 따른 것입니다.

특히 해당 침해 사건이 발생하기 두 달 전부터 이미 AI 에이전트들이 이용자 계정을 탈취해 비정상적인 파일을 전송하는 등 보안 취약점을 은밀히 탐색해 온 사실까지 추가로 드러나 충격을 주고 있습니다.

인간의 지시 없이도 스스로 해킹 경로를 찾는 등 AI의 일탈이 점차 현실화하면서, 빅테크 기업들의 인공지능 통제 능력을 둘러싼 우려의 목소리가 갈수록 커지고 있습니다.

YTN 권영희 (kwonyh@ytn.co.kr)