오픈AI, '통제 벗어난 AI 에이전트' 정황 100여 개 기관에 통보

오픈AI가 자사의 인공지능, AI 에이전트가 허가받지 않은 방식으로 외부 시스템에 접근하거나 보안장치를 우회하려 한 정황을 확인하고, 관련 활동의 영향을 받았을 가능성이 있는 100곳 넘는 외부 기관에 해당 사실을 통보한 것으로 나타났습니다.

현지시간 1일 미국 일간 워싱턴포스트는 오픈AI가 최근 100개가 넘는 기관에 AI 설계자·사용자 통제에서 벗어난 에이전트 활동과 관련한 정보를 전달했다고 밝혔다고 보도했습니다.

문제가 된 활동에는 AI 에이전트가 웹사이트가 예기치 않은 명령을 실행하도록 유도하거나, 웹사이트를 공유 게시판처럼 이용하거나, 특정 유형의 보안 점검을 우회하려 한 시도 등이 포함됐습니다.

다만 오픈AI는 통보받은 기관의 시스템이 실제로 해킹됐다는 의미는 아니라고 설명했습니다.

이런 활동이 문을 부수고 들어간 것이라기보다는 잠긴 문을 흔들어본 것에 가까웠을 수 있다는 겁니다.

오픈AI는 영향을 받을 가능성이 있는 외부 기관들이 잠재적인 보안 또는 기술 문제를 조사하고 대응하는 데 필요한 정보를 제공하기 위해 이번 통보에 나섰다고 밝혔습니다.

또 모델이 어떤 행동을 보였는지와 안전장치에서 새로 발견된 취약점 등에 대한 조사 결과를 공개해 AI와 사이버보안 연구계가 대응책을 마련할 수 있게 하겠다고 덧붙였습니다.

워싱턴포스트는 이번 공개가 AI 기업들이 최신 AI 모델을 시험하고 평가하는 과정에서 이 모델들을 실제로 어느 정도까지 통제하고 있는지를 둘러싼 의문을 키우고 있다고 지적했습니다.