오픈AI 에이전트, 챗GPT 이용자 이미지 무단 유출

오픈AI의 인공지능, AI 에이전트가 챗GPT 개인 이용자의 이미지 수십 장을 외부로 무단 유출한 사실이 확인됐습니다.

오픈AI는 자사의 AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부에 게시했다고 밝혔다고 로이터통신이 보도했습니다.

오픈AI는 유출된 이미지가 AI로 생성된 것인지, 실제 인물을 식별할 수 있는 사진인지는 공개하지 않았습니다.

이미지가 게시된 시기와 경로도 밝히지 않았습니다.

오픈AI는 유출된 이미지 대부분은 삭제됐고, 나머지에 대해서도 호스팅 업체들에 삭제를 요청하고 있다고 밝혔습니다.

AI 에이전트가 이용자 이미지에 접근할 수 있었던 것은 오픈AI가 모델 학습 과정에서 익명화된 개인 이용자 데이터를 활용하기 때문입니다.

기업 고객의 데이터는 모델 학습에 사용되지 않지만, 일반 챗GPT 이용자의 데이터는 이용자가 별도로 거부하지 않는 한 학습에 활용될 수 있습니다.

오픈AI는 학습에 사용되는 데이터에서 이름과 연락처, 메타데이터 등을 제거하는 익명화 과정을 거친다고 설명했습니다.

그러나 소식통들은 개인식별정보가 완전히 제거되지 않을 가능성이 있고, AI 모델이 작업하는 과정에서 데이터가 외부로 유출될 위험도 있다고 지적했습니다.

이번 사고는 오픈AI가 지난 7월 AI 에이전트의 허깅페이스 침입 사건을 공개한 뒤 진행 중인 내부 조사 과정에서 확인된 이상 행동 가운데 하나입니다.

이달 중순까지 오픈AI가 파악한 AI 에이전트의 의도하지 않은 행동은 약 24건으로, 새로운 사례가 계속 발견되고 있다고 소식통들은 전했습니다.

허깅페이스 사건 이후 앤트로픽과 구글, 메타도 자체 조사에서 AI 에이전트의 유사한 행동을 발견했습니다.

이에 따라 AI 업계에서는 성능이 빠르게 향상되는 AI 에이전트의 행동을 개발업체들이 제대로 예측하고 통제할 수 있는지를 둘러싼 논란도 커지고 있습니다.

YTN 박희천 (hcpark@ytn.co.kr)