중국 AI '증류 공격' 표적, 클로드에서 오픈AI '아스트라'로 이동

오픈AI가 최근 출시한 최첨단 인공지능 모델 'GPT-6 아스트라'가 중국 주요 AI 기업들의 이른바 '증류 공격' 집중 표적이 되고 있다고 현지 IT 전문매체가 보도했습니다.

증류 공격이란 경쟁사가 자체 AI 모델 개발에 드는 막대한 비용과 시간을 아끼기 위해 수만 개의 가짜 계정으로 특정 AI에 조직적인 질문을 던져 추론 패턴을 역설계해 훔쳐 가는 수법입니다.

관련 소식통에 따르면 중국의 문샷AI와 딥시크는 최근 자사의 신형 AI 모델을 연이어 출시하는 과정에서 집중적으로 오픈AI의 '아스트라'를 증류해 기술적 이득을 본 것으로 전해졌습니다.

당초 중국 기업들은 앤트로픽의 '클로드' 모델을 주로 베껴왔으나, 최근 앤트로픽이 추론 과정 접근을 차단하는 등 보안을 대폭 강화하자 상대적으로 공격하기 쉬운 오픈AI 쪽으로 타깃을 바꾼 것으로 보입니다.

현재 오픈AI와 앤트로픽 등 주요 기술 선도 기업들은 외부 기업이 자사 모델을 무단으로 증류하는 행위를 엄격히 금지하고 있으며 중국 내에서는 아예 서비스 자체를 제공하지 않고 있습니다.

앤트로픽이 증류와 연관된 악성 계정을 영구 차단해 데이터 유출 시도를 최대 100분의 1 수준으로 대폭 줄인 가운데 타깃이 된 오픈AI 측도 이번 사태를 매우 심각하게 받아들이며 해결책을 마련 중이라고 밝혔습니다.