클로드 이어 챗GPT도 텍스트 '워터마크' 적용...EU에서 우선 적용

앤트로픽에 이어 오픈AI도 인공지능(AI)으로 생성한 글에 텍스트 식별 무늬(워터마크)를 적용합니다.

오픈AI는 유럽연합(EU) AI법의 '생성형 AI 투명성 의무' 규정에 대응해 AI로 생성한 글인지 식별하는 기술인 '텍스트그레인'을 도입한다고 밝혔습니다.

'텍스트그레인'은 AI 모델이 글을 생성할 때 단어를 선택하는 과정에서 미세한 통계적 신호를 삽입하는 기술입니다.

오픈AI는 이 기술이 적용되더라도 AI의 답변 품질이나 성능, 가독성에는 실질적 차이가 없다고 설명했습니다.

다만 문장이 짧거나, 수학 공식과 같이 단어 선택의 유연성이 적은 콘텐츠라면 생성 여부의 식별률이 떨어지는 등 한계가 있다고 덧붙였습니다.

생성된 글에서 단어 일부를 이용자가 유의어로 바꾸면 식별률이 크게 떨어지는 등 사후 편집의 영향을 받을 수도 있다고 부연했습니다.

예를 들어 400토큰 분량의 글에서 단어의 10분의 1을 유의어로 바꾸면 식별률은 92%에서 66%로, 4분의 1을 교체하면 17% 수준으로 급락한다는 겁니다.

이 기술은 향후 몇 주 내에 EU 지역 내 챗GPT·코덱스 결과물에 적용됩니다.

개발자용 응용 프로그램 인터페이스(API) 결과물에는 기본 설정으로는 비활성화 상태로 적용되지만, 각 기관의 필요에 따라 자율적으로 워터마크 기능을 켤 수 있습니다.

해당 식별 무늬를 탐지하는 도구는 접근 권한 신청을 받아 승인된 연구자와 전문 기관에만 우선 제공할 방침입니다.

앞서 앤트로픽도 유사한 방식의 AI 콘텐츠 식별 기능을 지난 8월 적용했습니다.

앤트로픽은 당시 이용자들이 클로드 유료 구독을 취소하겠다고 항의하는 등 반발이 커지자 EU 규제에 따른 의무 사항으로 다른 기업 AI 모델에도 적용될 것이라고 해명했습니다.

구글 제미나이에도 '신스ID-텍스트'라는 이름의 유사한 기능이 적용됐습니다.

YTN 유투권 (r2kwon@ytn.co.kr)