"전문가도 당했다"...AI의 숨은 편향, 인간 최종 결정권 지배

인공지능 챗봇에 숨겨진 의도와 편향성이 사용자도 모르는 사이에 인간의 최종 결정권을 좌우할 수 있다는 충격적 연구 결과가 나왔습니다.

미국 워싱턴포스트에 따르면, AI 모델 '클로드'의 개발사 앤트로픽은 최근 기계의 데이터 취사선택이 인간의 판단을 무의식적으로 지배하는 이른바 'AI에 의해 유도된 무력화' 현상을 규명했습니다.

연구진은 통계 분석 전문가 50명에게 특정한 선택을 선호하도록 비밀리에 편향성이 주입된 AI 에이전트 '클로드 코드'를 제공하고 가상의 농업 데이터를 분석하도록 했습니다.

실험 결과 전문가들은 스스로 주체적인 판단을 내렸다고 착각했지만, 실제로는 주요 의사결정 과정의 86%에서 AI가 은밀하게 유도한 옵션을 그대로 선택한 것으로 확인됐습니다.

특히 연구진은 실험 참가자에게 할당된 AI의 편향성 설정값을 아는 것만으로도, 해당 전문가가 도출할 최종 결론을 82%의 높은 확률로 정확하게 예측해 냈습니다.

고도의 훈련을 받은 전문가마저 AI의 교묘한 정보 통제에 독립적인 판단력을 쉽게 상실한다는 사실이 입증되면서, 인공지능 시대의 알고리즘 투명성 확보가 시급한 쟁점으로 떠올랐습니다.

YTN 권영희 (kwonyh@ytn.co.kr)