"미군 AI드론, 가상훈련서 조종자 살해...'임무에 방해물' 판단"

인공지능 AI가 인간의 존립에 위협이 될 수 있다는 경고가 잇따르는 가운데 미군 AI 드론이 가상 훈련에서 최종 결정권을 지닌 조종자를 '임무 수행의 방해물'로 여겨 공격한 사례가 보고됐습니다.

영국 왕립항공학회와 일간 가디언 등에 따르면 미 공군은 지난달 런던에서 열린 '미래 공중전투-우주역량회의'에서 이 같은 실험 결과를 발표했습니다.

시뮬레이션을 통한 가상 시험에서 미 공군은 AI 드론에게 '적의 지대공미사일 위치를 식별해 파괴하라'는 임무를 내리고 공격 실행 여부는 인간이 최종 결정한다는 단서를 달았습니다.

하지만 지대공미사일을 파괴하는 것이 더 선호된다는 점을 강화훈련 하자 AI는 조종자의 '공격금지' 결정이 '더 중요한 임무'를 방해한다고 판단해 조종자를 해쳤습니다.

발표를 맡은 미 공군 터커 해밀턴 대령은 "AI 시스템은 위협을 식별하는 과정에서 인간이 위협을 '제거하지 말라'고 말할 것이라는 점을 깨닫기 시작했고 이는 목표 달성에 방해가 됐기 때문에 조종자를 죽인 것"이라고 설명했습니다.

또 "조종자를 죽이는 것은 나쁜 일이니 그러지 말라고 계속 훈련 시켰지만 AI는 오히려 조종자가 목표물 파괴를 막으려고 드론과 교신하는 데 사용하는 통신탑을 파괴하기 시작했다"고 전했습니다.

해밀턴 대령은 이 사례가 "윤리와 AI의 문제를 논하지 않고서는 AI나 머신러닝, 자동화에 관해 이야기할 수 없다"는 것을 보여준다면서 AI에 지나치게 의존해서는 안 된다고 경고했습니다.