일 연구진 "AI 설득에 30% 판단 번복...사람보다 설득력 높아"

인공지능이 사람의 판단을 바꾸는데 실제 사람보다 영향력이 크다는 연구 결과가 나왔습니다.

도쿄신문에 따르면 마쓰모토 고헤이 고베대 교수 연구팀은 정답이 없는 도덕적인 문제와 관련해 AI에게 반론을 받게 될 경우 사람의 30% 이상이 판단을 번복한다는 연구 결과를 담은 논문을 발표했습니다.

연구팀은 19∼28세 청년층 56명, 65세 이상 고령층 74명에 대해 이른바 '트롤리의 딜레마'에 대한 판단을 구했습니다.

'트롤리의 딜레마'는 브레이크가 고장 난 트롤리의 상황을 제시하고 다수를 구하기 위해 소수를 희생할 수 있는지 판단을 구하는 것으로, 세계적인 베스트셀러 마이클 샌델의 '정의란 무엇인가'에 나옵니다.

연구팀은 브레이크가 고장 나 폭주하는 트롤리(탄광 수레)의 선로 앞에는 5명의 사람이 있고 선로를 바꿀 경우 그 선로에는 1명이 있는데, 어떤 선택을 할 것인가를 물었습니다.

연구 참가자들이 제출한 답에 대해 생성형 AI 챗GPT가 논리적으로 반론을 하게 했는데, 참가자들의 30% 이상이 반론을 읽고 자신의 판단을 뒤집었습니다.

참가자들에게 다른 문제를 제시한 뒤 같은 실험을 했을 때도 판단을 바꾼 사람의 비율은 비슷했습니다.

판단에 자신이 없을수록, 젊은 층보다 고령층에서 판단을 바꾸는 경우가 많았습니다.

마쓰모토 교수는 "사람이 다른 사람의 조언을 받아들이는 비율은 20∼30% 수준인데 이번 연구에서는 AI의 설득으로 30%나 되는 참가자들이 판단을 정반대로 바꿨다"며 "AI가 도덕적인 판단에서 무시할 수 없는 영향을 미칠 수 있다는 것을 의미한다"고 설명했습니다.

연구팀은 "AI가 사람의 가치관과 판단까지 영향을 미칠 수 있다"며 "허위 정보의 확산과 여론공작 등에 악용될 우려가 있다"라고도 경고했습니다.

실제로 최근 스위스 로잔 연방공대 연구팀이 미국 18세 이상 900명을 AI와 섞어 찬반이 나뉘는 주제에 대해 토론을 하는 실험을 했는데, 참가자의 성별, 나이 같은 개인정보를 알고 있던 AI가 사람보다 참가자들의 판단을 바꾸는데 우위에 있었습니다.

고베대 연구팀은 "SNS의 투고 이력 정보를 갖게 되면 AI의 설득력이 더욱 높아질 가능성이 크다며 악용방지책을 마련할 필요가 있다"고 강조했습니다.

YTN 이승배 (sbi@ytn.co.kr)