시각·청각 오류 잡아낸다...AI 환각 줄이는 기술 개발

[앵커]
인공지능 환각이란 사실과 다르거나 존재하지 않는 정보를 마치 진짜인 것처럼 그럴듯하게 답변하는 오류현상입니다.

국내 연구팀이 시각과 청각 등 감각 정보에 대한 환각 현상을 해결하기 위한 기술을 개발했습니다.

김은별 기자입니다.

[기자]
오리 모양의 표적이 총알에 맞아 쓰러지는 영상을 보고, AI 모델은 "오리들이 꽥꽥거리고 있다"고 설명합니다.

청각 정보보다 시각 정보를 우선시하면서 나타난 환각 현상 때문입니다.

국내 연구진이 이처럼 여러 감각 정보가 뒤섞이면서 발생하는 AI의 환각 현상을 줄이는 기술을 개발했습니다.

AI에게 영상을 분석할 때 청각과 시각 중 어떤 것이 더 중요한지 감각 정보의 가중치를 두도록 설계한 '추론 제어 기술'을 적용한 겁니다.

[정상윤 / KAIST 전기및전자공학부 연구원 : 어떤 감각을 먼저 쓰는 게 좋을까라고 생각한 다음에 그거에 맞게 감각을 사용한다. 어떤 센서를 지금 사용하는 게 가장 좋을지를 생각한 다음에 사용해서 그 임무를 수행하는 것이 아마 미래에 많이 기술에 도움이 되지 않을까 ….]

더 나아가 연구팀은 AI에게 일반적인 가시광선 사진뿐 아니라 특수센서로 촬영한 사진도 분석할 수 있도록 학습시켰습니다.

AI에 모범답안과 함께 자주 나오는 오답까지 학습시켜, 열화상 및 엑스레이 영상까지 제대로 분석할 수 있도록 설계했습니다.

이런 학습 방법으로 연구팀은 기존 60%에 미쳤던 센서의 정확도를 80%까지 향상할 수 있었다고 설명했습니다.

[유영준 / KAIST 전기및전자공학부 연구원 : 국방 감시·정찰 분야라든지 의료 영상 그리고 재난 구조 영역과 같은 영역에서 센서의 물리적인 의미를 실제로 AI 모델이 이해하고 조금 더 신뢰성 있는 그런 의사결정을 하는 데 활용될 수 있을 거라고 생각합니다.]

이번 기술은 국제 컴퓨터 비전 및 패턴인식 학술대회에서 발표됐습니다.

YTN 사이언스 김은별입니다.

영상취재 : 지준성

YTN 김은별 (kimeb0124@ytn.co.kr)