자폐를 '이해'하는 AI...금융·법률에도 활용

AI의 충격적 첫 등장…알파고의 수, 설명은 불가능
'감사' 기법 도입…'믿을 수 있는 AI' 검증
뇌 특정 부위를 가상으로 삭제…AI 작동 방식 검증

[앵커]
국내 연구진이 자폐 진단 AI들의 허점을 탐지했습니다.

자폐 연구에 사용된 방식은 금융이나 법률과 같은 다른 분야에서도 활용할 수 있습니다.

장아영 기자입니다.

[기자]
인공지능의 충격적 데뷔전이었던 10년 전 바둑 대회.

알파고는 이세돌 9단을 꺾었지만, 왜 그 수를 뒀는지는 개발자들도 설명하지 못했습니다.

[이세돌 / 프로 바둑 기사 (지난 2016년) : (알파고가) 바둑의 아름다움, 인간의 아름다움을 컴퓨터가 이해하고 두는 것이 아니기 때문에….]

뛰어난 답을 내놓지만, 그 과정이 미궁이란 점은 생명을 다루는 의료 분야에선 큰 한계입니다.

'믿을 수 있는 AI'를 만들기 위해 국내 연구팀이 '감사' 기법을 도입했습니다.

[한경림 / KIST 뇌과학연구소 책임연구원 : 이때 '감사'라는 것이 사실은 '회계 감사' '경영 감사' 같은, 면밀하게 세밀하게 검토하고 한다는 그런 의미의 감사랑 거의 비슷한 의미입니다.]

뇌의 특정 부위를 하나씩 가상으로 지워보면서 AI가 그 부위를 얼마나 중요하게 반영하는지 거꾸로 검증하는 방식입니다.

[한소연 / 멜버른대학교 컴퓨터공학부 부교수 : 잘 작동한 것처럼 보이는 대규모 학습 데이터를 사용해서 학습한 의료 AI였는데 현미경처럼 이렇게 들여다보니까 그게 뇌의 중요한 구조들을 항상 반영하게끔 되어 있지 않은 거예요.]

AI가 어떤 환자를 왜 자폐로 판정했는지 설명할 수 있다면, 의사도 환자를 치료할 때 그 자료를 믿고 활용할 수 있습니다.

나아가 겉으로 드러나는 자폐 증상이 아니라, AI가 분석한 뇌 구조의 특성으로 진단하고 치료할 수 있게 됩니다.

[김붕년 / 서울대학교 소아청소년 정신과 교수 : 새롭게 발견한 건 기여도를 알게 된 거거든요. (뇌의 특정 부분 연결 저하가) 자폐에 주는 영향…. 시스템으로 이게 완성이 된다면 제 생각에는 어티즘(자폐)의 진단 체계를 새롭게 바꿀 수도 있는….]

이런 AI 검증 방식은 의료뿐 아니라 금융이나 법률처럼 판단 근거가 중요한 다른 영역으로 확장할 수 있습니다.

[한소연 / 멜버른대학교 컴퓨터공학부 부교수 : 법학 전문가나 금융 전문가를 대체하겠다는 것이 아니라, 디시전 메이킹 AI가 아니라 디시전 서포트 AI라고 생각하시면 될 것 같습니다.]

개인 맞춤형 자폐 AI 플랫폼을 개발 중인 연구진은, 장기적으로 여러 AI가 역할을 나눠 서로의 판단과 근거를 다시 검증하는 의료 AI 에이전트 시스템도 가능할 것으로 전망했습니다.

YTN 장아영입니다.

영상기자 : 이수연

YTN 장아영 (jay24@ytn.co.kr)