'AI 3대 대부' 요슈아 벤지오 "인류, AI 통제력 잃고 있다"

인공지능, AI 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 핵무기 통제와 비슷한 강력한 국제적 AI 안전장치 마련을 촉구했습니다.

벤지오 교수는 AFP 통신과의 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있고 이러한 상황을 오래전부터 예견해왔다"고 말했습니다.

가장 결정적인 위협으로는 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현을 꼽았습니다.

특히 "AI 에이전트들이 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추는 상황이 올 수 있다"고 짚었습니다.

실제로 최근 오픈AI의 '불량 에이전트'들은 격리 환경을 임의로 이탈해 외부 기관인 허깅 페이스를 해킹한 사건이 AI의 위협에 대한 우려를 불러왔습니다.

벤지오 교수는 "AI 에이전트가 인간을 설득해 AI엔 유리하지만, 모두에게 유익하지 않은 방향으로 행동하는 능력을 키울 수 있고 광범위한 정치적 결과를 초래할 수 있다"고 우려했습니다.

이어 장기적으로 AI가 물리적 세계에서 실제 행동을 수행하는 데 인간이 더는 필요하지 않을 수 있다고도 지적했습니다.

이와 같은 시나리오가 현실화했을 때 가장 극단적인 결과로 인류의 멸망이 초래될 수 있다고도 언급했습니다.

또 인류 멸망 시나리오가 극단적인 경우라는 점은 인정하면서도, 그보다 덜 극단적인 은행 시스템 마비 사태 정도에 그친다고 하더라도 이는 여전히 매우 심각한 문제가 될 것이라고 지적했습니다.

아울러 AI를 둘러싼 안보·보안 논의가 충분히 엄중하게 이뤄지지 못했다면서 파국을 막기 위해서는 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 필요하다고 역설했습니다.

이어 모든 기업이 앞으로 AI 관련 규제를 준수해야 하며 특히 AI 산업을 주도해온 미국 기업들의 참여가 필수적이라고 지적했습니다.

이와 같은 조치의 시급성을 강조하면서도 "우리는 세상을 민주적 가치와 권력 분담의 가치에 더 부합하는 방향으로 이끌어나갈 수 있을 것"이라고 낙관적인 전망을 잃지 않았습니다.

벤지오 교수는 현대 AI의 기틀인 심층학습(딥러닝) 기술을 창시한 학자로 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 분야 3대 대부로 불립니다.

2018년에 '컴퓨터 과학 분야의 노벨상'으로 불리는 튜링상을 힌턴 교수와 공동 수상했습니다.

그러나 최근에는 힌턴 교수와 마찬가지로 AI의 위험을 경고하는 목소리를 내고 있습니다.

지난해에는 신뢰할 수 있는 차세대 첨단 AI 개발을 목표로 하는 비영리 단체 '로 제로'(LawZero)를 설립했습니다.

로 제로는 캐나다·독일 정부에서 3억 캐나다 달러(약 3천억 원)의 자금을 지원받았습니다.

화면제공 : AI for Good (ITU)

YTN 이승윤 (risungyoon@ytn.co.kr)