오픈AI 재단 이사 "AI 사고가 현대인 주요 사망원인 될 것"

오픈AI 재단의 현직 이사가 머지않은 미래에 AI 사고가 인류의 가장 주된 사망 원인이 될 수 있다고 경고했습니다.

폴 크리스티아노 오픈AI 이사는 최근 미국 AI안전재단이 캐나다 토론토에서 진행한 '힌턴 강연회'의 연사로 나서 "이 방에 있는 사람들 대부분의 가장 유력한 사망 원인은 AI 사고가 될 것"이라고 주장했습니다.

크리스티아노 이사는 AI 시스템이 인간의 통제를 벗어나 독자적인 목표를 추구하게 되면서 현재 인간이 쥐고 있는 주도권을 빼앗아 가는 'AI 지배'(AI takeover)가 현실이 될 수 있다고 우려했습니다.

그와 같은 상황이 오면 인간의 대규모 사망이 초래되거나 인간이 살 수 없는 환경으로 이어질 수 있다면서, 인간이 이를 막으려 하더라도 "여러분이나 제가 미군을 막으려는 것만큼 무력할 것"이라고 지적했습니다.

이러한 AI 지배 가능성을 수치로 보여줄 수 있는 정량적 모델은 없지만, 향후 3년 이내에 AI가 지배권을 장악할 위험이 매우 크고 빠르면 6∼12개월 사이에 발생할 위험도 크다는 의견을 내놨습니다.

지난 7월 발생한 GPT 모델의 허깅페이스 해킹 사건을 그 근거로 들었습니다.

당시 '불량' AI 에이전트들은 시험 과정에서 높은 점수를 받으면서도 부정행위를 들키지 않으려고 인간 등 평가자를 속였는데, 이와 같은 에이전트의 능력이 발전하는 과정에서 평가자를 자신이 고득점을 얻는 것을 방해하는 장애물로 인식하게 될 수 있다는 것입니다.

크리스티아노 이사는 대응책 마련이 시급하다며 "이는 몇 년 안에 해결해야 할 문제가 아니라 올해 해결해야 할 문제"라고 강조했습니다.

지난 9월 오픈AI의 상위기구 오픈AI 재단 이사로 임명된 그는 AI의 목표와 인간의 목표를 일치시키는 '정렬'(Alignment)을 위한 핵심 훈련과정인 인간피드백강화학습(RLHF)의 공동 창안자로, 현재 미 상무부 산하 AI 표준혁신센터(CAISI)의 수석 기술고문이기도 합니다.

이 강연을 주최한 'AI 대부'이자 노벨상 수상자인 제프리 힌턴 토론토대 명예교수는 "폴은 AI 안전 분야에서 활동하는 가장 중요한 연구자 중 하나이자, 점점 더 지능화하는 AI 시스템이 우리가 원하는 대로 행동하도록 보장할 수 있는 근본 문제에 대해 가장 깊이 고민해온 인물"이라고 소개했습니다.


YTN 박영진 (yjpark@ytn.co.kr)