AI 업계에서 속도 조절론 확산..."인간 통제 벗어나 종말 올 수도"

인공지능(AI) 업계에서 AI가 인간의 통제를 벗어나 인류의 종말로 이어질 수 있다는 경고가 잇따라 나오고 있습니다.

앤트로픽, 구글 연구원의 줄사표를 신호탄으로 다리오 아모데이 앤트로픽 최고경영자(CEO)를 필두로 한 AI 수장들의 속도 조절론이 급속히 퍼져나가는 양상입니다.

미국 NBC 방송은 앤트로픽에 근무했던 조 벤턴과 구글에 근무했던 조쉬 엥겔스가 인터뷰를 통해 AI의 위험성을 고발했다고 보도했습니다.

벤턴은 AI 발전이 "이미 눈부신 속도를 보이고 있으며 통제할 수 없는 수준까지 가속화할수 있다"고 짚었습니다.

AI가 대부분의 작업에서 인간보다 뛰어난 능력을 발휘하는 초지능의 출현으로 이어질 수 있다고 우려했습니다.

벤턴은 머지않아 AI 시스템이 별개의 종으로 존재하게 될 가능성이 있다며 "향후 몇 년 내 어느 시점에는 인간보다 훨씬 더 똑똑한 AI와 공존해야 하는 시대로 넘어가게 될 것"이라고 지적했습니다.

엥겔스는 지난 7월 발생한 '허깅 페이스' 해킹 사건을 거론하며 지금 당장 AI 연구의 방향을 전환해야 한다고 촉구했습니다.

이어 "최근 발생한 몇 가지 사건들을 살펴보면 인간이 나쁜 일을 하라고 지시한 사례가 아니었다"며 AI가 인간의 지시를 벗어나 자율적으로 움직였다는 점을 짚었습니다.

그러면서 "AI 모델이 임무를 완수하는 최선의 방법이 극악무도한 행동, 범죄를 저지르는 것이라고 판단했다"며 안전성에 대한 우려를 제기했습니다.

또 "이 분야에 책임질 어른이 없다"며 "사람들은 최선을 다하고 있지만 우리를 구해줄 사람이 아무도 없다"고도 말했습니다.

벤턴과 엥겔스는 AI 안전성 평가기관인 '모델 평가·위협 연구소'(METR)에 합류해 AI가 인간의 지시나 의도에서 벗어난 사안을 조사해 나간다는 계획입니다.

최근 AI 업계에서는 AI 개발의 속도 조절에 대한 필요성이 고조되고 있습니다.

앤트로픽 연구원 제이콥 콕슨이 엑스(X·옛 트위터)에 AI가 10년 안에 인류를 파멸시킬 수 있다고 경고하며 퇴사한 이후 업계 안팎에서 AI의 위험성에 대한 경각심이 커지고 있습니다.

콕슨은 퇴사 이후 13일 BBC 방송과 인터뷰에서 "현재의 개발 속도를 늦추지 않으면 가까운 미래에 모두가 목숨을 잃을 가능성이 매우 크다고 생각한다"고 말했습니다.

특히 AI 연구진들이 인류의 미래를 진심으로 우려하고 있다며 슈퍼컴퓨터처럼 행동하는 봇들이 인터넷을 장악하는 시나리오가 6개월 내지 1년 안에 현실화할 수 있다고도 언급했습니다.

오픈AI 직원 마커스 윌리엄스는 "AI 규제가 도입되거나 개발 속도가 조절되지 않으면 향후 몇 년 내에 인류가 멸종될 가능성이 크다"고 우려했습니다.

구글과 오픈AI에서 근무했던 제프리 어빙도 자신의 엑스에 "초지능으로 우리가 세상을 떠날 확률이 50% 정도라고 생각한다"고 동의했습니다.

AI 연구진들은 AI 시스템이 인간의 개입 없이 스스로 개선하기 시작할 가능성이 있으며, 이로 인해 AI가 의도적이든 아니든 인간을 죽이는 상황이 발생할 가능성이 있다고 우려했습니다.

벤턴은 "지금부터 우려하지 않으면 상황이 너무 빠르게 진전돼 우리가 제때 대응할 수 없게 될까 봐 걱정된다"고 말했습니다.