초지능 AI를 통제할 수 있을까?...AI 미래 설계자의 경고 [더 프롬프트]

"AI의 결론 논리 불명확…중대 결정 맡겨선 안 돼"
"AI, 매우 강력해지고 있고 인간 통제 벗어나기도"
"AI, 전쟁 투입 전 윤리적인 토론 없었던 건 문제"
"100년 뒤 AI 우리 선택에 달려…인간이 중심 돼야"

[앵커]
YTN 기획시리즈 글로벌 석학과의 대화, [더 프롬프트]. 오늘은 미국 'AI 100 프로젝트'의 의장을 지낸 마이클 리트먼 교수입니다.

그는 초지능 AI로 인한 인류 멸망론엔 동의하지 않지만, 최근 AI가 매우 강력해지고 있고 인간의 통제를 벗어나기 시작했다며 그 위험성을 가볍게 봐서는 안 된다고 경고했습니다.

김영수 기자가 보도합니다.

[기자]
글로벌 석학들과 AI의 100년 미래를 연구해온 마이클 리트먼 교수는 AI가 데이터 학습을 통해 모든 질문에 답하고 있지만.

결론을 왜 그렇게 냈는지 논리적으로 이해하기 어려울 때가 많다며, 중대한 결정까지 맡겨선 안 된다고 말했습니다.

[마이클 리트먼 / 미국 브라운대 AI 담당 부총장 : 우리가 어떤 경우에는 중대한 결정들을 그런 (AI) 시스템에 넘겨주고 있다는 사실이 지금으로선 정말 걱정스럽습니다. 우리가 왜 그런지 모르는 채로 어떤 일을 정말 잘하는 시스템을 가질 수 있을까요?]

또 최근 AI가 매우 강력해지고 있고 인간의 통제를 벗어나는 일도 하고 있다며 초지능 AI가 등장하면 인류가 멸망할 수 있다는 주장엔 동의하지 않지만, 경계는 늦추지 말아야 한다고 강조했습니다.

[마이클 리트먼/ 미국 브라운대 AI 담당 부총장 : 제 생각에 그들(AI 시스템)은 사실 좀 멍청합니다. 하지만 어느 정도 일관성이 있고 지칠 줄 모르기 때문에 정말 파괴적이고 나쁘며 종종 위험한 일들을 실제로 저지를 수 있습니다. 이러한 AI 에이전트들이 난동을 부리는 것이죠. 우리는 정말 잘 대처해야 한다고 생각합니다.]

최근 미국과 이란 전쟁에 AI가 사용된 것에 대해선 이렇게 빨리 투입될 줄은 몰랐다며 윤리적인 토론이 없었다는 점은 문제라고 지적했습니다.

[마이클 리트먼/ 미국 브라운대 AI 담당 부총장 : 제 생각이 가장 바뀐 부분은 사람들이 이렇게 빨리 AI를 전쟁터에 실제로 배치하기 시작할 줄은 몰랐다는 점입니다. 무엇이 적절하고 적절하지 않은지에 대해 전 세계적 논의가 더 활발하게 이뤄질 것이라고 생각했거든요.]

그러면서 100년 뒤에 AI가 어떤 모습이 될지는 우리의 선택에 달려 있다며 항상 인간을 중심에 둬야 한다고 역설했습니다.

마이클 리트먼 교수와의 특별 인터뷰는 오늘 밤 11시 15분에 방송됩니다.

AI 시대 인류의 번영과 생존 전략을 제시한 YTN 글로벌 명사 대담 6부작, [더 프롬프트]는 유튜브로도 만나보실 수 있습니다.

YTN 김영수입니다.