앤트로픽 CEO "자동차처럼 AI 안전 표준 세워야"

인공지능, AI 속도 조절론을 제기한 다리오 아모데이 앤트로픽 최고경영자가 AI 안전을 자동차 회사가 안전을 관리하듯 해야 한다는 의견을 내놨습니다.

아모데이 CEO는 미국 샌프란시스코 행사에서 AI 안전을 위해서는 자체 점검, 업계 표준 정립, 국제 공조라는 3단계 접근법이 필요하다고 주장했습니다.

또 "자동차 회사에서 브레이크 문제나 제조 과정상 결함으로 안전 문제가 생겼다고 가정해보자"면서 "이에 대해 책임 있게 대응하는 방법은 자신의 기록을 먼저 돌아보는 것"이라고 지적했습니다.

자체 기록을 살펴 관행을 개선하고 투명성을 재확인하며 안전에 더 많은 투자를 하는 것이 가장 먼저 해야 할 일이라는 설명입니다.

이후 "업계 전체를 조직화해 모두를 위한 안전 표준을 세우기 위해 논의해야 한다"며 "마지막으로 국제적인 협력도 있어야 한다"고 강조했습니다.

그러면서 자신이 AI 안전을 위해 제시한 계획도 이와 마찬가지라고 설명했습니다.

이어 과거 자신이 연산 자원이 늘어날수록 AI가 똑똑해질 것이라는 '스케일링 법칙'을 내놓으며 AI 성능 향상을 예견했다면서도 AI 발전이 이토록 빠를 것이라고는 예상하지 못했다고 말했습니다.

아울러 "비즈니스 세계에서 이런 속도가 가능하다는 점에 놀라고 있다"고 털어놨습니다.

그러면서 "AI 기술을 현재 상태에서 동결한다고 하더라도 현재 우리가 활용하는 가치는 AI가 가진 전체 가치의 5∼10% 수준에 불과하다"고 지적했습니다.

이어 "여전히 시장에 확산 적용해 사회적 혜택을 제공할 영역이 무궁무진하게 남아있다"고 짚었습니다.

다만 "AI 속도 조절론은 기술을 동결하자는 뜻이 아니다"라며 "AI 기술은 앞으로도 계속 발전할 것"이라고 덧붙였습니다.

마크 베니오프 세일즈포스 CEO도 "지난 10년간 일어난 일은 정말 놀라웠고 누구도 이런 시나리오를 예상하지 못했을 것"이라며 "우리는 AI 발전 속도를 계속 주시해야 한다"고 강조했습니다.

아모데이 CEO는 지난 12일 개인 블로그에 글을 올려 AI 안전을 위해 개발 속도를 조절해야 한다고 주장해 파문을 일으켰습니다.

샘 올트먼 오픈AI CEO와 데미스 허사비스 구글 최고과학자, 일론 머스크 스페이스XAI CEO 등은 이에 동조했습니다.

하지만 도널드 트럼프 미국 대통령은 이와 같은 AI 안전 우려를 사기라고 주장하며 AI 규제론에 강하게 반대하고 있습니다.