세계적인 인공지능(AI) 기업 앤트로픽이 AI 기술 발전 속도에 맞춘 강력한 정부 규제와 일자리 대책 마련을 촉구하고 나섰습니다.
블룸버그통신과 로이터통신 등에 따르면 10일(현지시간) 앤트로픽은 성명을 통해 미국 의회가 재앙적 수준의 AI 위험을 관리할 수 있는 연방법을 마련하지 않는 한, 주정부의 AI 규제를 제한해서는 안 된다고 밝혔습니다.
앤트로픽은 최상위 AI 모델에 대한 독립적인 안전성 검증을 의무화하고 AI 발전에 따른 고용 충격에 대비한 정책도 마련해야 한다고 주장했습니다.
다리오 아모데이 앤트로픽 최고경영자(CEO) 역시 개인 블로그를 통해 정부가 위험성이 높은 AI 모델의 배포를 차단하거나 제한할 수 있는 권한을 가져야 한다고 강조했습니다.
아모데이 CEO는 "AI모델은 사이버공격, 생화학무기 개발 등 위험을 평가할 수 있는 제3기관을 통해 테스트를 거쳐야 한다"며 "해당 AI모델이 '용납할 수 없는 위험을 초래하는 것'으로 판단된다면 정부가 배포를 차단하거나 제한할 수 있는 권한을 가져야 한다"고 적었습니다.
특히 그는 "AI 발전속도가 기하급수적으로 빨라졌다. 이런 속도가 1~2년만 지속된다면 '강력한 AI' 또는 '데이터센터에 모인 천재들의 나라'로 부르는 시대가 도래할 가능성이 높다"면서 이 발전속도를 따라가지 못하는 관련정책과 규제의 필요성을 강조했습니다.
그는 AI를 현대 경제에 필수적인 기술로 평가하면서도 "수많은 사람의 목숨을 잃게 만들 수도 있는 기술"이라고 지적했습니다.
특히 군사 분야에서 AI를 활용할 경우 반드시 인간의 최종 통제가 필요하다고 강조했습니다.
아울러 AI 확산으로 인한 일자리 감소 가능성에 대비해 고용 촉진 인센티브와 보편적 기본소득 같은 사회안전망 논의도 필요하다고 주장했습니다.
또한 아모데이 CEO는 AI가 과거 어떤 기술보다 노동시장에 큰 혼란을 가져올 수 있으며 장기적인 일자리 대체 현상은 바람직하지도, 안전하지도 않다고 경고했습니다.
한편 도널드 트럼프 미국 대통령은 지난 2일 AI 기업들이 신규 AI 모델을 출시하기 전 최대 30일간 정부의 보안 검증을 받도록 하는 행정명령에 서명했습니다.
AI 규제에 부정적이었던 트럼프 대통령은 최근 고성능 AI 모델 등장 이후 해킹과 사이버 공격 우려가 커지면서 규제 필요성을 인정하는 방향으로 입장을 바꾼 것으로 알려졌습니다.
앤트로픽은 최근 기업가치 9650억달러를 인정받으며 8520억달러로 평가된 오픈AI를 처음으로 추월해 업계의 주목을 받고 있습니다.
오디오ㅣAI앵커
제작ㅣ이 선
출처ㅣX@AnthropicAI
#지금이뉴스
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]