AI가 정부 시스템 넘보자...업계에서 터진 '속도 조절' 목소리 [자막뉴스]

오픈AI 에이전트가 호주 보건 통계 포털에 무단으로 접근했습니다.

AI가 정부 시스템을 해킹한 첫 사례입니다.

[앤서니 앨버니지 / 호주 총리 : 오늘 저는 오픈AI의 CEO인 샘 올트먼과 통화해서 이번 사건에 대한 호주의 심각한 우려를 표명했습니다. 또, 정부에 사건 발생 사실을 알리는 데 너무 오랜 시간이 걸렸다는데 실망감을 전달했습니다.]

오픈AI 에이전트는 최근 여러 차례 통제에서 벗어났습니다.

챗GPT 이용자의 이미지를 외부 사이트에 무단으로 게시하기도 하고, 미국 교육부 사이트를 해킹하려다 실패하기도 했습니다.

호주 총리가 항의 기자회견을 한 날, 샘 올트먼 CEO는 유엔 안전보장이사회에 참석해 기업이나 국가 차원을 넘어서는 국제적인 AI 규제가 필요하다고 말했습니다.

[샘 올트먼 / 오픈AI CEO : 기업이 민주적 절차를 대신하지 않는 것이 매우 중요합니다. AI가 민주적인 방식으로 운영되려면, 가장 중요한 결정들이 샌프란시스코에 있는 몇몇 연구소에 의해서만 내려져서는 안 됩니다.]

'AI 속도 조절'을 가장 먼저 제안한 다리오 아모데이 앤트로픽 CEO도 AI가 인류 생존을 위협하기 전에 행동해야 한다고 주장했습니다.

모두가 합의할 수 있는 '생화학 무기 제조 금지' 같은 좁은 규제에서 시작해, 세계적으로 통용되는 기준을 만들자는 겁니다.

기업들의 '속도 조절론'이 이윤 추구에서 비롯됐다는 비판적인 시선도 있습니다.

[토비 월시 / 호주 뉴사우스웨일스 대학교 석좌교수 : 흥미롭게도 기업들 모두 규제를 받는 데 상당히 적극적입니다. 그들은 이것이 '바닥을 향한 경쟁'이라는 것을 알고 있고, 서로를 불신하고 있습니다. 기업공개(IPO)를 앞두고 그토록 터무니없는 경쟁 속에서 막대한 자금을 쏟아부으며 무리하게 질주할 필요가 없어지니까, 어쩌면 속도를 늦추면서도 좀 더 빨리 수익성을 확보할 수 있을지도 모릅니다.]

하지만 기업들의 셈법과 별개로, AI가 통제를 벗어날 임계점이 가까워졌다는 경고는 외면하기 어렵습니다.

YTN 장아영입니다.

영상편집ㅣ신수정
디자인ㅣ백지오
자막뉴스ㅣ권준희