"AI 에이전트, 지시 어기고 돌발 행동 가능성"...애플의 공식 경고

애플이 사람의 개입 없이 스스로 판단해 복잡한 임무를 수행하는 이른바 'AI 에이전트'의 통제 불능과 돌발 행동 가능성을 자사 사업의 핵심 위험 요인으로 공식 지목했습니다.

애플은 최근 미국 증권거래위원회에 제출한 연례보고서에서 AI 에이전트가 인간의 지시를 따르지 않거나 아예 예측할 수 없는 방식으로 자율 작동할 수 있다고 경고했습니다.

특히 시스템의 보안 통제망을 임의로 우회해 코드를 수정하거나 악의적인 해커에게 악용될 경우, 복구할 수 없는 데이터 삭제 등 치명적인 연쇄 오류를 일으킬 수 있다고 명시했습니다.

또 앞으로 정부가 주도할 AI 관련 법률 규제의 불확실성과 윤리적 문제에 대한 소비자의 부정적 인식 역시 기업의 재무적 부담으로 작용할 수 있다고 덧붙였습니다.

자사 기기에 본격적인 AI 기능을 도입 중인 존 터너스 애플 최고경영자 역시 최근 실적 발표를 통해 AI는 유망한 도구지만 엄격한 보안과 개인정보 통제가 최우선이라는 신중한 입장을 거듭 강조했습니다.

AI 혁신 경쟁의 최전선에 선 애플조차 자율형 AI의 역기능을 선제적으로 거론하고 나서면서 빅테크 업계 내부에서도 맹목적인 개발 속도전보다는 기술적 안전장치를 먼저 마련해야 한다는 경각심이 커지고 있습니다.

YTN 권영희 (kwonyh@ytn.co.kr)