"AI가 TV·냉장고 등 스마트 가전 점거해 해킹 거점 삼을 수도"

미국 드라마 [실리콘밸리]에는 서버가 없는 회사 '피리 부는 사나이'(Pied Piper)가 다른 회사의 사물인터넷(IoT) 냉장고에 탑재된 메모리와 연산 자원을 몰래 활용해 분산형 인터넷망을 구현하는 내용이 나오는데, 인공지능(AI)이 이와 유사한 방식으로 가정 내의 주요 스마트 가전을 점거해 해킹의 거점으로 삼을 수 있다는 연구 결과가 나왔습니다.

앤트로픽의 레드팀 연구진은 AI 모델이 대형 데이터센터의 고가 그래픽처리장치(GPU) 없이도 TV·냉장고·오븐·로봇청소기 등 저 사양 가정용 IoT 기기에 자기 자신을 복제해 무단으로 점유할 수 있다는 보고서를 공개했습니다.

이 소형 IoT 기기들은 메모리 용량이 적고 연산 속도도 느리지만, 보안에 취약하고 인터넷에 항상 연결돼 있어 AI 모델이 이 기기들을 하나의 네트워크로 묶어 동작하게 할 수 있다는 겁니다.

실제로 연구진은 시중에서 개당 약 55달러(약 7만 원)에 판매되는 안드로이드 운영체제(OS) 기반 셋톱박스 15대를 네트워크로 연결한 뒤 매개변수(파라미터) 260억 개 규모의 AI 모델 '젬마4-26B-A4B'를 분산 탑재해 초당 0.39토큰 속도로 안정적으로 작동시키는 데 성공했습니다.

지금까지 이 IoT 기기들의 사이버 공격에는 AI 기능이 없는 악성 코드 등이 쓰여 기기별로 맞춰 해킹해야 했지만, AI 모델은 익숙하지 않은 기기의 특징을 스스로 파악할 수 있어 이러한 무단 점거가 더욱 빈발할 수 있습니다.

IoT 기기들을 활용한 AI의 사이버 공격은 제어할 수 있는 중앙 지점이 따로 없어서 차단하기 매우 어려울 것으로 전망됩니다.

연구진은 올해 말이면 소형 AI 모델이 이와 같은 능력을 보유하게 될 거로 전망했습니다.

연구진은 이와 같은 AI 자가복제를 '디지털 점균류'(digital slime mold)나 초파리에 비유하면서, 느린 복제자들이 더 공격적이고 빠른 복제자 등장의 전조가 될 거라고 경고했습니다.

이를 막기 위해서는 인터넷서비스제공업체(ISP)의 이상 트래픽 감지와 격리 조치, 스마트 가전 제조사의 보안 강화 등이 시급하다고 지적했습니다.