"AI가 TV·냉장고 등 스마트가전 점거해 해킹 거점 삼을수도"

"AI가 TV·냉장고 등 스마트가전 점거해 해킹 거점 삼을수도"
앤트로픽 보고서 "연내 현실화 전망…중앙제어 없어 차단 어려워"



(샌프란시스코=연합뉴스) 권영전 특파원 = 미국 드라마 '실리콘밸리'에는 서버가 없는 회사 '피리 부는 사나이'(Pied Piper)가 다른 회사의 사물인터넷(IoT) 냉장고에 탑재된 메모리와 연산 자원을 몰래 활용해 분산형 인터넷망을 구현하는 내용이 나온다.
인공지능(AI)이 이와 유사한 방식으로 가정 내의 주요 스마트 가전을 점거해 해킹의 거점으로 삼을 수 있다는 연구 결과가 나왔다.
앤트로픽의 레드팀 연구진은 AI 모델이 대형 데이터센터의 고가 그래픽처리장치(GPU) 없이도 TV·냉장고·오븐·로봇청소기 등 저사양 가정용 IoT 기기에 자기 자신을 복제해 무단으로 점유할 수 있다는 보고서를 12일(현지시간) 공개했다.
이들 소형 IoT 기기는 메모리 용량이 작고 연산 속도도 느리지만, 보안에 취약하고 인터넷에 항상 연결돼 있다.
따라서 AI 모델이 이들 여러 기기를 하나의 네트워크로 묶어 동작하게 할 수 있다는 것이다.
실제로 연구진은 시중에서 개당 약 55달러(약 7만원)에 판매되는 안드로이드 운영체제(OS) 기반 셋톱박스 15대를 네트워크로 연결한 뒤 매개변수(파라미터) 260억 개 규모의 AI 모델 '젬마4-26B-A4B'를 분산 탑재해 초당 0.39토큰 속도로 안정적으로 작동시키는 데 성공했다.
지금까지 이들 IoT 기기의 사이버 공격에는 AI 기능이 없는 악성코드 등이 쓰여 기기별로 맞춰 해킹해야 했지만, AI 모델은 익숙하지 않은 기기의 특징을 스스로 파악할 수 있어 이러한 무단 점거가 더욱 빈발할 수 있다.
IoT 기기들을 활용한 AI의 사이버 공격은 제어할 수 있는 중앙 지점이 따로 없기 때문에 차단하기 매우 어려울 것으로 전망된다.
연구진은 올해 말이면 소형 AI 모델이 이와 같은 능력을 보유하게 될 것으로 전망했다.
연구진은 이와 같은 AI 자가복제를 '디지털 점균류'(digital slime mold)나 초파리에 비유하면서, 느린 복제자들이 더 공격적이고 빠른 복제자 등장의 전조가 될 것이라고 경고했다.
이를 막기 위해서는 인터넷서비스제공업체(ISP)의 이상 트래픽 감지와 격리 조치, 스마트 가전 제조사의 보안 강화 등이 시급하다고 지적했다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>