인공지능(AI) 에이전트가 스마트TV와 오븐 등 가정용 기기를 스스로 감염시키며 확산하는 이른바 ‘AI 웜’이 새로운 사이버 보안 위협으로 떠오를 수 있다는 경고가 나왔다.
13일(현지시간) 파이낸셜타임스(FT)에 따르면 앤트로픽은 전날 공개한 연구 보고서에서 “AI 에이전트가 수개월 안에 일상적인 가정용 기기를 넘나들며 스스로 복제할 수 있는 수준에 이를 가능성이 있다”고 밝혔다. 컴퓨터 웜처럼 AI 에이전트도 인터넷에 연결된 기기를 타고 퍼질 수 있다는 것이다. 웜은 사람의 개입 없이 한 기기에서 다른 기기로 자동 전파될 수 있는 악성 소프트웨어다.
앤트로픽은 보고서에서 “AI 웜이 출현할 조짐이 나타나고 있다”며 보안이 취약한 기기를 따라 서서히 번지는 AI 웜의 움직임을 ‘디지털 점균류’에 비유했다. AI 성능이 현재 속도로 향상될 경우 스스로 확산하는 AI 에이전트 네트워크가 형성돼 통제가 어려워질 수 있다는 설명이다.
특히 사물인터넷(IoT) 기기가 주요 공격 대상이 될 수 있다고 봤다. 최근 10년간 조명과 온도조절기, 보안 시스템 등을 제어하는 가정용 IoT 기기가 급속히 늘었지만 상당수 제품은 보안 수준이 낮다. 저가 하드웨어 업체가 만든 제품이 많고, 제조사가 폐업해 보안 업데이트가 끊긴 경우도 적지 않기 때문이다.
앤트로픽은 AI 칩이 내장된 보안 카메라와 스마트 냉장고, 로봇청소기 등을 ‘자율형 웜’의 잠재적 표적으로 꼽았다. 해커들이 이미 AI의 코딩 능력을 활용해 공격 속도를 높이고 공격 방식을 정교화하고 있는 만큼 보안이 취약한 기기는 AI 기반 공격의 확산 통로가 될 수 있다.
컴퓨터 웜은 복제 및 확산 속도가 빨라 오래전부터 해커들의 악성코드 유포 수단으로 활용돼왔다. 여기에 자율적으로 판단하고 행동하는 AI 에이전트가 결합하면 기존 웜보다 더 광범위한 공격이 가능해질 수 있다는 게 앤트로픽의 우려다.
앤트로픽은 “앞으로는 인간의 통제를 받지 않는 기기를 포함해 각종 하드웨어에서 AI 에이전트가 작동하는 환경이 펼쳐질 것”이라고 경고했다.
이어 “아직 완전히 통제에서 벗어나 스스로 복제하는 AI가 등장한 것은 아니지만, AI 에이전트가 복제 과정의 개별 단계를 수행하는 능력은 점점 향상되고 있다”며 “복제형 AI가 확산하기 어렵도록 시스템의 보안을 강화하는 한편, 이들이 일상적으로 존재하는 세상에도 대비해야 한다”고 강조했다.
한명현 기자 wise@hankyung.com
관련뉴스
