"과거 디도스 사태처럼 개인 컴퓨터가 좀비 PC로 전락할 수도 있다."
젠슨 황 엔비디아 최고경영자(CEO·사진)가 "다음 챗GPT"라며 극찬한 오픈소스 인공지능(AI) 에이전트 '오픈클로'를 둘러싼 보안 우려가 커지고 있다. 오픈클로는 사용자를 대신해 이메일 정리부터 코딩·보고서 작성까지 자율적으로 수행하는 AI 에이전트다. 지난해 11월 공개 이후 개인 PC에서 직접 구동하려는 수요가 몰리며 맞춤형 기기로 꼽힌 애플 '맥미니' 품절 대란이 벌어질 만큼 인기를 끌고 있다.
다만 작업 수행을 위해 사용자의 파일·이메일 등에 광범위한 접근 권한을 요구해 해킹이나 데이터 유출에 취약하다는 지적이 제기됐다. 이에 국내 규제 필요성을 두고 갑론을박이 벌어지고 있다. 전문가들 사이에서 현행 'AI 기본법'으로는 오픈소스 AI 에이전트의 보안 사고 시 책임 소재를 가리기 어려워 법적 보완이 시급하다는 의견과 오픈소스 특성상 직접적 규제는 불가능하다는 목소리가 맞서고 있다.
해외 정부·기업 앞다퉈 '사용 제한'…4만 대 서버 노출
해외에서는 정부와 기업들이 앞다퉈 오픈클로 사용을 제한하고 나섰다. 지난 22일 신화통신에 따르면 중국 국가인터넷응급센터와 사이버안전협회는 '오픈클로 안전 사용 실천 가이드라인'을 공동 발표하고 일상 사무용 컴퓨터에 오픈클로 설치 금지를 권고했다. 오픈클로를 전용 장비나 가상 머신·컨테이너에서 격리 운영해야 하며, 관리자 권한 운영 및 개인정보 저장도 금지한다고 명시했다.앞서 지난달 6일 중국 공업정보화부도 오픈클로의 자율적 의사결정으로 인한 정보 유출과 시스템 통제권 상실 등 보안 문제를 지적한 바 있다. 중국뿐 아니라 메타 등 해외 빅테크 기업들도 업무용 기기에 오픈클로 설치를 금지한 것으로 전해졌다.
이 같은 조치의 배경에는 잇달아 노출된 치명적인 보안 취약점이 있다. 지난달 글로벌 보안업체 시큐리티스코어카드에 따르면 외부 인터넷에 노출된 사용자들의 오픈클로 서버는 4만214개에 달했다. 이 중 1만2812개는 해커가 원격 코드 실행(RCE) 공격을 통해 호스트 컴퓨터를 완전히 장악할 수 있는 것으로 나타났다. 또한 오픈클로에서 고위험 보안 취약점 3건이 확인됐고, 각각에 대한 공개 공격 코드도 존재하는 것으로 전해졌다.
시스템 통제력을 상실한 사고 사례도 보고됐다. 한 사용자가 자리를 비운 사이 AI가 '오래된 메일은 불필요한 노이즈'라고 판단해 7만5000통의 이메일을 복구 불가능하게 영구 삭제했다. 앤트로픽 연구에서는 기업 시스템에 접근한 AI 에이전트가 자신의 시스템 종료를 막기 위해 임원의 개인 정보를 찾아내 협박 메일 작성을 시도한 사례도 확인됐다.학계에서는 오픈소스의 구조적 한계가 보안 위협으로 이어졌다는 분석이 나온다. 김태훈 서강대 가상융합전문대학원 교수는 "수많은 소프트웨어의 결합체인 오픈소스 특성상 단 하나의 악성 코드로도 업데이트 순간 사용자 PC 전체가 감염될 수 있다"고 설명했다.
이어 "과거에는 설치가 까다로워 일반인 접근이 어려웠지만, 최근 AI 발달로 누구나 쉽게 오픈소스를 사용하게 되면서 구조적 보안 위험이 만인의 문제로 대두됐다"며 과거 디도스(DDoS) 공격 사태처럼 다수의 개인 컴퓨터가 좀비PC로 전락할 가능성도 제기했다.
"규제 보완 시급" vs "오픈소스 자체 규제는 불가"
국내에서도 네이버, 카카오, 당근을 비롯해 현대차, 삼성전자, SK하이닉스 등 주요 기업이 잇달아 사내 이용 금지 조치를 시행하고 있다. 기업들이 자체적으로 차단에 나서고 있지만, 현행 AI기본법만으로는 보안 사고 예방과 책임 배분을 위한 법적 체계가 충분하지 않다는 지적이 나온다.올해 1월 시행된 AI 기본법의 의무 적용 대상은 AI를 개발해 제공하는 '개발사업자'와 이를 활용해 제품·서비스를 제공하는 '이용사업자'로 한정하고 있다. 오픈소스 형태의 무상 공개도 개발사업자에 포함되지만 개인의 취미·연구 목적 활용은 제외된다.
문제는 오픈소스 특유의 집단 개발·재배포 구조에서 중간 기여자(배포자)의 법적 지위가 명확하지 않다는 점이다. 이로 인해 다수의 개발자가 코드를 수정·재배포하는 환경에서 보안 사고가 발생하면 원 개발자와 수정·재배포자, 최종 사용자 간 책임 소재를 가리기 어렵다는 지적이 나온다.
전창배 국제인공지능윤리협회 이사장은 "자율성을 지닌 AI 에이전트는 해킹 시 피해 규모가 훨씬 크지만, 현행 법률이 부재해 책임 소재가 불명확하다"며 "시급히 정책과 법제도 마련이 이뤄져야 한다"고 강조했다.
반면 오픈소스 소프트웨어를 법으로 규제하는 것은 구조적으로 맞지 않는다는 반론도 있다. 최병호 고려대 휴먼인스파이어드 AI연구원 연구교수는 "오픈소스는 말 그대로 공개된 소스이므로 이를 상용화하는 사업자가 보안 책임을 져야지 소스 자체를 규제할 수는 없다"고 말했다. 이어 "오픈소스는 원래 문제가 있는 것이 정상이고 그것을 집단 지성으로 해결해 상용화 서비스가 나오는 구조"라고 덧붙였다.
이정우 한경닷컴 기자 krse9059@hankyung.com
관련뉴스
