“대한민국의 모든 정보가 털렸다고 가정하고 원점에서 ‘소버린 보안’을 재설계해야 합니다.” 학계와 기업에서 국내 최고 보안 전문가로 꼽히는 2인의 공통된 지적이다. 이병영 서울대 전기정보공학부 교수와 신종호 LG전자 소프트웨어연구센터 연구위원은 “정보 유출은 특정 대기업만의 문제가 아니다”며 “사용자가 잠든 사이에 에이전트AI들끼리 소통하게 될 가까운 미래엔 보안 문제의 심각성이 더 커질 것”이라고 했다. 이들은 “독자 파운데이션모델을 만드는 것만큼 더 중요한 건 대한민국의 데이터를 외부 공격에서 지켜낼 소버린 시큐리티(보안)를 확보하는 것”이라고 말했다.
▷해커를 잡는 경우를 보지 못했다.
신 위원=범행에 사용한 옷이나 도구 같은 증거를 하나도 남기지 않고 범죄 현장을 싹 정리한 살인범을 생각해보라. 전문 해커 집단은 이 같은 일을 매일 한다고 보면 된다.
▷검거가 아니라 막는 것조차 버거울 것 같다.
이 교수=막는 쪽에선 해킹 기술 발전 속도를 따라가기 어렵다. 최근 인공지능(AI)산업이 성장하면서 ‘공격 표면’이 기하급수적으로 늘고 있다. 방어자는 모든 구멍을 막아야 하지만 공격자는 한 번 뚫기만 하면 되는 ‘디펜더스 딜레마’가 커진다.
▷해커들이 무엇을 노리는지 궁금하다.
이 교수=해킹도 투자수익률(ROI) 게임이다. 보안을 뚫고 원하는 정보를 얻으려면 그만큼 돈을 들여야 한다. 스마트폰도 몇백억원을 들이면 뚫을 수 있다. 기술적으로는 가능하지만, 투자 대비 수익이 나지 않기 때문에 안 하는 것일 뿐이다.
▷개인 피해는 많지 않은 것 같은데.
이 교수=에이전트AI 시대엔 얘기가 달라진다. 지금이야 많은 정보가 유출돼도 큰 피해는 발생하지 않고 있지만, AI가 사용자 대신 각종 일상을 대신해주는 에이전트AI 시대가 찾아오면 프롬프트 인젝션 같은 공격을 통해 에이전트가 잘못된 지시를 따르도록 유도할 수 있다.
▷통제 불능이 된다는 뜻인가.
신 위원=기존 대규모언어모델(LLM)은 입력-출력 중심이라 사람들이 보안 위협을 과소평가했다. 그런데 에이전트가 개인의 히스토리(이력)를 기반으로 데이터를 다루게 되면 프라이버시가 훨씬 중요해진다. 게다가 여러 에이전트가 상호작용하면서 통제가 더 어려워지고 있다.
▷막을 방법을 찾아야 하지 않나.
이 교수=기술적으로는 가능한데 사용자가 불편해질 수밖에 없다. AI가 특정 행위를 할 때마다 사용자 허락을 받도록 하는 게 가장 효과적일 텐데 그렇게 하면 AI라고 하기 어렵다. 게다가 매번 사용자에게 판단을 전가하는 방식으로는 보안 효과도 크지 않다.
▷빅테크들은 어떤가.
신 위원=최근 빅테크가 AI 보안 기업을 많이 인수하고, 인력도 대규모로 충원하고 있다. 마이크로소프트(MS)만 해도 개발자는 대량 해고하면서도 ‘책임 있는 AI’(responsible AI) 인력은 400명 수준을 유지한다.
▷한국은 보안 취약국이라는 평가가 있다.
이 교수=사실상 모든 곳에서 정보가 털렸다고 가정하고 원칙을 다시 만들어야 한다. 정부만 해도 최저가 입찰제 때문에 보안에 생긴 구멍이 너무 많다.
▷그 밖의 산업 구조에 문제가 있는지 궁금하다.
신 위원=국내 소프트웨어(SW)업계는 하청에 재하청을 주는 구조다. 최소 세 단계 이상 내려간다. 현재 개선이 됐을지 모르지만, 예전에 한 국가 안보 기관이 시스템을 업그레이드하려는데 해당 업체가 망해서 어쩔 줄 몰라 한 일도 있다.
▷기업도 마찬가지일 것 같다.
이 교수=최근 국내 기업 해킹 사태를 보면 신고가 늦은 데다 몰랐다고 하는 경우가 공통으로 발견된다. 이는 해킹 사고를 축소하고 은폐하려는 유인이 크기 때문이다. 안 들키면 ‘생큐’인 환경이기 때문이다.
▷정부도 잇따라 대응책을 내놨다.
신 위원=기술 발전 속도는 빠르고 대응은 늦을 수밖에 없는 상황에선 원칙 중심의 방향성을 먼저 세워야 한다. 구체적으로 대응을 일일이 하는 걸로는 부족하다. 어떤 기술에 적용되는 대원칙을 먼저 제시하고, 그 기반 위에 민간까지 보호할 수 있는 플랫폼형 체계를 만들어야 한다.
■ 이병영 서울대 전기정보공학부 교수
△2009년 포스텍 컴퓨터공학 졸업
△2016년 미국 조지아텍 컴퓨터과학 박사
△2016년~2018년 미국 퍼듀대 컴퓨터과학과 교수
△2018년~ 서울대 전기정보공학부 교수
■ 신종호 LG전자 소프트웨어센터 연구위원
△2009년 서울대 컴퓨터공학 졸업
△2015~2019년 국방부 시니어 보안 연구원·삼성SDS 시니어 보안 컨설턴트
△2024년~ LG전자 소프트웨어센터 연구위원
최영총 기자 youngchoi@hankyung.com
관련뉴스
