“대한민국의 모든 정보가 털렸다고 가정하고 원점에서 ‘소버린 보안’을 재설계해야 합니다.” 학계와 기업에서 국내 최고 보안 전문가로 꼽히는 2인의 공통된 지적이다. 이병영 서울대 전기정보공학부 교수와 신종호 LG전자 소프트웨어센터 연구위원은 “정보 유출은 특정 대기업만의 문제가 아니다”며 “사용자가 잠든 사이에 에이전트AI들끼리 소통하게 될 가까운 미래엔 보안 문제의 심각성이 더 커질 것”이라며 “독자 파운데이션모델을 만드는 것만큼 더 중요한 건 대한민국의 데이터를 외부 공격에서 지켜낼 소버린 시큐리티(보안)를 확보하는 것”이라고 말했다.
▶해커를 잡는 경우를 못 봤습니다.
(신 위원)“비유를 해볼게요. 증거 하나도 남기지 않고 범죄 현장을 싹 정리한 살인범을 생각해보세요. 범행에 사용한 옷이나 도구도 모두 없애버리고요. 전문 해커 집단은 이 같은 일을 매일 한다고 보면 됩니다.”
▶검거가 아니라 막는 것도 버겁겠네요.
(이 교수)“막는 쪽에선 해킹의 기술 발전 속도를 따라가기 어려워요. 최근 인공지능(AI) 산업이 성장하면서 ‘공격 표면’이 기하급수적으로 늘고 있습니다. 방어자는 모든 구멍을 막아야 하지만 공격자는 한번 뚫기만 하면 되는 ‘디펜더스 딜레마’가 커지는 거죠.”
▶해커들의 목표는 무엇인가요?
“해킹도 투자수익률(ROI) 게임이에요. 보안을 뚫고 원하는 정보를 얻으려면 그만큼 돈을 들여야 합니다. 스마트폰도 몇백억원을 들이면 뚫을 수 있어요. 기술적으로는 가능하지만, 투자 대비 수익이 나지 않기 때문에 안 하는 것일 뿐입니다.”
▶일반 개인 피해가 별로 없는 이유겠군요.
(이 교수)“에이전트AI 시대엔 얘기가 달라질 거예요. 지금이야 많은 정보가 유출돼도 큰 피해는 발생하지 않고 있지만, AI가 사용자 대신 각종 일상을 대신해주는 에이전트AI 시대가 찾아오면 프롬프트 인젝션 같은 공격을 통해 에이전트가 잘못된 지시를 따르도록 유도할 수 있을 겁니다.”
▶통제가 어려워질 수 있다는 거네요.
(신 위원)“기존 대규모언어모델(LLM)은 입력-출력 중심이라 사람들이 보안 위협을 과소평가했습니다. 그런데 에이전트가 개인의 히스토리(이력)를 기반으로 데이터를 다루게 되니 프라이버시가 훨씬 중요해진 겁니다. 게다가 여러 에이전트가 상호작용하면서 통제가 더 어려워지고 있죠.”
▶막을 방법을 찾아야 하겠네요.
(이 교수)“기술적으로는 가능한데 사용자가 불편해질 수밖에 없어요. AI가 특정 행위를 할 때마다 사용자 허락을 받도록 하는 게 가장 효과적일 텐데 그렇게 하면 AI라고 하기 어렵겠죠. 게다가 매번 사용자에게 판단을 전가하는 방식으로는 보안 효과도 크지 않습니다.”
▶빅테크들은 어떤가요?
(신 위원)“최근 빅테크가 AI 보안 기업을 많이 인수하고, 인력도 대규모로 충원합니다. 마이크로소프트(MS)만 해도 개발자는 대량 해고하면서도 '책임있는AI'(Responsible AI) 인력은 400명 수준을 유지하고 있죠.”
▶한국은 보안 취약국이라는 평가가 있는데요.
(이 교수)“사실상 모든 곳에서 정보가 털렸다고 가정하고 원칙을 다시 만들어야 할 겁니다. 정부만 해도 최저가 입찰제 때문에 보안에 구멍이 너무 많아요.”
▶그게 무슨 얘기인가요?
“(신 위원)국내 소프트웨어(SW) 업계는 하청에 재하청을 주는 구조입니다. 최소 3단계 이상 내려가죠. 현재는 개선이 됐을지 모르겠습니다만, 예전에 한 국내 안보 기관이 시스템을 업그레이드하려는데 해당 업체가 망해서 어쩔 줄 몰라 했던 일도 있었어요.”
▶기업도 마찬가지겠죠.
(신 위원)“최근 국내 기업 해킹 사태를 보면 신고가 늦은 데다 몰랐다고 하는 경우가 공통으로 발견되는데, 이는 해킹 사고를 축소하고 은폐하려는 유인이 크기 때문입니다. 안 들키면 '생큐'인 환경이거든요.”
▶정부는 무엇을 해야 하나요?
(신 위원)“기술 발전 속도는 빠르고 대응은 늦을 수밖에 없는 상황에선 원칙 중심의 방향성을 먼저 세워야 합니다. 구체적으로 대응을 일일이 하는 걸로는 부족하죠. 그래서 어떤 기술에도 적용되는 대원칙을 먼저 제시하고, 그 기반 위에 민간까지 보호할 수 있는 플랫폼형 체계를 만들어야 한다고 생각합니다.”
▶어떤 원칙인가요?
(신 위원)“예를 들어 최소 권한 원칙, 다층 방어 같은 것들요. 쿠팡 사태가 최소 권한 원칙이 무시된 대표 사례죠. 금고 열쇠나 마찬가지인 ‘루트 키’를 한 사람한테 맡기고, 그것도 퇴직했는데도 몰랐으니까요. 앤스로픽은 ‘컨스티튜셔널(헌법) 모델’처럼 가드레일을 두는 대원칙 접근을 이야기한 적도 있죠.”
(이 교수)“자기가 해야 할 일에 딱 필요한 권한만으로, 그 이상은 갖지 말아야 한다는 거죠. 당연한 얘기지만, 현실에서 잘 안 지켜집니다. 요즘 사고들을 보면 기술적으로 엄청 어려운 해킹이기보다 방어자 입장에서 기본이 안 지켜진 경우가 많거든요.”
□ 이병영 서울대 전기정보공학부 교수는
▲2009년 포항공대 컴퓨터공학 졸업 ▲2011년 포항공대 컴퓨터공학 석사 ▲2016년 미국 조지아텍 컴퓨터과학 박사 ▲2016년~2018년 미국 퍼듀대 컴퓨터과학과 교수 ▲2018년~ 서울대 전기정보공학부 교수
□ 신종호 LG전자 소프트웨어센터 연구위원은
▲2009년 서울대 컴퓨터공학 졸업 ▲2015년 스탠포드대 컴퓨터과학 석사 ▲2015년 ~ 2017년 국방부 시니어 보안 연구원 ▲2017년 ~ 2019년 삼성SDS 시니어 보안 컨설턴트 ▲2019년 ~ 2024년 라인플러스 시큐리티 R&D팀 리드 ▲2024년 ~ 국민대 소프트웨어대학원 겸임교수 및 LG전자 소프트웨어센터 연구위원
최영총 기자 youngchoi@hankyung.com
관련뉴스
