[AI픽] AI가 일 대신하더니…이젠 보안 리스크?

[AI픽] AI가 일 대신하더니…이젠 보안 리스크?
MS 보고서 "에이전트 관리 체계 없으면 취약점"



(서울=연합뉴스) 오지은 기자 = 마이크로소프트(MS)는 AI 도입이 확산하면서 AI 에이전트가 보안 취약점으로 작용하는 '섀도우 AI 리스크'로 부상할 수 있다고 경고했다.
마이크로소프트는 11일 이러한 내용의 '사이버 펄스' AI 보안 보고서를 펴냈다.
보고서는 지난해 11월 기준 마이크로소프트 코파일럿 스튜디오와 마이크로소프트 에이전트 빌더로 구축된 에이전트를 대상으로 지표가 산출됐다.
현재 포춘 500대 기업의 80%가 로우코드(코딩 최소화)나 노코드 방식으로 AI 활성 에이전트를 운용하고 있다. 활성 에이전트는 최근 28일 이내에 활동 기록이 확인된 AI 에이전트를 의미한다.
지역별 활성 에이전트의 비중은 유럽·중동·아프리카 42%, 미국이 29%, 아시아 19%, 아메리카 10% 순이었다.
산업별로는 소프트웨어·기술 16%, 제조업 13%, 금융 서비스 11%, 리테일 9% 등이었다.

하지만 이렇듯 에이전트 도입이 확산하면서 내부 통제를 뛰어넘는 사례가 늘고 있다.
마이크로소프트는 이에 따라 섀도 AI 리스크가 확대하고 있으며 악의적인 행위자가 에이전트의 권한을 악용할 경우 에이전트가 '이중 에이전트'로 전락할 수 있다고 경고했다.
이는 에이전트가 과도한 접근 권한을 받았거나 부적절한 지침을 받은 경우 보안 취약점이 될 수 있다는 뜻이다.
마이크로소프트 디펜더 팀은 최근 메모리 포이즈닝 기법을 악용한 사기성 공격 캠페인을 포착했는데, 이는 여러 공격자가 AI 에이전트 메모리를 조작해 응답을 유도하는 공격 방식이라고 설명했다.
마이크로소프트 AI 레드 팀은 에이전트가 일상적인 콘텐츠에 포함된 유해한 지침을 따르는 사례를 발견하기도 했다.
이에 최근 프런티어 기업은 불필요한 데이터 공유를 최소화하고 통제 체계를 강화하는 등 통합 제어 체계를 구축하고 있다.
마이크로소프트는 AI 에이전트 보안의 출발점으로 '가시성'을 제안했다.
가시성은 에이전트를 식별하고 관리하는 레지스트리, 최소 권한 원칙을 적용하는 엑세스 제어, 리스크와 행위를 모니터링하는 시각화 등으로 구성되는 개념이다.
마이크로소프트는 "비즈니스, IT, 보안, AI팀, 개발자 조직 전체가 협업하고 모든 에이전트를 단일한 중앙 제어 평면에서 일관되게 관리할 수 있는 환경이 필요하다"라고 강조했다.
built@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>