데이터 유출 막고 실무 척척…'엔터프라이즈 AI' 뜬다

기업들이 챗봇을 넘어 결재까지 가능하게 하는 인공지능(AI)을 속속 도입하고 있다. 이 과정에선 회사 내부 데이터를 학습한 AI를 업무에 활용하면서도 이 정보가 외부로 새어나가지 않게 하는 게 중요하다. 챗GPT나 제미나이 등 대규모언어모델(LLM)의 한계를 극복할 기업용 AI(엔터프라이즈 AI) 시대가 본격화했다는 분석이다.

◇사내 데이터 유출금지

20일 업계에 따르면 삼성SDS는 최근 내부 저장소 기반의 MCP(모델 컨텍스트 프로토콜) 서버를 구축하고 챗GPT를 보안 울타리 안에서 실무에 적용한 기술검증(PoC) 사례를 공개했다. 배경에는 그동안 기업 현장에서 보안 정책과 AI 활용 간 충돌이 있었기 때문이란 설명이다. 임직원이 업무에 도움을 얻고자 챗GPT와 제미나이 등에 업무 파일을 올리면 외부 서버에 데이터가 남는다. 이 문제를 해결하기 위해서다. 실제로 삼성전자는 2023년 생성형 AI를 통한 사내 기밀 유출을 막기 위해 업무용 PC에서 챗GPT 이용을 금지했다.

다른 회사도 마찬가지다. SPC그룹 계열사인 섹타나인은 내부디지털저작권관리(DRM) 정책으로 챗GPT에 업무 파일을 올리지 못하도록 하고 있다. 섹타나인은 이 문제를 삼성SDS의 도움을 받아 별도 서버를 구축하는 것으로 해결했다. 사용자가 파일 업로드를 신청하고 관리자가 승인하면 외부 서버로 나가지 않고 기업 내부 저장소에 보관되는 방식이다. 이후 챗GPT에서 내부 파일을 불러와 업무에 활용할 수 있다.

이처럼 엔터프라이즈 AI는 단순한 분석이나 학습 단계를 넘어 기업의 핵심 업무 프레임워크와 결합한 플랫폼을 뜻한다. 인터넷에 있는 방대한 데이터를 학습해 불특정 다수에게 답변을 제공하는 챗GPT, 제미나이 등과 같은 범용 AI와 달리 기업의 독점적인 데이터 주권을 유지하면서 기술 종속성 위험을 낮춘다. 엔터프라이즈 AI가 클라우드와 사내 구축형(온프레미스) 인프라 위에서 구동하는 AI 생태계로 자리 잡은 이유다.

◇4년 뒤 340조원 시장

엔터프라이즈 AI의 가장 큰 차별점은 실행력이다. 개인용 AI가 비서 역할에 그친다면, 보안이 강화된 엔터프라이즈 AI는 전사적자원관리(ERP)와 고객관계관리(CRM) 등 사내 시스템에 접근할 수 있다. 예컨대 원하는 디자인 콘셉트를 입력하면 단순히 시안을 제작하는 데 그치지 않고 상표권 검색과 패키지 문구 검수까지 수행한다. 사내 상표권 데이터베이스(DB)와 연동, 도용 여부까지 점검해 실무 공정을 완성한다는 얘기다. 한 대기업 직원은 “실무에서 발생할 수 있는 환각과 보안 문제를 해결하기 위해 엔터프라이즈 AI가 필수적”이라고 말했다.

국내 AI 기업도 엔터프라이즈 AI 시장 선점에 나섰다. 국내 AI 스타트업 업스테이지는 자체 개발한 대규모언어모델(LLM) ‘솔라’를 앞세워 금융 및 공공기관 특화 생성형 AI 사업을 추진 중이다. 보험사마다 다르고 세부 내용이 복잡한 상품 설명서와 약관을 데이터화해 분석하는 문서 AI 솔루션이 본보기다. 엔씨소프트의 자회사 NC AI도 제조·방위산업·건설 등 산업 현장에 특화된 피지컬 AI와 에이전틱 AI 사업에 속도를 내고 있다. 생산 현장과 국방 영역에 쓰일 피지컬 AI도 데이터 주권을 지키는 게 중요하다.

글로벌 시장조사업체 모도르 인텔리전스에 따르면 엔터프라이즈 AI 시장은 지난해 972억달러(약 143조3000억원)에서 2030년 2293억달러(약 338조원) 규모로 커진다. 테크업계 관계자는 “엔터프라이즈 AI 시장이 단순한 기술적 실험 단계를 넘어 실질적인 수익이 나는 산업 현장 적용 단계로 진입했다”며 “범용 챗봇 도입 시기를 지나 기업의 핵심 비즈니스 구조에 침투하는 버티컬 AI와 피지컬 AI가 시장 성장을 주도할 것”이라고 말했다.

▶엔터프라이즈 AI

기업 데이터의 보안과 통제가 보장되는 전사 차원의 안전한 AI 운영 플랫폼. 생성형 AI를 기존 업무 프로세스에 적용하지만, 내부 데이터 유출은 방지하도록 만든 AI다.

라현진 기자 raraland@hankyung.com