기업마다 맞춤 솔루션…'해결사 AI' 뜬다

인공지능(AI)을 도입하려는 기업이 급증하면서 기업 간 거래(B2B) AI 에이전트 솔루션 시장이 빠르게 커지고 있다. 지금까지 기업용 AI 시장은 일부 기업이 자체적으로 대규모언어모델(LLM)을 구축하는 데 집중됐다. 이제는 모든 기업이 직접 쉽게 업무용·고객용 AI 에이전트를 개발할 수 있도록 지원하는 솔루션으로 경쟁 범위가 넓어졌다.

◇기업이 AI 만들고 관리

17일 테크업계에 따르면 AI 기업 크라우드웍스는 최근 기업용 AI 솔루션 ‘알피’를 출시했다. AI를 적용하고 싶은 기업이 데이터 전처리부터 LLM 모델 선택까지 손쉽게 시스템을 구축하는 데 초점을 맞췄다. 기업이 직접 AI 사용량을 관리하도록 대시보드 기능도 넣었다. 크라우드웍스 관계자는 “올해 기업 AI 도입이 본격화하는 시점에 맞춰 기업용 AI 에이전트 시장을 선점하겠다는 전략”이라고 말했다.

대한상공회의소에 따르면 국내 기업 78.4%는 AI 도입이 필요하다고 여긴다. 하지만 실제 AI를 업무에 도입한 기업은 30.6%로 절반도 되지 않는다. 특히 제조업 도입률은 23.8%에 불과하다. 기술 부족(34.6%), 비용 부담(23.1%), 신뢰성 의문(10.1%) 등이 이유다. AI 스타트업 관계자는 “AI를 통해 어떤 구체적인 문제를 풀어야 할지, AI 활용에 비용이 많이 들진 않을지 걱정해 손을 못 대는 기업이 많다”고 했다.

이에 따라 기업이 필요한 AI를 쉽게 만들 수 있도록 지원하는 서비스가 속속 등장하고 있다. AI 스타트업 슈퍼브에이아이는 기업용 AI의 걸림돌인 머신러닝(ML) 과정을 단순화했다. AI 개발의 전체 사이클인 데이터 구축과 선별·가공, 모델 학습, 배포까지 지원하는 플랫폼을 마련했다. 최대한 많은 기업이 플랫폼을 활용해 비전 AI를 구축할 수 있도록 표준화한 게 특징이다. 제조 AI 전문 기업 마키나락스는 공장 등 제조 현장에 AI 에이전트를 적용해 준다. 베슬AI는 AI 오케스트레이션 기술을 활용해 기업이 자체 인프라에서 AI를 안정적으로 운영할 수 있도록 지원한다.

◇“작은 부분부터 도입해야”

일부 기업은 AI 역량을 갖춘 기술 업체와 협업해 자체 맞춤형 LLM 구축을 시도했다. 하지만 높은 개발 비용과 어려운 사후 관리 등이 한계로 꼽혔다. 최근엔 작은 문제부터 AI로 풀 수 있는 업무별 솔루션 형태의 AI 도입이 추진되고 있다. 조너선 라이트 IBM컨설팅 파트너는 “모든 업무에 적용할 수 있는 AI를 구현하기란 쉽지 않다”며 “작은 부분부터 에이전트를 적용하면서 연결하는 방향을 고민해야 한다”고 강조했다.

각 업무에 특화한 AI 시스템 수십 개를 묶어 효과적으로 운영하는 ‘다중 에이전트’도 관심을 모은다. 아마존웹서비스(AWS)는 ‘베드록 에이전트’를 통해 여러 AI 에이전트를 통합 관리하는 슈퍼바이저 에이전트 체계를 구축했다. 기업은 복잡한 코딩 없이 업무별 AI 에이전트를 만들고 연결할 수 있다. 마이크로소프트도 ‘애저 AI 파운드리’를 통해 기업이 AI 솔루션을 자유롭게 설계하고 운영할 수 있도록 지원하고 있다.

고은이 기자 koko@hankyung.com