이 기사는 10월 29일 09:49 마켓인사이트에 게재된 기사입니다.
10월 중순, 가파르게 상승하던 미국 빅테크 기업들의 주가가 주춤하는 모습을 보였다. 불과 10월 이전까지 이어진 견조한 상승세와 대비되는 흐름이었다. 지난 8월 중순, 시장이 이와 비슷한 혼란을 겪었는데, 당시 투자 심리를 흔든 두 가지 메시지가 동시에 등장했다. 하나는 오픈AI의 CEO 샘 알트만이 “AI 산업의 과도한 투자가 거품일 수 있다”고 인정한 발언이었고, 다른 하나는 거의 동시에 공개된 MIT의 “The GenAI Divide: State of AI in Business 2025”(생성형 AI 격차: 2025년 기업 AI 실태, 이하 MIT 보고서)였다. 이 글은 당시 시장에 영향을 주었던 MIT 보고서가 AI의 어떤 문제를 지적했는지 살피고, 격변하는 AI 환경을 기업이 어떤 관점으로 받아들여야 할지 생각해 보고자 한다.
GenAI 격차: 95%의 실패와 5%의 혁신
MIT 보고서에서 가장 많이 인용된 내용은, 기업들이 AI에 막대한 자금을 투자하고 있음에도 불구하고 무려 95%가 투자 대비 성과를 전혀 얻지 못하고 있다는 충격적인 지적이다. 이 수치는 샘 알트먼의 ‘버블론’과 맞물리며 “AI 도입이 너무 앞서 있는 것은 아닌가”, “빅테크의 주가가 과대평가된 것은 아닌가”라는 시기상조론을 촉발시켰다.그러나 이 보고서는 단순히 비관적인 전망을 나열하는 데 그치지 않는다. 오히려 왜 그렇게 많은 기업들이 기대했던 성과에 이르지 못하는지를 분석하며, ‘높은 도입률’과 ‘낮은 혁신 성과’ 사이에 존재하는 현실적 격차(Divide)에 대한 분석도 제공하고 있다.
특히 보고서는 AI에 대한 사회적 통념과 실제 현장의 온도 차이를 비교하며 두 가지 오해를 짚는다. 첫째, “AI가 수년 내 대부분의 일자리를 대체할 것”이라는 통념과 달리, 현재까지는 고객 지원이나 일부 관리직 등 제한된 영역에서만 인력 조정이 진행될 뿐 산업 전반에서 구조적 인력 대체가 나타나는 수준은 아니다.
둘째, “생성형 AI가 비즈니스를 빠르게 혁신할 것”이라는 기대와 달리, 실제로는 도입은 활발하지만 손익 개선이나 구조적 변화로 이어지는 사례는 극히 드물며, 진정한 혁신은 전체의 불과 5% 기업에 국한된다는 점을 명확히 보여준다.
95%는 왜 혁신에 실패하는가: '정적 AI'와 '방법론'의 부재
보고서는 95%의 기업이 혁신 단계에 이르지 못하는 핵심 이유로, 현재 활용되고 있는 AI 솔루션이 '정적(Static)'이라는 점을 꼽는다. 여기서 '정적'이란 AI가 스스로 학습하거나 맥락을 파악하지 못해, 같은 결과를 얻기 위해 매번 처음부터 상세한 지시를 반복해야 한다는 의미다. 이는 마치 업무를 지시할 때 매번 처음부터 일을 가르쳐야 하는 학습되지 않은 인턴 사원을 대거 고용한 상황과 유사하다.이처럼 학습 능력이 부재한 정적 AI는 자연스럽게 업무 흐름(workflow)과 유기적으로 연결되지 못한다. 이러한 기업의 AI도입은 기업이 익숙해진 ERP 도입 방법론과 극명하게 대비된다. ERP는 표준화된 업무 흐름을 내장하고 있고, 기업은 도입을 위해 현황 분석 및 업무 흐름 재설계에 막대한 시간과 노력을 투입한다. 이러한 ERP 도입 방법론은 수많은 시행착오를 거쳐 정립된 것이다.
반면 AI는 아직 이러한 도입 방법론이 정립되지 않은, 말 그대로 '시행착오'를 겪는 초기 단계에 있다. 더욱이 기업들은 ERP 도입으로 '표준화'를 기대하지만, AI 도입을 통해서는 '혁신'을 기대한다. 이는 AI 도입과정이 ERP보다 훨씬 복잡하고, 성공적인 내재화를 위해 더 큰 노력이 요구될 것임을 시사한다.
'그림자' 속의 기회: Shadow AI
MIT는 또 하나의 흥미로운 개념으로 ‘Shadow AI’를 제시한다. 이는 기업이 도입한 공식 AI와 대비되는, 구성원 개인이 별도로 구독해 소비하는 AI를 뜻한다. 쉽게 말하면 직원들이 자기의 비용으로 사용하고 있는 Chat GPT 같은 개념이다. 'Shadow AI'는 'Shadow IT'에서 파생된 용어다. 'Shadow IT'란 기업의 공식적인 IT 시스템이 현업의 속도나 요구를 맞추지 못할 때, 직원 개인이 IT 정책을 어기면서까지 사용하는 비공식 도구를 뜻한다.보고서는 현재의 'Shadow AI'를 이런 비공식 IT 자원으로 본다. 조사 결과, 기업의 공식 AI 구독률은 약 40%에 불과했지만, “개인의 생성형 AI 사용률은 무려 90%”에 달했다. 보고서는 이 'Shadow AI'를 'GenAI 격차'의 양쪽을 연결할 '다리(bridge)'로 표현하며 긍정적으로 평가한다.
Shadow AI는 통제가 아닌 혁신의 에너지
Shadow AI의 압도적인 사용률은 구성원 각자의 AI에 대한 수요가 절대적이라는 증거다.기업은 이를 'Shadow IT'처럼 통제하고 금지할 대상으로 볼 것이 아니라, “'혁신을 열망하는 거대한 내부 수요'“로 인식해야 한다. 이 거대한 혁신의 에너지를 어떤 시각으로 바라보느냐에 따라 조직의 AI 여정은 전혀 다른 방향으로 흘러갈 수 있다.
<i>다음 (下)편에서는 기업이 이러한 개개인의 수요를 어떻게 기업의 역량으로 활용할 수 있는가를 살펴보도록 하겠다. </i>
관련뉴스
