AX 트렌드가 급속도로 확산하며 화제가 된 이가 있다. 올초 ‘AI 전환 절대 공식’을 펴낸 김건우 KT AX 컨설턴트다. 책 발간 이후 여기저기 강연 요청에 가톨릭대 인공지능대학원 겸임교수 활동도 시작했다. 김건우 씨는 자타 공인 국내 DX 및 AX 전문가다. 2011년 삼성SDS에서 ERP 컨설팅으로 커리어를 시작해 굴지의 대기업을 거쳐 최근 KT로 자리를 옮겼다.
Q 책을 낸 계기는 무엇인가.
“AX 도입을 시도한다며 막대한 자금만 투자하고 실패하는 기업이 많아서다. 10년 가까이 제조업, 식품, 바이오, 마케팅, 금융 등 산업을 넘나들며 DX와 AX 프로젝트 진행해보니 실패 과정이 놀라울 만큼 닮아 있다. 프로젝트마다 반성문 같은 기록을 해왔는데 몇 년 치가 쌓이자 큰 그림이 보였다. AI라는 기술과 비즈니스 현실 사이에 깊은 협곡이 있고 그 협곡에 빠지는 경로에는 분명한 패턴이 존재한다는 거다. 실패 원인은 기술력 부족이 아닌 접근 방식의 문제였다.”
Q 접근 방식의 어떤 점이 문제인가.
“가장 치명적인 원인은 ‘낡은 성공 공식으로 새로운 게임을 하려는 것’이다. 과거 ERP 같은 대규모 IT 프로젝트의 성공 경험을 AI에 그대로 적용하면 대개 실패한다. 완벽한 요구사항 정의서를 만들고 빅뱅 방식으로 전사 플랫폼을 한 번에 구축하는 식이다. AI는 확률론적 시스템으로 접근해야 한다. 데이터를 통해 학습하고 100% 정답이 아니어도 점진적 발전을 꾀하란 뜻이다. ERP 도입 때처럼 완벽한 결과치를 예측하고 처음부터 거대 자금을 투입하면 AI라는 정글에서 길을 잃는다. ‘기술 자체를 목적으로 삼는 것’도 문제다. AX를 시작할 때 기업은 대개 ‘AI로 뭘 할 수 있을까’를 묻는다. 질문이 바뀌어야 한다. ‘우리 비즈니스에서 가장 아픈 곳이 어디인가’다. 그럼 AI가 어떤 도움을 줄 수 있는지 생각해 필요한 AX 서비스를 도출하면 된다. ‘경쟁사가 도입했으니까 우리도’라고 시작하면 화려한 데모는 만들어도 현업에서 무용지물일 가능성이 높다.”
Q. 진행한 AX 프로젝트 경험 중 가장 기억에 남는 것은.
“실패 사례부터 보자. 한 대기업에서 전사 AI 지식검색 시스템을 구축했다. 20년간 축적된 사내 문서를 AI가 학습하도록 계획했는데 실제 데이터를 열어보고 아차 싶었다. 법무팀 계약서는 대부분 종이 문서고 부서마다 양식도 다르고 파일명도 제각각이었다. 예를 들어 ‘최종_최최최종_진짜최종.pptx’ 같은 거다. 데이터를 정비하는 데만 수개월이 소요됐고 계획은 시작부터 틀어졌다. ‘"AI 프로젝트의 8할은 데이터 작업’이라는 말이 과장이 아니다.
시행착오를 겪으며 성공도 할 수 있었다. 다른 기업에서 유사한 지식검색 프로젝트를 기획할 때는 아예 접근 방식을 바꿨다. 완벽한 목표치를 두기보다 ‘문서 검토 및 정보 검색’이라는 직원들의 ‘고통점’에 집중했다. 15만 건의 문서 중 실제로 가치 있는 5만 건을 정제하는 데 3개월을 투자하고 그 위에 기계독해 기술을 올려 자연어 질문에 답하는 시스템을 만들었다. 서비스를 도입하니 현업 부서 정보 검색 시간이 평균 60% 이상 줄었다. ‘작게 시작하되 데이터 기반은 철저히 다져놓는 것’, 책에서 강조하는 실전 노하우다.”
Q. AX 프로젝트에서 리더의 역할을 강조하기도 했는데.
“AI는 ‘완성’되는 것이 아니라 ‘육성’하는 것이다. 80% 정도 작동하는 시스템을 빠르게 배포하고 피드백을 받으면서 개선해 나가야 한다. 이를 리더가 수용하지 못하면 완벽한 시스템만 기다리다 아무 성과도 못 낸다. 기술의 언어를 비즈니스의 언어로 번역하는 능력도 필요하다. ‘모델 정확도 98.7%’, ‘처리 속도 3배 향상’ 같은 수치는 기술팀의 성적표다. 리더는 복잡한 알고리즘 설명보다 ‘직원 1인당 주 5시간 절약’이라고 설명할 수 있어야 한다. 리더 스스로가 불확실성을 수용하는 모습도 보여야 한다. 실패를 문책하지 말고 ‘다음 경로를 알려주는 학습 데이터’로 여기면서 프로젝트를 성장시키려는 자세다.”
Q. AX 관련 인재를 찾는 곳도 많은가.
“수요가 많다는 인식을 넘어 인재에 대한 정의가 바뀌었다. 2~3년 전만 해도 기업이 찾는 AI 인재는 모델을 잘 만드는 엔지니어였다. 지금은 AI 시스템을 현업에 안착하는 구조적 문제를 해결하는 인력을 요구하는 경향이 강하다. 즉 전략 수립, 조직 변화 관리, ROI 설계 같은 인력이다. 기술을 아는 것과 기술로 조직을 움직이는 것은 전혀 다른 역량이기 때문이다. 그래서 AX 전략기획자에 대한 시장의 갈증이 점점 커지는 추세다. 최근 KT로 이직했는데 지금 맡는 역할도 이런 부분이다. 기업 고객의 가장 아픈 곳을 정확히 진단하고 최소한의 자원으로 빠르게 가치를 검증하는 린(Lean) 방식 접근으로 고객사의 AX가 파일럿 단계에 머물지 않고 실제 비즈니스 성과로 이어지도록 돕는다.”
Q. 대학교수 활동도 시작했다.
“현장에서 가장 절실한 영역, 즉 ‘AI 기술을 비즈니스 가치로 전환하는 과정’을 가르친다. AI를 공부하는 사람들은 모델 아키텍처나 알고리즘에는 정통한데 어떻게 비즈니스에 접목할지는 잘 모른다. 기술과 비즈니스 사이의 간극을 메우는 것이 제 강의의 목표다. 최근 이런 인재를 양성하려는 움직임도 활발하다. AI 엔지니어나 데이터 과학자 같은 기술 인력의 중요성이 줄었다는 뜻은 아니다. 고도화된 기술을 비즈니스에 접목하는 사람이 필요한 거다. 예를 들어 ‘AI 트랜슬레이터’가 있다. 기술팀과 현업 사이를 통역하는 일을 한다. 기술팀이 ‘모델의 F1 Score가 0.92입니다’라고 말하면 현업 부서장에게 ‘고객 이탈을 사전에 감지하는 정확도가 92%이고 이를 적용하면 연간 약 10억원의 고객 유지 비용을 절감할 수 있습니다’라고 말해줄 사람이다. AI 프로젝트에서 데이터 품질을 관리하는 ‘데이터 스튜어드’, 조직의 저항을 관리하는 ‘체인지 매니저’ 같은 역할도 기업이 필요로 하는 인력이다.”
Q. 경영진이나 실무자가 성공하는 AX를 위해 꼭 알아야 할 것을 꼽는다면.
“진척이 없다고 느낄 때가 가장 중요한 진단의 기회다. 이때 던지는 질문이 이후 성패를 좌우한다. C 레벨 임원이라면 ‘나는 이 AI 프로젝트를 IT 부서의 기술 과제로 보는가, 아니면 경영 과제로 보는가’라고 자신에게 물어보자. AX는 기술 문제가 아니라 경영 문제다. 경험상 성과를 내는 기업은 핵심 과제 3~4개에 집중하고 성과를 못 내는 기업은 6개 이상을 동시에 벌인다. 프로젝트의 성과를 판단할 KPI 자체가 없는 경우도 많다. 목적지 없이 출발한 배는 어디에 도착할지 몰라 망망대해를 헤맨다. 실무자는 ‘생성형 AI를 도입해야 한다’가 아니라 ‘어떤 부서의 어떤 업무가 병목이고 그 때문에 연간 얼마의 비용이 낭비되는가’라는 자문자답을 해봐야 한다. 4주 안에 가치를 보여줄 수 있는 가장 작은 단위의 실험을 설계해 가설을 검증할 최소 단위의 결과물을 빠르게 도출해내는 것이 더 멀리 갈 수 있는 길이다. ‘만약 이 AI 시스템이 내일 갑자기 사라진다면 현업에서 가장 불편해할 사람의 이름을 댈 수 있는가’라는 질문도 던져보라고 권하고 싶다. 이 질문에 구체적인 이름이 떠오르지 않는다면 그 프로젝트는 진짜 문제를 풀고 있지 않은 것이다.”
Q. 이 책을 읽을 독자를 위한 마지막 메시지는.
“지금 AI를 둘러싼 상황은 19세기 골드러시와 놀랍도록 닮았다. 모두가 금을 캐러 나섰지만 실제로 부를 축적한 건 금을 채취하는 사람이 아니라 광부들에게 필요한 도구를 판 사람들이다. AI라는 도구의 성능에 집착하기보다 그 도구로 누구의 어떤 문제를 해결할지 고민해야 한다. 현장에서 수없이 확인한 사실은 가장 위대한 AX는 가장 작고 겸손한 발걸음에서 시작한다. 아이스크림이 녹는 문제에서 출발해 글로벌 제조 생태계를 혁신한 유니레버처럼 동료의 사소한 불편에 귀를 기울여라. 거기에 미래가 있다.”
이선정 기자 sjlgh@hankyung.com
관련뉴스
