[한경잡앤조이=이진호 기자] 수많은 기업이 인공지능(AI)기술을 도입하는 시대가 됐다. 인간의 인위적인 개입 없이 인간이 의도하는 바를 알아서 처리해 주는 AI는 인간의 편리를 위해 지속적인 발전을 거듭하고 있다.
하지만 AI가 오판했을 때 야기되는 사회적 문제들에 대해 우리는 얼마만큼 대처하고 있을까. 그럴수록 AI로 야기되는 문제에 대한 책임도 중요하다는 의미다. 이런 문제를 해결하기 위해 다양한 영역에서 ‘설명 가능한 인공지능(eXplainable Artificial Intelligence, XAI)’을 활용하기 위한 다양한 연구가 이뤄지고 있다.
㈜가치랩스는 XAI 솔루션을 개발하는 스타트업이다. 안기옥 대표(46)가 지난해 5월에 설립했다. 안 대표는 “XAI는 왜 AI가 어떤 근거에 의해서 움직였는지 도출한 결과에 대해 왜 그런 해석을 했는지 설명해주는 새로운 AI 소프트웨어 기술”이라며 “수많은 사진에서 강아지 사진을 분류하는 것이 AI라면 개라고 판단할 수 있는 털이나 꼬리 모양, 다리 수 등 다양한 근거를 같이 제시하는 것이 XAI”라고 설명했다. 이어 “우리가 개발한 XAI로 기업들은 한 단계 발전된 전략 수립과 마케팅이 가능해질 것”이라고 덧붙였다.
현재 인공지능의 추론 구조는 블랙박스로 인공지능 판단 결과의 인과관계를 사람이 알 수 없다. “인공지능 개발은 학습 데이터를 수집해 학습시키고 이를 모델로 개발하는 과정입니다. 이 과정에서 데이터가 유효한지, 학습 방법이 적합한지, 분석·예측 방법이 합당한지를 현재는 사람이 직관적으로 이해할 방법이 없습니다.”
㈜가치랩스는 인공지능이 판단한 근거를 제시할 수 있는 기술인 XAI 솔루션을 개발하고 있다. 안 대표는 “인공지능의 판단을 사람이 이해할 수 있을 때 인공지능의 가치가 높아진다”고 말했다. 덧붙여 “솔루션이 개발되면 더욱더 과학적이고 효율적인 상품 기획과 제품화가 가능할 것”이라며 “온·오프라인 연결 시대에 필수적인 시스템으로 작용할 것”이라고 말했다.
㈜가치랩스는 체계적인 데이터 검증 과정을 우선으로 학습 과정과 모델에 대한 검증을 진행하고 있다. 안 대표는 “현재 인공지능 시장은 최종소비자(End-User)가 필요로 하는 고객의 문제에 특화된 개별 AI 응용 솔루션을 단순 제작·공급하는 형태”라며 “가치랩스의 목표는 데이터와 모델의 문제점을 분석해 검증하는 방안을 제공하는 것”이라고 말했다.
㈜가치랩스는 최종소비자를 설득할 수 있는 근거를 확보해 신뢰성을 제고하고 있다. 그 결과로 AI 응용 제품의 설명 능력과 책임성 부여로 제품 경쟁력을 확보하고 있다.
안 대표는 “가치랩스 주요 구성원은 대용량 데이터 기반 분석 및 관리 솔루션 개발 및 공급에 주력해 왔다. 이러한 과정에서 개발된 솔루션을 고도화해 데이터 및 학습의 순환 과정을 지원하기 위한 프레임워크를 개발했다”고 말했다.
㈜가치랩스는 시장에서의 요구를 단일 솔루션으로 우선 검증했다. 검증 결과는 구성원의 박사학위와 SCI 논문으로 발표됐다. 특허 저작권 확보와 수상으로 기술력도 검증했다.
앞으로의 목표에 대해 안 대표는 “대용량 데이터 기반 분석 프레임워크는 우리 팀이 개발한 제품의 근간이 됐다. 알고리즘 교체, UI 교체 등 제품 간 융합으로 새로운 가치를 시장에 적용하고 있다”며 “그간의 축적된 경험과 기술력을 바탕으로 새로운 시장의 흐름이 될 XAI를 솔루션을 꾸준히 개발할 계획”이라고 말했다.
설립일 : 2020년 5월
주요사업 : 생명주기를 지원하는 안공지능 개발 프레임워크 및 XAI 솔루션을 개발
성과 : 2020년 예비창업자패키지 선정, 지능형ICT융합연구센터 입주 선정 및 계약, 제2회 과천시창업아이디어경진대회 대상, 전문 엔젤 투자 선정, KBS 미디어기술연구소와 기술실시계약, 2020 대한민국 지속가능혁신리더 대상, 한국벤처투자(KVIC) 매칭펀드 투자 계약, 2021년 초기창업패키지 선정, AI바우처 지원사업 선정, 인공지능 학습용 데이터 구축(2차) 지원사업 선정
jinho2323@hankyung.com
관련뉴스
