범죄 현장에서 발견된 흐릿한 지문은 어떻게 되살릴까. ‘정공법’으로는 그래픽처리장치(GPU) 기반 인공지능(AI) 학습 모델을 써서 복원하는 방법이 있다. 이는 전력 소모가 커 실제 수사 현장에선 사용하기 힘들다.GPU 같은 전산 자원 없이 ‘순수 수학’으로 지문을 복원하는 기술이 나왔다. 8일 과학기술계에 따르면 한 국내 대학 수학과 연구팀이 손상된 지문 주변 모양 데이터 등을 활용해 지워진 부분을 되살리는 AI 모델을 최근 개발했다. 이 과정에서 ‘편미분방정식’을 썼다. 편미분방정식은 다변수 함수와 해당 변수의 변화율을 함께 나타낸다. 시·공간에 따라 변하는 온도, 압력, 유체 흐름, 전자기장 등 다양한 물리 현상을 수학적으로 표현한다. AI를 가동하는 기저 원리에도 이 편미분방정식이 광범위하게 깔려 있다. 올초 ‘가성비 생성형 AI’로 전 세계를 뒤흔든 량원펑 딥시크 창업자가 수학자인 점은 우연이 아니다.
◇ AI 에이전트로 반도체 최적화
짧게는 수백, 길게는 수천 쪽 이상인 보험 약관. 보험 가입자 대부분은 이 방대한 문서를 읽어보지 않고 넘어가기 일쑤다. 약관은 보험사 직원들에게도 골칫거리다. 관련 정책에 따라 약관이 자주 바뀌기 때문이다. 언더라이터(심사 담당자), 상품기획자 등은 약관의 많은 부분을 수시로 업데이트해야 한다. AI 에이전트 전문 기업 애자일소다는 이 업무를 대신 해주는 AI 솔루션을 개발했다.애자일소다는 대규모언어모델(LLM)을 써서 비정형 데이터를 가공하는 ‘추출·변환·적재(ETL)’ 솔루션을 개발했다. 그간 쌓은 ML옵스(머신러닝을 운영체제에 접목하는 기술), AI 기반 OCR(광학문자인식), 자연어처리 기술 등을 활용했다. 환각 현상을 줄인 RAG(검색증강생성) 챗봇 ‘챗샘’과도 결합해 성능을 높였다.
애자일소다는 AI 에이전트 전반에 강화학습(RL) 기술을 적용했다. 강화학습은 결과가 좋으면 보상을 더 주는 방식으로 훈련하는 AI 학습 기법을 말한다. 반려견 훈련과 마찬가지다. 애자일소다 관계자는 “강화학습 기반 AI 최적화는 한국의 경제 기반인 제조업에 폭넓게 적용할 수 있다”고 설명했다. 미세 소자 설계 최적화, 컨테이너 적재 및 하역 최적화, 선박 항로 최적화 등이다.
애자일소다의 강화학습 기술은 반도체 공정에서 소자 배치와 경로 최적화 문제를 해결했다. 코스닥시장 상장사 A사가 이 솔루션을 반도체 파운드리 세계 1위 기업인 TSMC 공정에서 실증한 것으로 알려졌다. 반도체 EDA(전자설계자동화), CAD(컴퓨터 기반 디자인) 툴 위에 그대로 올라가는 AI 에이전트 솔루션이다. 애자일소다는 이 기술을 확장해 반도체 소자 최적화를 하는 ‘칩앤소다’, 제조 설계 자동화 솔루션 ‘레드소다’를 개발하고 있다.
◇ AI 발전 동력은 결국 수학
애자일소다의 경쟁력은 ‘수리과학(mathmatical science)’에서 나온다. 애자일소다 관계자는 “제조업 공학 설계는 대체로 배치(placement)와 경로 설정(routing)의 문제로 요약된다”며 “이들 문제는 사용자 맞춤형 보상 함수 최적화, 메타 그래프를 통한 데이터 처리 등으로 해결할 수 있다”고 설명했다. 이 회사는 데이터 과학자들이 긴 시간 시행착오를 겪는 보상함수 설계를 자동화하는 AI 에이전트를 구현했다. 메타그래프는 복잡한 설계도면 사이 관계를 3차원 계층으로 구조화한 것이다. 설계를 고객 요청에 따라 그때그때 반영해 최적화하는 데 유용하다. 점점 수요가 높아지고 있는 전력반도체, FPGA(필드 프로그래머블 게이트 어레이), ‘주문형반도체’로 불리는 ASIC(애플리케이션 특화 집적회로) 설계에도 적용이 기대된다.최대우 애자일소다 대표는 대학 시절부터 수리과학에 빠져 살던 한국 1세대 AI 기술자다. 서울대 계산통계학과를 나와 미 럿거스대에서 통계학 박사 학위를 받은 그는 R언어를 국내 처음 소개했다. 또 국내 금융권 전반에 AI 강화학습을 적용한 솔루션을 전파했다. AX 전문기업이자 LG그룹의 정보기술(IT) 서비스 업체인 LG CNS와도 긴밀하게 협업하고 있다. 현신균 LG CNS 사장은 최 대표와 서울대 계산통계학과에서 함께 수학한 AI 전문가다.
반도체 EDA 시장을 과점하고 있는 시놉시스 전 최고기술책임자(CTO) 안툰 도믹, 산업 최적화 솔루션 세계 1위 기업 페어아이작(FICO) 전 부사장 지수 라이언이 애자일소다에 기술 자문을 제공하고 있다. 넷플릭스, 프록터앤드갬블(P&G), 존슨앤드존슨, HSBC, 네슬레 등 많은 글로벌 기업이 FICO의 솔루션으로 제조 및 물류 최적화를 한다. 애자일소다는 내년 코스닥시장 기술특례 상장을 추진할 예정이다.
이해성 기자 ihs@hankyung.com
관련뉴스
