KT가 오픈AI의 초거대 인공지능(AI) ‘챗GPT’와 유사한 수준의 대화형 초거대 AI 서비스를 올 상반기 국내서 상용화한다. 구현모 KT 대표의 ‘AI 드라이브’의 일환이다.
17일 정보통신(IT) 업계에 따르면 KT는 올 상반기 중 2000억 파라미터(매개변수) 이상의 연산 능력을 학습시킨 초거대 AI 서비스 ‘믿음(MIDEUM)’을 상용화하기 위해 주요 금융사 등과 접촉하고 있다.
초거대 AI는 많은 매개변수를 학습시킬수록 뛰어난 성능을 보인다. 최근 마이크로소프트(MS)가 100억달러를 투자하기로 해 화제가 되고 있는는 오픈AI의 챗GPT는 1750억 파라미터를 사용한 GPT-3를 기본 모델로 하고 있다. ‘믿음’의 파라미터 수는 챗GPT와 비슷하지만, 한국어 데이터가 많이 학습돼 국내 사용자에게 보다 자연스러운 대화를 제공할 전망이다. KT는 상반기 중 국내 금융사 등에 AI 챗봇 및 정보 요약 서비스 등을 선보이는 방법을 제안한 것으로 알려졌다.
KT ‘믿음’ 서비스는 경량화된 구조와 멀티태스킹, 외부 데이터의 유연한 학습 등의 강점을 갖고 있다. 특히 특정 데이터셋에서 확보한 신뢰할 수 있는 정보와 그렇지 않은 정보를 구분하고 사용자의 요구에 따라 어떤 정보를 제시해야 할 지 스스로 판단해 대답하는 것이 챗GPT와 차별화되는 특징이다.
KT 관계자는 “A은행의 챗봇인데 B은행의 정보를 가져다 쓰거나, 신뢰할 수 없는 정보와 공신력 있는 정보를 뒤섞으면 그 서비스에 돈을 낼 수 있겠느냐”며 “‘믿음’은 정보의 원천을 구분해서 제시할 수 있다”고 설명했다. 재미있고 신기한 서비스를 넘어 정확하고 신뢰할 수 있는 대화 서비스를 제공하겠다는 취지다.
이는 미리 지정한 답변을 반복하는 현재의 챗봇 서비스를 비약적으로 발전시킬 것으로 보인다. 예컨대 사용자가 특정 은행 챗봇에게 “대출이자를 아낄 방법을 알려줘”라고 하면 챗봇이 사용자 정보와 패턴, 대출 서비스 종류 등을 검색해서 사람보다 빠르고 정확하게 대화형으로 답을 제시하게 된다. 향후에는 자산운용 조언도 할 수 있다. 이런 서비스를 할 때 정보의 원천을 구분하는 것은 KT가 B2B(기업 간 거래) 고객을 확보할 때 중요한 마케팅 포인트가 될 것으로 보인다.
KT가 조만간 ‘믿음’ 서비스를 상용화할 수 있다는 자신감을 갖게 된 것은 ‘AI 반도체 사업협력위원회’의 형태로 컨소시엄을 구성하고 있는 리벨리온과 모레, KT클라우드 간 협업이 성과를 내고 있어서다.
특히 AI 반도체 스타트업 리벨리온은 최근 국내서 처음으로 언어 처리에 특화된 서버용 AI 반도체 보드 개발을 완료했다. 박성현 리벨리온 대표는 “해외에서는 삼바노바, 그래프코어, 세레브라스 정도만이 성공했고 국내선 리벨리온이 처음 성공한 것”이라고 말했다.
리벨리온과 KT가 개발한 AI 반도체 보드는 신경망 컴파일러(코드 변경) 기술을 보유한 모레의 인프라 최적화 솔루션과 결합해 오는 3월 말 KT 데이터센터에 도입되어 ‘믿음’ 등의 구동에 활용될 예정이다. KT 컨소시엄 관계자는 “엔비디아에 종속적인 생태계를 극복할 수 있을 것”이라고 기대했다. KT 컨소시엄은 올해부터 한국형 AI반도체를 글로벌 시장으로 확산하고, 동남아 지역을 시작으로 각국 통신 사업자에 KT의 AI 풀스택 구축 노하우를 이식할 계획이다.
이상은/이승우 기자 selee@hankyung.com
17일 정보통신(IT) 업계에 따르면 KT는 올 상반기 중 2000억 파라미터(매개변수) 이상의 연산 능력을 학습시킨 초거대 AI 서비스 ‘믿음(MIDEUM)’을 상용화하기 위해 주요 금융사 등과 접촉하고 있다.
초거대 AI는 많은 매개변수를 학습시킬수록 뛰어난 성능을 보인다. 최근 마이크로소프트(MS)가 100억달러를 투자하기로 해 화제가 되고 있는는 오픈AI의 챗GPT는 1750억 파라미터를 사용한 GPT-3를 기본 모델로 하고 있다. ‘믿음’의 파라미터 수는 챗GPT와 비슷하지만, 한국어 데이터가 많이 학습돼 국내 사용자에게 보다 자연스러운 대화를 제공할 전망이다. KT는 상반기 중 국내 금융사 등에 AI 챗봇 및 정보 요약 서비스 등을 선보이는 방법을 제안한 것으로 알려졌다.
KT ‘믿음’ 서비스는 경량화된 구조와 멀티태스킹, 외부 데이터의 유연한 학습 등의 강점을 갖고 있다. 특히 특정 데이터셋에서 확보한 신뢰할 수 있는 정보와 그렇지 않은 정보를 구분하고 사용자의 요구에 따라 어떤 정보를 제시해야 할 지 스스로 판단해 대답하는 것이 챗GPT와 차별화되는 특징이다.
KT 관계자는 “A은행의 챗봇인데 B은행의 정보를 가져다 쓰거나, 신뢰할 수 없는 정보와 공신력 있는 정보를 뒤섞으면 그 서비스에 돈을 낼 수 있겠느냐”며 “‘믿음’은 정보의 원천을 구분해서 제시할 수 있다”고 설명했다. 재미있고 신기한 서비스를 넘어 정확하고 신뢰할 수 있는 대화 서비스를 제공하겠다는 취지다.
이는 미리 지정한 답변을 반복하는 현재의 챗봇 서비스를 비약적으로 발전시킬 것으로 보인다. 예컨대 사용자가 특정 은행 챗봇에게 “대출이자를 아낄 방법을 알려줘”라고 하면 챗봇이 사용자 정보와 패턴, 대출 서비스 종류 등을 검색해서 사람보다 빠르고 정확하게 대화형으로 답을 제시하게 된다. 향후에는 자산운용 조언도 할 수 있다. 이런 서비스를 할 때 정보의 원천을 구분하는 것은 KT가 B2B(기업 간 거래) 고객을 확보할 때 중요한 마케팅 포인트가 될 것으로 보인다.
"KT클라우드서 SaaS나 PaaS로 초거대 AI 서비스 제공"
KT는 향후 ‘믿음’을 KT클라우드가 제공하는 서비스형 소프트웨어나 플랫폼(SaaS·PaaS) 형태로 만들어 누구나, 언제든 필요할 때 KT의 초거대 AI를 쓸 수 있고 쓴 만큼 비용을 지불하도록 하려는 구상을 갖고 있다. 평소에는 단순 챗봇 모델이 응대하다가 난관에 봉착할 때 지금은 사람이 해결하지만 앞으론 초거대AI가 등장해서 답변을 이어가는 것도 가능하다. 이렇게 되면 KT는 통신사가 아니라 네이버 등과 경쟁하는 본격적인 데이터 회사로 자리잡을 전망이다.KT가 조만간 ‘믿음’ 서비스를 상용화할 수 있다는 자신감을 갖게 된 것은 ‘AI 반도체 사업협력위원회’의 형태로 컨소시엄을 구성하고 있는 리벨리온과 모레, KT클라우드 간 협업이 성과를 내고 있어서다.
특히 AI 반도체 스타트업 리벨리온은 최근 국내서 처음으로 언어 처리에 특화된 서버용 AI 반도체 보드 개발을 완료했다. 박성현 리벨리온 대표는 “해외에서는 삼바노바, 그래프코어, 세레브라스 정도만이 성공했고 국내선 리벨리온이 처음 성공한 것”이라고 말했다.
리벨리온-KT, 언어 처리 특화 AI 반도체 국내 첫 성공
삼성전자에서 5나노미터(nm) 공정으로 제작된 이 반도체는 SK텔레콤과 손잡고 있는 사피온 제품(28nm), 네이버가 투자한 퓨리오사AI의 제품(14nm)과 비교해 성능이 우수하고 전력 소모가 적다고 그는 설명했다. 그동안 AI 분야에서 이용해 온 엔비디아의 그래픽처리장치(GPU)와 비교하면 에너지 효율이 3배 이상 높다. 리벨리온과 KT가 개발한 AI 반도체 보드는 신경망 컴파일러(코드 변경) 기술을 보유한 모레의 인프라 최적화 솔루션과 결합해 오는 3월 말 KT 데이터센터에 도입되어 ‘믿음’ 등의 구동에 활용될 예정이다. KT 컨소시엄 관계자는 “엔비디아에 종속적인 생태계를 극복할 수 있을 것”이라고 기대했다. KT 컨소시엄은 올해부터 한국형 AI반도체를 글로벌 시장으로 확산하고, 동남아 지역을 시작으로 각국 통신 사업자에 KT의 AI 풀스택 구축 노하우를 이식할 계획이다.
구현모 대표 'AI 드라이브' 성과
AI 서비스를 중심으로 KT를 변화시키는 것은 구현모 KT 대표의 숙원이기도 하다. 구 대표는 올초 신년사에서도 “한국 디지털 경쟁력을 위해 가용한 모든 역량을 쏟을 것”이라며 “KT가 가진 국내 최고 수준인 AI 기술을 바탕으로 세계 수준의 역량을 갖기 위해 도전하겠다”고 말했다. 국내 최초 AI 자격증 테스트(AICE)를 지난해 12월 도입하는 등 AI 인재 양성에도 적극적이다. 이상은/이승우 기자 selee@hankyung.com
관련뉴스
