국내 기업들이 자체 대규모언어모델(LLM) 도입에 속도를 내고 있다. 인공지능(AI) 챗봇 장터까지 만든 오픈AI의 공세에 대응하기 위해서다.
AI 스타트업 업스테이지는 카카오톡 AI 챗봇 ‘아숙업(AskUp)’에 자체 개발한 LLM 솔라를 도입했다고 11일 발표했다. 아숙업은 업스테이지가 개발한 카카오톡 기반 챗봇 메신저로 사용자가 질문하면 AI가 답해주는 서비스다. 사용자는 165만 명이다.
내부 테스트 결과 솔라 도입으로 챗봇의 답변 속도는 세 배 이상 빨라졌다. 정확도는 GPT-4와 비슷한 수준이다. 107억 개의 매개변수를 가진 솔라는 지난해 허깅페이스 오픈 LLM 리더보드에서 1위를 차지했다. 업스테이지 관계자는 “아숙업은 GPT-3.5와 GPT-4로 구동돼 왔는데 각각 속도와 정확도 하나만 뛰어난 탓에 두 가지 전부를 만족할 수 없었다”며 “솔라 도입으로 속도와 정확도 두 마리 토끼를 모두 잡은 셈”이라고 말했다. 업스테이지는 연말까지 솔라 비중을 100%로 확대할 계획이다.
네이버는 지난해 자사 LLM인 하이퍼클로바X를 기반으로 한 대화형 AI 서비스 클로바X를 선보였다. 한국은행 등 공공기관도 하이퍼클로바X AI 서비스 출시를 준비 중이다.
장강호 기자 callme@hankyung.com
AI 스타트업 업스테이지는 카카오톡 AI 챗봇 ‘아숙업(AskUp)’에 자체 개발한 LLM 솔라를 도입했다고 11일 발표했다. 아숙업은 업스테이지가 개발한 카카오톡 기반 챗봇 메신저로 사용자가 질문하면 AI가 답해주는 서비스다. 사용자는 165만 명이다.
내부 테스트 결과 솔라 도입으로 챗봇의 답변 속도는 세 배 이상 빨라졌다. 정확도는 GPT-4와 비슷한 수준이다. 107억 개의 매개변수를 가진 솔라는 지난해 허깅페이스 오픈 LLM 리더보드에서 1위를 차지했다. 업스테이지 관계자는 “아숙업은 GPT-3.5와 GPT-4로 구동돼 왔는데 각각 속도와 정확도 하나만 뛰어난 탓에 두 가지 전부를 만족할 수 없었다”며 “솔라 도입으로 속도와 정확도 두 마리 토끼를 모두 잡은 셈”이라고 말했다. 업스테이지는 연말까지 솔라 비중을 100%로 확대할 계획이다.
네이버는 지난해 자사 LLM인 하이퍼클로바X를 기반으로 한 대화형 AI 서비스 클로바X를 선보였다. 한국은행 등 공공기관도 하이퍼클로바X AI 서비스 출시를 준비 중이다.
장강호 기자 callme@hankyung.com
관련뉴스
