네이버클라우드가 독자 개발한 추론(reasoning) 인공지능(AI) 모델을 무료로 공개하며 국내 AI 생태계 확장에 나섰다.
네이버클라우드는 추론 능력과 경량화 기술을 결합한 AI 모델 ‘하이퍼클로바X 시드 14B 싱크’를 오픈소스로 공개했다고 22일 발표했다. 상업적 이용이 가능한 형태로, 기업들은 연구 목적을 넘어 실제 비즈니스에서 자유롭게 적용할 수 있다.
이번에 공개한 모델은 지난달 발표한 ‘하이퍼클로바X 싱크’를 경량화한 모델이다. 성능은 유지하면서도 학습 비용을 획기적으로 낮췄다. 중요도가 낮은 파라미터(매개변수)는 ‘가지치기’하고, 대형 모델의 지식을 소형 모델에 증류하는 방식으로 학습 효율을 극대화했다.
이 모델의 파라미터는 140억 개 규모지만 5억 개 파라미터로 구성된 글로벌 오픈소스 모델보다 적은 연산 자원으로 학습됐다. 같은 규모의 해외 모델과 비교하면 1회 학습 비용이 100분의 1 수준에 불과하다.
네이버클라우드는 지난 4월에도 경량화 모델 3종을 오픈소스로 공개해 누적 다운로드 100만 건을 돌파했다.
이승우 기자 leeswoo@hankyung.com
네이버클라우드는 추론 능력과 경량화 기술을 결합한 AI 모델 ‘하이퍼클로바X 시드 14B 싱크’를 오픈소스로 공개했다고 22일 발표했다. 상업적 이용이 가능한 형태로, 기업들은 연구 목적을 넘어 실제 비즈니스에서 자유롭게 적용할 수 있다.
이번에 공개한 모델은 지난달 발표한 ‘하이퍼클로바X 싱크’를 경량화한 모델이다. 성능은 유지하면서도 학습 비용을 획기적으로 낮췄다. 중요도가 낮은 파라미터(매개변수)는 ‘가지치기’하고, 대형 모델의 지식을 소형 모델에 증류하는 방식으로 학습 효율을 극대화했다.
이 모델의 파라미터는 140억 개 규모지만 5억 개 파라미터로 구성된 글로벌 오픈소스 모델보다 적은 연산 자원으로 학습됐다. 같은 규모의 해외 모델과 비교하면 1회 학습 비용이 100분의 1 수준에 불과하다.
네이버클라우드는 지난 4월에도 경량화 모델 3종을 오픈소스로 공개해 누적 다운로드 100만 건을 돌파했다.
이승우 기자 leeswoo@hankyung.com
관련뉴스
