카카오브레인이 이미지와 대규모 언어모델(LLM)을 연결할 수 있는 언어모델(MLLM) '허니비(Honeybee)'를 오픈소스 커뮤니티 '깃허브(Github)'에 공개했다고 19일 밝혔다.
MLLM은 이미지와 명령어(프롬프트)를 입력하면 텍스트로 답변하는 모델로 텍스트로만 입·출력하는 LLM보다 확장된 형태다. 이미지와 텍스트를 모두 입력할 수 있어 이미지를 묘사하거나 이미지와 텍스트가 혼합된 콘텐츠에 관한 질문을 이해하고 답변할 수 있다.
예컨대 허니비에 '농구 경기 중인 두 명의 선수 이미지와 함께 왼쪽 선수는 몇 번 우승했나요?'라는 질문을 영어로 입력하면, 허니비가 입력된 이미지 내용과 질문을 종합적으로 이해해 답변을 생성한다. 허니비는 '다중모델앙상블(MME)', '엠엠벤치(MMBench)', '시드벤치(SEED Bench)' 등의 성능 실험(벤치마크)에서 특히 지각 능력과 인지 능력을 평가하는 MME 벤치마크에서 2800점 만점 중 1977점을 받았다.
회사 측은 지난해 논문 '허니비: 멀티모달 LLM을 위한 로컬리티 강화 프로젝터 (Honeybee: Locality-enhanced Projector for Multimodal LLM)'가 논문 공개 사이트 아카이브에 게재됐다고 전했다. 논문에는 이 기술에 대해 "이미지 데이터를 처리해 딥러닝 모델이 더 효과적으로 학습하고 이해할 수 있도록 돕는 기술"이라며 "시각 프로젝터가 사전 훈련된 비전 인코더와 LLM을 연결하는 데 중요한 역할을 하며 이를 통해 시각적 이해를 깊게 하면서 LLM의 능력을 활용할 수 있다"고 설명했다.
김일두 카카오브레인 각자 대표는 "허니비 모델의 추론을 가능하게 하는 코드도 깃허브에 공개했으며 허니비를 활용한 각종 서비스 확장을 고려 중"이라며 "더욱 발전된 인공지능(AI) 모델 확보를 위해 끊임없이 연구하고 개발할 것”이라고 말했다.
유지희 한경닷컴 기자 keephee@hankyung.com
관련뉴스
