카카오 AI '카나나-2', 안전성 평가서 젬마·큐웬 앞서

카카오가 오픈소스로 배포한 경량 언어모델 카나나-2 시리즈의 안전성 평가 결과를 18일 발표했다.

카카오는 카나나-2 시리즈의 두 모델이 자체 구축한 'AI 안전성 평가 플랫폼'에서 유사 파라미터 규모의 주요 글로벌 모델 대비 종합 1위를 기록했다고 설명했다.

이번 평가에는 과학기술정보통신부 사업의 일환으로 TTA(한국정보통신기술협회), 카이스트, 카카오 등이 지난해 11월 공동 구축한 한국어 특화 안전성 벤치마크 ‘어써AI’가 활용됐다.

어써AI는 총 35개 리스크 카테고리 내 9,560건의 평가 항목을 포함한다. 카카오는 이를 사회적 리스크, 성적 콘텐츠·아동보호, 범죄·불법 행위, 폭력, 권리 침해 등 5개의 대분류로 재편해 집계했다.

이번 평가에서는 유사 파라미터 규모의 글로벌 모델인 구글의 ‘젬마’, 알리바바의 ‘큐웬’을 비교 대상으로 설정했다.

카카오에 따르면 카나나-2 시리즈의 두 모델 모두 종합 점수 0.70을 기록하며 젬마(0.68)와 큐웬(0.58)을 앞섰다.

카카오는 이번 평가를 시작으로 향후 공개할 자체 개발 AI 모델에 상시적인 사전 안전성 평가를 확대 적용할 계획이다.

김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.