카카오 '카나나', 국내 첫 AI 안전성 평가서 "안전도 높아"

카카오 '카나나', 국내 첫 AI 안전성 평가서 "안전도 높아"
메타·미스트랄과 비교한 정부 공식 검증 결과

(서울=연합뉴스) 조성미 기자 = 과학기술정보통신부는 인공지능안전연구소 등과 카카오[035720]의 인공지능(AI) 모델인 카나나를 대상으로 국내 첫 AI 안전성 평가를 진행해 유사 규모의 글로벌 모델 대비 안전성이 높은 점이 확인됐다고 29일 밝혔다.
카카오는 인공지능안전연구소와 국내 산학연이 꾸린 'AI 안전 컨소시엄'에 참여하고 있다.
이번 안전성 검증은 '카나나 에센스(Kanana Essence) 1.5' 모델을 대상으로 안전성 벤치마크 데이터셋인 '어슈어 AI(AssurAI)'를 적용했다.
폭력, 차별적 표현 등 일반적인 위험 요소부터 무기 제작, 해킹 등 위험도가 높은 시나리오까지 위험 요소 평가가 적용됐으며 평가 비교 대상은 미국 메타의 라마(Llama) 3.1, 프랑스 미스트랄AI의 미스트랄 0.3이다.
과기정통부와 인공지능안전연구소는 이번 평가를 기반으로 안전성 검증을 '독자 AI 파운데이션 모델' 프로젝트 1차 단계 등에도 적용할 방침이다.

csm@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>