카카오-인공지능안전연구소, AI 안전성 평가 체계 구축

카카오가 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)을 체결했다고 29일 밝혔다.

양사는 이번 MOU를 통해 AI 모델과 에이전트를 대상으로 안전성 평가 기반을 구축해 나갈 계획이다.

카카오는 자사 AI 모델과 AI 에이전트를 제공하고, 평가 수행 및 평가 도구 개발에 필요한 인프라를 지원한다.

인공지능안전연구소는 평가 수행과 방법론 고도화를 담당한다.

양사는 평가 결과를 공동 검토하고 공개 범위를 협의하며 AI 안전성 평가 도구 개발에도 협력할 예정이다.

협력은 총 3단계로 추진된다.

우선 언어모델을 대상으로 배포 전·후 안전성 평가를 수행하고, 멀티모달 언어모델과 AI 에이전트까지 평가 범위를 확대한다.

마지막으로 AI 모델과 에이전트의 안전성을 효율적으로 검증할 수 있는 평가 도구를 공동 개발할 계획이다.

김세웅 카카오 AI 시너지 성과리더는 "앞으로도 기술 혁신과 함께 안전성과 신뢰를 최우선으로 하는 AI 모델과 서비스를 제공하기 위해 지속적으로 노력하겠다"고 말했다.

김명주 인공지능안전연구소 소장은 "카카오와의 협력을 통해 글로벌 표준에 부합하는 AI 안전성 평가 체계를 구축하는 데 최선을 다하겠다"고 전했다.