NIA-AI안전연구소, AI 모델 안전성 평가지표 마련

NIA-AI안전연구소, AI 모델 안전성 평가지표 마련
2만건 이상 한국어 특화 평가지표 데이터셋 구축

(서울=연합뉴스) 조성미 기자 = 한국지능정보사회진흥원(NIA)과 과학기술정보통신부는 8일 인공지능(AI) 모델의 안전성·신뢰성 평가 기반을 마련하는 데이터셋 구축 사업을 시작한다고 밝혔다.
이 사업은 정부가 추진 중인 '독자 AI 파운데이션 모델' 프로젝트를 통해 개발되는 AI 모델의 안전성과 신뢰성 성능을 평가하기 위한 것으로, AI 모델의 위험 요소에 대한 체계적이고 정량적인 검증 체계를 구축하는 것이 목표다.
한국지능정보사회진흥원은 인공지능안전연구소와 사이버 보안, AI 자율성, 사실 기반 정확성, 사회적 가치 중립 등 AI 안전성과 신뢰성 항목에 관한 총 2만건 이상의 한국어 특화 평가지표 데이터셋을 구축할 계획이라고 밝혔다.
아울러 평가지표를 글로벌 기준에 부합하는 AI 모델 평가 체계로 발전시키겠다고 덧붙였다.

csm@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>