日정부, 생성형 AI 신뢰성 평가 시스템 개발 추진

日정부, 생성형 AI 신뢰성 평가 시스템 개발 추진

(도쿄=연합뉴스) 경수현 특파원 = 일본 정부가 생성형 인공지능(AI)의 신뢰성을 평가할 시스템을 개발할 방침이라고 요미우리신문이 15일 보도했다.
내년 봄 총무성 산하 국립연구개발법인 정보통신연구기구(NICT)가 개발에 착수해 2026연도(2026년 4월∼2027년 3월) 중 시제품을 내놓을 계획이다.


복수의 AI가 평가 대상 AI를 상대로 다양한 질문을 해 그 내용을 확인하는 방식의 시스템이다.
총무성은 평가 대상 AI의 답변을 점검하는 기준으로 차별적 표현, 범죄성, 오정보, 일본 문화와 상충 등을 검토하고 있다.
평가 기준은 2023년 주요7개국(G7) 정상회의를 계기로 합의된 '히로시마 AI 프로세스'를 토대로 법학자나 사회학자 등이 참가하는 회의에서 구체적인 내용을 논의할 방침이다.
이런 계획은 중국과 미국을 중심으로 개발된 AI 서비스가 확산하는 가운데 서구의 가치관에 경도되거나 영토 문제에서 중국의 주장을 근거로 한 서비스가 이뤄지고 있다는 지적에 따른 것이라고 신문은 전했다.
이에 따라 총무성은 일본 기준에 맞춰 신뢰성을 평가해 '신뢰할 수 있는 AI'를 행정기관이나 기업이 우선 사용하도록 할 필요가 있다고 판단했다.
총무성은 평가 시스템이 개발되면 AI의 안정성 확보를 위해 지난해 정부 산하 기관으로 설립된 'AI세이프티 인스티튜트'(AISI)에 이를 제공하거나 일본 기업이 개발한 AI에서 문제점이 발견될 경우 NICT가 생성한 보완용 데이터를 제공하는 등 활용 방안도 검토할 계획이다.
evan@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>