[AI픽] AI 오류·위험 국민이 찾는다…'AI 안전 지킴이' 출범

[AI픽] AI 오류·위험 국민이 찾는다…'AI 안전 지킴이' 출범
국민 모니터링단 80명 위촉…환각·편향·보안 취약점 등 점검


(서울=연합뉴스) 권하영 기자 = 인공지능(AI)이 생성하는 잘못된 정보나 편향된 답변, 보안 취약점 등을 국민이 직접 찾아내고 제보하는 상시 모니터링 체계가 운영된다.
과학기술정보통신부는 인공지능안전연구소와 함께 12일 서울 여의도 글래드 호텔에서 국민 참여형 AI 모니터링단 'AI 안전 지킴이' 발대식을 개최했다.
AI 안전 지킴이는 생성형 AI의 오류와 위험 사례를 발굴하고 제보하는 모니터링단으로, 8∼9월 두 차례 공개 모집에 지원한 138명 가운데 80명이 선발돼 내년 8월까지 활동한다.
정부는 지난해 12월부터 30여일간 국민 참여형 '정보 오류 없는 찐 AI 챌린지' 캠페인을 진행하며 총 625건의 제보 중 464건을 유효한 오류 사례로 확인하는 성과를 거두고 이를 상시화하기 위해 모니터링단을 구성했다.
모니터링단이 제보한 사례는 정확성과 위험도, 재현 가능성, 활용 가능성 등을 기준으로 유효성을 검증한 뒤 확정된다.
확정된 사례는 AI 안전성 평가와 위험 연구의 기초 자료로 활용되며, 관련 AI 기업에도 공유될 예정이다.
kwonhy@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>