[AI픽] "AI 통제권은 인간에게"…카카오, 새 AI 윤리 원칙 공개

[AI픽] "AI 통제권은 인간에게"…카카오, 새 AI 윤리 원칙 공개
안전·개인정보·책임 등 6대 원칙…연내 이행 체크리스트 도입


(서울=연합뉴스) 오지은 기자 = 카카오[035720]는 자율 에이전트 기술 확산에 발맞춰 AI 윤리 원칙과 이행 가이드를 만들었다고 15일 밝혔다.
카카오는 지난 13일 개발자 콘퍼런스 이프카카오(if(kakao)26)에서 새 AI 윤리 원칙 스피릿(SPIRIT)과 실행 체계 노르마(NORMA)를 공개했다.
새 윤리 원칙인 스피릿은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 핵심 요소로 구성됐다.
정부의 대한민국 인공지능 윤리원칙 3대 가치와 7대 원칙을 바탕으로 서비스 특성에 맞게 고도화했다.
실행 체계인 노르마는 복잡한 윤리 과제를 조직적 차원에서 관리·실행할 수 있는 단계로 구체화하는 방식을 뜻한다.
이번 기준은 지난 7월 출범한 외부 자문단 7인 및 카카오 내 AI 세이프티·개인정보·보안 등 실무 조직이 협력해 이달 초 마련했다.
카카오는 자율 에이전트의 리스크를 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5대 영역으로 분류해 인간 감독과 비상 제어 등 통제 장치를 마련했다.
이를 바탕으로 구성된 AI 윤리 이행 체크리스트는 연내 정식 도입될 예정이다. 아울러 OECD ·유니세프 기준을 반영해 아동·청소년 보호 점검 요소도 강화한다.
김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 관점을 종합해 AI 전 주기 리스크 검토 체계를 구축했다"며 "AI 자율성이 높아질수록 인간의 판단과 책임을 명확히 해 안심할 수 있는 서비스를 제공하겠다"고 말했다.
built@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>