'AI통제불능' 경고, 유엔총회 무대로…국제 안전장치 마련 논의

'AI통제불능' 경고, 유엔총회 무대로…국제 안전장치 마련 논의
유엔사무총장 "AI 주요 주제될 것"…오픈AI CEO, 안보리서 브리핑
국제기준·감독체계 마련될지 관심…미중 AI경쟁 속 공조 여부 주목


(뉴욕=연합뉴스) 임수정 특파원 = 인공지능(AI)이 인간의 통제를 벗어날 수 있다는 기술업계의 경고가 잇따르면서 각국 정상이 집결하는 유엔총회에서도 AI 안전 문제가 주요 의제로 다뤄진다.
'AI 개발 속도 조절론'에 동의해온 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)가 유엔 안전보장이사회에서 브리핑에 나설 예정인 가운데 기업의 안전 약속을 뒷받침할 국제적 기준과 협력 방안에 대한 논의가 진전될지 주목된다.
22일(현지시간) 개막하는 제81차 유엔총회 고위급 회기에서 진행되는 각종 회담과 연설에서는 AI 안전성이 주로 다뤄질 전망이다.
안토니우 구테흐스 유엔 사무총장은 지난 16일 기자들과 만나 "AI 개발 최전선에 있는 사람들이 제기한 우려를 외면해서는 안 된다"며 "AI는 다음 주 세계 정상들과의 논의에서 분명 주요 주제가 될 것"이라고 말했다.
이 문제를 논의할 별도의 안보리 회의도 오는 23일 열린다. 9월 안보리 의장국인 프랑스가 소집한 회의로, 장노엘 바로 프랑스 유럽·외무장관이 주재한다.
프랑스는 회의 콘셉트 노트에서 "AI에 대한 통제력 상실 위험이나 최신 AI 모델이 국제 평화와 안보에 영향을 미치는 행위를 개발·촉진·수행하는 데 활용될 위험에 대한 분석을 제시하는 자리가 될 것"이라고 설명했다.
로이터 통신은 오픈AI 대변인을 인용해 올트먼 CEO가 이 회의에서 브리핑할 예정이라고 전했다.
올트먼 CEO는 다리오 아모데이 앤트로픽 CEO와 함께 AI가 인간의 통제를 벗어날 수 있다고 적극적으로 경고하면서 주목받고 있다.
이튿날인 24일에는 AI 안전단체 'AI 세이프티 커넥트'가 주도하고 유엔개발계획(UNDP)·유네스코, 일부 회원국 대표부 등이 공동 주최하는 AI 위기 대응 관련 부대행사도 유엔본부에서 열린다.
이 자리에서는 AI 모델 출시 전 안전성 시험과 독립적인 제3자 평가, 글로벌 공통 안전기준 마련, AI 관련 위기 발생 시 국제 공조 방안 등이 논의될 예정이다.
관심은 기업들의 경고와 안전 약속이 구체적인 국제 협력으로 이어질 수 있을지에 쏠린다.
AI 거버넌스 전문가이자 'AI 세이프티 커넥트' 공동설립자인 니콜라 미아유는 "이번 총회가 기업의 안전 약속에 국제사회가 무엇을 요구하고 누가 이를 감시할지 정하는 구상이 구체화하기 시작하는 계기가 될 수 있다"고 말했다.
그는 그 구상을 어떤 형태로 만들지 합의하고 실제로 실행에 옮기는 일이 더 어려운 과제가 될 것이라고 전망했다.



구테흐스 사무총장도 AI를 개별 국가 대응만으로 해결하기 어려운 문제로 규정하며 국제 공조를 촉구하고 있다.
그는 AI 개발 역량이 높은 국가들이 정보를 교환하고 투명성을 확보할 장치와 안전장치를 마련해야 하며, 궁극적으로 위험을 방지할 다자 체제를 구축하는 데 기여해야 한다고 강조했다.
다만 AI 주도권을 둘러싼 미국과 중국의 경쟁이 치열한 상황에서 공통 기준 마련에 빠른 진전이 어려울 수 있다는 관측도 많다.
미국은 AI 규제가 중국에 기술적 우위를 내줄 수 있다는 점을 경계하는 반면 중국은 미국이 AI 기술의 우위를 독점하려 한다며 반발하고 있다.
유엔총회 고위급 주간 직후 이어지는 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담에서도 AI 문제가 논의될 것으로 예상되는데 유엔에서 제기된 AI 안전 공조 논의가 미중 정상회담에서의 협의로 이어질지도 관심이다.
sj9974@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>