유엔안보리 모인 AI업계 리더들, 국제 공조 촉구…美는 반대(종합)

유엔안보리 모인 AI업계 리더들, 국제 공조 촉구…美는 반대(종합)
벤지오 "전례없는 위협…한 국가가 단독 통제 못해"
올트먼 "통제 증명 못하는 AI 훈련 말아야"…아모데이 "작은 합의부터 시작"
美당국자 "슈퍼지능 통제 위한 글로벌리스트 체제 반대"



(뉴욕=연합뉴스) 김연숙 특파원 = 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO 등 AI 업계 인사들이 23일(현지시간) 유엔 안전보장이사회(안보리) 회의에 참석, AI의 위험성을 경고하며 국제 공조를 촉구했다.
안보리는 이날 미 뉴욕 유엔본부에서 유엔총회 고위급 회의를 계기로 'AI와 국제 안보'를 주제로 회의를 열었다.
회의에는 안보리 회원국 대표단뿐만 아니라 AI 업계의 주요 인사들이 참석해 급속도로 진화하는 AI의 명과 암을 짚으며, 국제 거버넌스 구축의 시급성을 역설했다.
AI 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수는 "최근 AI 에이전트들이 지시를 거부하고, 인간이었다면 범죄가 될 행동들을 했다"며 "기업들조차 자사 제품이 파국적인 위험을 초래할 수 있음을 인정하면서도 설득력 있는 기술적 해결책은 제시하지 못하고 있다"고 지적했다.



벤지오 교수는 "(안보리는) 전례 없는 위협에 직면해 있다"며 "어느 회원국도 원치 않고, 단독으로 통제할 수 없으며, 국경조차 무시하는 위협"이라고 강조했다.
그는 "오늘날 소수의 기업과 국가들이 인류의 운명을 걸고 무모한 위험을 감수하며 자국의 이익만을 좇고 있다"며 이를 바로잡기 위해 ▲ AI 관련 사고에 대한 공통된 정의·보고 체계 마련 ▲ 공공의 선을 위한 글로벌 기술 개발 방안 논의 ▲ 국제 합의를 바탕으로 설계 단계부터 안전성을 보장하는 AI 기술적 해결책 마련 등을 제시했다.
올트먼 오픈AI CEO 역시 AI가 "새로운 르네상스" 또는 "새로운 산업혁명"이 될 수 있다면서도, 통제력을 상실하거나 소수에게 권력이 집중되는 위험성을 지적했다.
그는 "재앙의 위험이 10%, 1%, 1.2%, 0.1%든, 어느 수준도 전혀 용납할 수 없다"며 "인간의 통제 아래 유지할 수 있다는 매우 강력한 근거를 제시할 수 없는 모델은 훈련해서는 안 된다"고 촉구했다.
그는 AI 관련 결정을 '샌프란시스코의 연구소'들에만 맡겨서는 안 된다며, 민주적 절차와 정부 공조를 통한 글로벌 AI 거버넌스 표준 마련의 필요성을 역설했다.
뒤이어 화상으로 참석한 아모데이 앤트로픽 CEO도 AI 기술이 향후 1∼2년 후면 '데이터 센터 속 천재들의 나라' 수준에 도달할 것이라며, 혁신적인 혜택 뒤에 가려진 '오용'과 '통제력 상실'의 위험을 경고했다.
아모데이 CEO는 "위험 관리는 궁극적으로 한 기업의 역량을 넘어 업계 전반과 전 세계의 문제"라며 안보리 차원에서 'AI를 이용한 생물학 무기 제조 금지' 등 구체적인 합의부터 추진해야 한다고 주장했다.
또 AI 개발 속도에 맞춘 평가·검증 시스템을 구축하고, 통제력 상실 및 오용 위험 테스트를 위한 글로벌 표준과 중대 사고 알림 시스템이 필요하다고 제언했다.
반면 미국은 AI에 대한 국제 규제에 반대한다는 입장을 분명히 했다.
마이클 크라치오스 백악관 과학기술정책실장은 회의에서 "우리의 주 책무는 '슈퍼지능'(SI)의 발전이 시민들에게 혜택을 주고 자유와 삶의 방식을 보호하도록 보장하는 것"이라며 기술의 급속한 발전이 "추가 개발을 중단하거나 새로운 글로벌 거버넌스 체제로 이를 제약해야 할 이유는 되지 않는다"고 밝혔다.
크라치오스 국장은 전날 유엔총회에서 도널드 트럼프 대통령이 한 연설을 언급하며 "미국은 슈퍼지능을 통제하기 위한 글로벌리스트 체제를 구축하려는 어떠한 시도도 전적으로 거부한다"
nomad@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>