"AI, 이대로 가면 인류 멸망 엔딩"…섬뜩한 경고 또 나왔다

앤트로픽 및 구글 출신 연구원이 미국 뉴욕시의회 청문회에서 인공지능(AI) 개발 경쟁의 위험성을 경고했다. 그는 지난달 앤트로픽을 그만두면서 앤트로픽과 오픈AI가 "우리의 목숨을 걸고 도박하고 있다"고 비판했다.

5일(현지시간) 블룸버그 통신과 CNBC 방송에 따르면 제이컵 콕슨 전 앤트로픽 연구원은 뉴욕시의회 AI 청문회에 출석해 "우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다"며 "현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크며 이는 인류 멸종으로 끝날 수도 있다"고 말했다.

콕슨은 AI 규제 법안 패키지를 추진 중인 줄리 메닌 시의회 의장 요청으로 이날 청문회에 섰다. 그러면서 뉴욕시의회가 검토 중인 AI 긴급 차단 장치(킬 스위치)에 대해서는 "단기적으로 도움이 될 수 있지만 장기적으로 안전을 보장하기에 충분하지 않다"고 지적했다.

알렉스 터너 전 구글 딥마인드 연구원은 이날 화상 증언에서 "중국만이 잠재적 적이 아니다"며 "우리는 상당히 높은 확률로 국내에서 우리 자신의 적인 정렬되지 않은 AI를 개발하기 위해 경쟁하고 있다. 이는 언젠가 중국보다 강력해질 수 있다"고 말했다.

이날 청문회에는 오픈AI와 앤트로픽, 구글, 메타플랫폼 관계자도 화상으로 출석해 선서한 뒤 증언했다. 트럼프 행정부가 AI 규제에 대체로 불개입 기조를 유지하는 가운데 뉴욕 등 주·지방정부가 독자 규제에 속도를 내는 분위기다.

최수진 한경닷컴 기자 naive@hankyung.com