"우리 목숨 걸고 도박"…앤트로픽 떠난 AI 연구원 또 섬뜩한 경고

인공지능(AI) 개발로 인류가 멸망할 수도 있다고 경고하며 앤트로픽을 떠난 연구원이 "인류가 AI에 통제권을 잃을 가능성이 더 크다"고 미국 뉴욕시의회 청문회에서도 위기론을 일관했다.

앤트로픽 전 연구원 제이컵 콕슨은 5일(현지시간) 뉴욕시의회 AI 청문회에 출석해 "우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다"면서 이처럼 말했다고 5일(현지시간) 블룸버그 통신과 CNBC 방송이 보도했다.

그는 "현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크며, 이는 인류 멸종으로 끝날 수도 있다"고 말했다.

콕슨은 업계의 접근 방식에 대해 "극도로 무모하다"며 "(실리콘밸리의 오랜 격언인) '빠르게 움직이고 깨뜨려라'는 방식은 사진 공유 앱에는 통할지 몰라도 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다"고 강하게 비판했다.

그는 뉴욕시의회가 검토 중인 AI '킬 스위치'(긴급 차단 장치)에 대해 단기적으로는 도움이 될 수 있지만 장기적으로 안전을 보장하기에는 충분하지 않다며 "프런티어 모델 개발에 일종의 속도 조절이 필요하다"고 말했다.

지난달 앤트로픽을 그만두며 앤트로픽과 오픈AI가 "우리의 목숨을 걸고 도박을 하고 있다"고 비판한 콕슨은 이날 AI 규제 법안 패키지를 추진 중인 줄리 메닌 시의회 의장의 요청에 증언대에 섰다.

메닌 의장은 청문회 전 기자회견에서 "그저 자율 규제로 그칠 것이라는 AI 기업들의 생각은 통하지 않을 것"이라고 말했다.

이날 청문회에는 오픈AI와 앤트로픽, 구글, 메타플랫폼 관계자들도 화상으로 출석해 선서 후 증언했다. 오픈AI와 앤트로픽, 구글은 시의회가 소환장을 발부하겠다고 경고하자 출석을 결정했다.

메닌 의장은 출석 요청에 응하지 않은 스페이스X의 AI 부문에 대해 소환장을 집행해달라고 법원에 요청하겠다고 밝혔다.

트럼프 행정부는 AI 규제에 대체로 불개입 기조를 유지하고 있지만 뉴욕 등 주·지방정부는 독자 규제에 나서는 중이라 연방과 지방 간 엇박자가 커지고 있다.

(사진=연합뉴스)