"AI 개발 속도 늦추자" vs "중국만 좋은 일"

앙숙처럼 경쟁하던 미국 인공지능(AI) 기업 수장들이 최근 일제히 ‘AI 속도조절론’을 꺼내 들었다. AI가 인간의 도움 없이 코드를 짜고 더 뛰어난 AI를 개발하는 ‘재귀적 자기개선’(RSI) 단계에 가까워졌다는 판단에서다. AI 기업에서 시작된 안전론은 불과 이틀 만에 도널드 트럼프 미국 대통령과 젠슨 황 엔비디아 최고경영자(CEO)의 ‘가속론’과 정면충돌했다.

◇‘속도조절론’ 불 붙인 아모데이

논쟁에 불을 붙인 것은 다리오 아모데이 앤트로픽 CEO다. 아모데이는 최근 3800단어 분량의 장문을 통해 “위험 예방이 성능 향상을 따라잡을 수 있도록 개발 속도를 조절해야 한다”고 주장했다. 아모데이는 이날 글을 쓴 이유를 RSI, 즉 AI가 스스로 코드를 개발해 더 똑똑해지는 과정을 목격하고 있기 때문이라고 설명했다. 실제로 앤트로픽 AI가 한 번의 지시를 받고 스스로 작업할 수 있는 시간이 지난해 11월 5시간에서 최근 16시간으로 늘어났다.

지난 7월 오픈AI의 미공개 모델이 시험 과정에서 허깅페이스를 무단 해킹한 사례도 거론했다. 지금과 같은 속도로 AI의 자율성이 커지면 수개월 안에 인간이 통제하기 어려운 사이버 공격 능력을 갖출 수 있다는 주장이다. 아모데이는 AI 기업 내부에 제3자 안전 평가자를 상주시킬 것도 제안했다.

아모데이의 주장은 AI 업계에 파장을 일으켰다. 불과 열흘 전 주요 20개국(G20) 기술장관회의에서 지나친 AI 규제를 경계하던 AI 수장들이 일제히 입장을 뒤집고 동조했기 때문이다. 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X·xAI CEO, 데미스 허사비스 구글 딥마인드 공동창업자가 잇달아 아모데이의 문제의식에 동의했다. 올트먼 CEO는 한발 더 나아가 “안전과 관련해 벌어지는 상황을 고려하면 지금은 상장하기 적절하지 않다”며 올해 기업공개(IPO)를 하지 않겠다고 밝혔다. 지난 6월 미국 증권거래위원회(SEC)에 IPO 신청서를 내며 상장 절차에 들어간 지 석 달 만에 속도 조절에 나선 셈이다.

다만 이들의 진정성을 의심하는 시각도 적지 않다. 오픈AI가 최근 신규 모델 ‘GPT-6 아스트라’를 공개하며 독주 체제를 강화하자 컴퓨팅 용량 부족을 겪는 앤트로픽이 전략적으로 규제 카드를 꺼냈다는 분석이다. 재무 구조를 의심 받는 오픈AI 역시 상장 연기의 명분으로 안전성 이슈를 활용한다는 지적이 나온다. 데이비드 색스 미국 대통령 과학기술자문위원회 공동위원장은 “이들의 속도 조절 주장이 순전히 이타적이라고 믿어선 안 된다”고 일침을 가했다.

◇곧바로 ‘AI 가속론’과 충돌

속도조절론 논쟁은 일파만파 커졌다. 젠슨 황 CEO가 이후 행사에서 AI 멸종론을 “무책임하다”고 비판하던 도중 트럼프 대통령의 전화가 걸려 왔다. 생중계에서 스피커폰으로 연결된 트럼프 대통령은 “AI 사기극을 용납하지 않겠다”며 약 4분간 속도조절론을 강하게 비판했다.

트럼프 행정부가 속도조절론을 차단하고 나선 데는 경제와 중국이라는 두 변수가 있다. 트럼프 대통령은 취임 직후 미국을 ‘AI 세계 수도’로 만들겠다고 선언했다. 5000억달러 규모 스타게이트 프로젝트 등 AI 인프라 투자도 계속해왔다. 개발 속도를 늦추면 데이터센터와 반도체 투자에 제동이 걸리는 동시에 중국과의 AI 패권 경쟁에서도 불리해질 수 있다. 증시와 경기에도 악영향이 불가피하다.

속도조절론에 대해 중국 또한 동의하지 않을 가능성이 높다는 점에서 비현실적이란 지적도 나온다. 중국 관영 매체 글로벌타임스는 전날 “미국이 AI 안전을 명분으로 중국의 기술 발전을 억제하려고 한다”고 했다. 다만 미국 내 AI에 대한 불안감도 커지고 있다. AI 확산에 대한 퓨리서치 조사에서 ‘기대보다 걱정이 크다’는 응답은 52%로 ‘기대가 크다’는 응답(9%)을 크게 웃돌았다.

라현진 기자 raraland@hankyung.com