빅데이터 분석 기업 팰런티어가 인공지능(AI) 개발 병목 현상을 일으키고 있는 '전력난' 문제를 해결하기 위한 소프트웨어를 출시했다.
팰런티어는 4일(현지시간) 유틸리티 기업 및 AI 데이터센터 건설사를 위한 통합 운영체제(OS) '체인리액션'을 공개했다. 이 시스템은 발전소 가동 현황부터 송배전망 상태, 데이터센터 건설 공급망까지 실시간으로 보여준다. 팰런티어의 기업용 플랫폼 '파운드리'를 기반으로 제작됐다. 팰런티어는 현재 유틸리티 기업용 데이터 통합 플랫폼인 '그리드360'도 PG&E, 서던캘리포니아에디슨 등에 공급하고 있다.
이번 프로젝트에는 엔비디아와 미국 주요 유틸리티 기업인 센터포인트에너지가 파트너로 합류했다. 엔비디아는 자체 AI 모델 '네모트론'과 가속 라이브러리 '쿠다-X'를 체인리액션에 이식한다. 이를 통해 복잡한 공급망 데이터를 분석해 자재 조달 지연이나 병목 현상을 사전에 예측하게 된다. 텍사스, 인디애나, 미네소타, 오하이오 등 미국 중남부 4개 주에 전력을 공급하는 센터포인트에너지는 체인리액션을 현장에 도입하기로 했다.
트리스탄 그루스카 팰런티어 에너지·인프라 책임자는 "발전사와 건설사 등 각 주체의 지연 사유가 맞물려 전체 프로젝트를 늦추고 있다"고 지적했다. 그는 "체인리액션은 흩어진 상호의존성을 통합 관리해 인프라 구축 속도를 높일 것"이라고 했다. 저스틴 보이타노 엔비디아 부사장도 "데이터센터 구축은 전 세계가 얽힌 복잡한 공급망"이라며 협력 필요성을 강조했다.
빅테크들이 전력 인프라에 사활을 거는 이유는 명확하다. 급증하는 AI 전력 수요에 비해 전력 공급 증가 속도가 더디기 때문이다. 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 "우리가 직면한 가장 큰 문제는 전력 공급과 발전 시설 구축 능력이 부족하다는 것"이라고 지적하며 데이터센터 건설을 늦추고 있다. 이 경우 엔비디아의 그래픽처리장치(GPU) 매출 둔화도 불가피할 것으로 보인다.
AI 모델이 '추론' 능력을 갖추면서 전력 수요는 폭발적으로 증가하고 있다. 복잡한 수학 문제나 코딩 등 다단계 사고 과정을 거치는 추론 모델이 일반 AI 모델보다 전력을 훨씬 많이 소모하기 때문이다. 지난해 오픈AI가 최초의 추론형 AI모델 o1을 출시한 이후 추론 모델은 업계 표준으로 자리잡고 있다.
추론 모델이 전력 소모량이 더 크다는 주장은 이날 구체적인 수치로 입증됐다. 사샤 루치오니 허깅페이스 연구과학자와 보리스 가마자야치코프 세일즈포스 AI 지속가능성 책임자 등이 이끄는 'AI 에너지 스코어' 프로젝트팀은 이날 주요 AI 모델 40개의 전력 소모량을 테스트한 벤치마크 결과를 공개했다. 연구진이 동일한 하드웨어 환경에서 프롬프트 1000개를 입력한 결과, 추론 기능을 활성화한 모델은 일반 모델보다 평균 100배 더 많은 전력을 사용하는 것으로 나타났다.
중국 딥시크의 R1 축소 버전은 추론 기능을 껐을 때 50와트시(Wh) 전력을 소모했으나 추론 기능을 활성화하자 전력 소비량은 30만8186Wh로 폭증했다. MS '파이4(Phi-4)' 모델 역시 추론 기능을 껐을 때는 18Wh를, 켰을 때는 9462Wh를 기록했다.
실리콘밸리=김인엽 특파원 inside@hankyung.com
관련뉴스
