구글도 딥시크도 메모리 다이어트

구글 등 글로벌 빅테크가 인공지능(AI) 구현에 필요한 메모리 사용량을 최소화하기 위한 소프트웨어 개발에 속도를 내고 있다. 그간 하드웨어 중심으로 가파르게 성장해온 글로벌 메모리 반도체 시장의 지형을 흔들 새로운 변수이자 위협 요인이 될 수 있다는 분석이 나온다.

5일 업계에 따르면 최근 구글, 아마존, 메타 등 글로벌 빅테크 간 ‘메모리 효율화 소프트웨어’ 확보 경쟁이 치열해지고 있다. 구글이 지난 3월 선보인 ‘터보퀀트’가 대표적이다. 터보퀀트는 AI 추론 작업 중 발생하는 정보인 키밸류(KV) 캐시를 압축한 기술이다. 메모리 사용량을 기존 대비 6분의 1로 줄이는 게 핵심이다. AI 고도화로 KV 캐시 급증이 골칫덩어리로 떠오르자 압축 소프트웨어를 통해 이를 해결했다. 구글 측은 “터보퀀트로 그래픽처리장치(GPU) 추론 속도가 최대 여덟 배 빨라질 수 있다”고 설명했다.

중국 딥시크도 ‘멀티헤드 레이턴트 어텐션(MLA)’이라는 기술을 선보였다. 딥시크는 MLA로 KV 캐시 사용량을 기존 대비 90~95% 줄일 수 있다고 주장했다.

빅테크가 소프트웨어 기술을 개발하는 건 반도체 가격이 천정부지로 치솟고 있기 때문이다. 글로벌 AI 인프라 투자 경쟁이 치열해지면서 HBM 품귀 현상이 갈수록 심화하는 데다 메모리 기업이 단기간 내 생산 능력을 확대하기 어려운 상황과 맞물린다.

이 같은 흐름은 한국 기업에 직접적인 위협이 될 수 있다는 지적이 나온다. 소프트웨어 고도화로 칩당 메모리 장착량이 줄어들면 메모리 수요 둔화와 가격 하락으로 이어지기 때문이다.

일각에선 소프트웨어 효율화가 오히려 장기적으로 메모리 사용량을 더 늘리는 기폭제가 될 수 있다는 반론도 제기된다. AI 서비스 운영 비용이 감소하면 온디바이스 AI, 로봇, 자율주행 등 전 산업 영역에서 AI 도입 문턱이 낮아질 것이라는 이유에서다.

강해령 기자 hr.kang@hankyung.com