<앵커>
최근 구글과 메타 등 빅테크 기업들이 효율성을 강조하는 경량형 AI 모델을 내놨습니다.
비용과 전력소모를 낮추기 위한 목적인데, 이에 맞춰 저전력, 고효율의 메모리 수요가 증가하고 있습니다.
모바일용 HBM으로 불리는 LPW 기술도 새로운 대안으로 떠오르고 있습니다.
자세한 내용 산업부 홍헌표 기자와 알아보겠습니다.
빅테크들이 왜 경쟁적으로 경량형 AI 모델 개발에 나선거죠?
<기자>
구글과 메타가 잇따라 경량형 AI를 새로 선보였습니다.
구글이 내놓은 ‘젬마4’는 경량형과 온디바이스 AI의 대표적인 사례입니다.
스스로 판단하고 행동하는 '에이전트' 기능을 소형 모델에서도 구현한 것이 특징입니다.
메타가 공개한 AI '뮤즈 스파크‘는 연산 효율성을 극대화한 AI입니다.
이전 모델인 라마4 대비 1/10 수준의 연산으로도 비슷한 성능을 갖췄다는 평가입니다.
이 AI는 향후 메타의 스마트 안경과 같은 저전력 하드웨어 기기에 직접 탑재될 전망입니다.
최근 온디바이스 AI와 에이전트 AI가 확산하면서 AI의 효율성이 강조되고 있습니다.
AI가 데이터센터를 거치게 되면 추론에서 지연시간이 발생하기 때문에 기기 자체에서 추론하는 방식으로 변화하고 있습니다.
데이터센터가 아닌 상대적으로 작은 스마트폰, 태블릿에서의 직접 연산이 늘어나다보니 경량형 AI의 필요성이 증대되는 겁니다.
이 때문에 온디바이스용 AI는 연산과 전력에서 모두 최대 효율을 내는 방향으로 변화하고 있습니다.
<앵커>
AI 모델이 가벼워지면 여기에 들어가는 메모리도 바뀔 수 밖에 없는데, 저전력 메모리인 LPDDR 수요로 이어지겠네요?
<기자>
경량형 AI와 온디바이스 AI가 늘면서 LPDDR 수요도 급증하고 있습니다.
LPDDR은 그동안 스마트폰에 주로 탑재돼 왔는데, AI 메모리로 확장하면서 시장이 커지고 있습니다.
지난해 시장규모가 약 250억 달러(약 37조 원)에서 오는 2030년에는 500억 달러(약 74조 원)으로 두 배 커질 것이란 전망입니다.
온디바이스 AI는 주로 스마트폰이나 노트북, 스마트워치 등 작은 기기에서 활용되기 때문에 저전력이 필수입니다.
최근 AI 메모리의 흐름은 GPU를 활용한 고성능 학습에는 HBM을 쓰고, 효율적인 추론을 위해서는 LPDDR을 탑재하고 있습니다.
AI 추론 서버에서 HBM 대신 LPDDR5X 나 LPDDR6를 쓰면 비용을 1/10로 줄일 수 있다는 장점도 있습니다.
이에 젠슨 황도 GTC에서 LPDDR의 중요성에 대해 강조하기도 했습니다.
삼성전자와 SK하이닉스는 HBM 뿐만 아니라 LPDDR5X와 LPDDR6 시장에서 치열하게 경쟁하는 상황입니다.
삼성은 지난해 말 LPDDR6를 세계 최초로 개발했다고 밝혔고, SK하이닉스는 3월 세계 최초로 1c LPDDR6 제품 개발 인증을 완료했다고 발표했습니다.
<앵커>
최근 LPW라는 새로운 형태의 메모리 기술도 주목받고 있는데, 모바일용 HBM으로 떠오르고 있다구요?
<기자>
여기서 또 중요하게 다뤄질 부분이 LPW(Low Power Wide) 라는 개념입니다.
LPW는 데이터의 통로라고 할 수 있는 입출력(I/O) 채널을 넓혀 효율을 높이면서도 전력은 낮춘 차세대 기술입니다.
단어 그대로 전력 효율을 최적화(Low Power)하고 데이터폭은 확장(Wide)하는 방법입니다.
지금의 LPDDR보다 더 고효율·저전력을 구현하기 위한 기술로 이 메모리를 ‘모바일계의 HBM’으로 비유하기도 합니다.
앞으로 경량형 AI 모델 시장을 바꿀 새로운 메모리라는 평가도 나옵니다.
LPDDR이 입출력(I/O) 통로가 16개~32개라면 LPW는 8~16배 넓은 128~512개입니다.
LPDDR은 빠른 박자(클럭)로 계산하는데, LPW는 상대적으로 느립니다.
비유하지면 LPDDR은 2차선 도로를 시속 200km로 달리고, LPW는 16차선 도로를 시속 60km로 달리는 개념입니다.
이 기술은 차세대 메모리이기에 규격 제정이 진행되고 있어서 명칭을 회사마다 다르게 부르고 있습니다.
삼성전자는 LPW 기술이 들어간 메모리를 LLW(Low Latency Wide I/O) 라고 따로 네이밍했습니다.
SK하이닉스는 V-LPDDR(버티컬 LPDDR) 혹은 커스텀 LPDDR로 부릅니다.
지금 시점에서는 삼성이 조금 더 구체적인 계획을 내놨는데, 삼성은 이 LPW D램을 오는 2028년 상용화할 예정입니다.
<앵커>
잘 들었습니다.
최근 구글과 메타 등 빅테크 기업들이 효율성을 강조하는 경량형 AI 모델을 내놨습니다.
비용과 전력소모를 낮추기 위한 목적인데, 이에 맞춰 저전력, 고효율의 메모리 수요가 증가하고 있습니다.
모바일용 HBM으로 불리는 LPW 기술도 새로운 대안으로 떠오르고 있습니다.
자세한 내용 산업부 홍헌표 기자와 알아보겠습니다.
빅테크들이 왜 경쟁적으로 경량형 AI 모델 개발에 나선거죠?
<기자>
구글과 메타가 잇따라 경량형 AI를 새로 선보였습니다.
구글이 내놓은 ‘젬마4’는 경량형과 온디바이스 AI의 대표적인 사례입니다.
스스로 판단하고 행동하는 '에이전트' 기능을 소형 모델에서도 구현한 것이 특징입니다.
메타가 공개한 AI '뮤즈 스파크‘는 연산 효율성을 극대화한 AI입니다.
이전 모델인 라마4 대비 1/10 수준의 연산으로도 비슷한 성능을 갖췄다는 평가입니다.
이 AI는 향후 메타의 스마트 안경과 같은 저전력 하드웨어 기기에 직접 탑재될 전망입니다.
최근 온디바이스 AI와 에이전트 AI가 확산하면서 AI의 효율성이 강조되고 있습니다.
AI가 데이터센터를 거치게 되면 추론에서 지연시간이 발생하기 때문에 기기 자체에서 추론하는 방식으로 변화하고 있습니다.
데이터센터가 아닌 상대적으로 작은 스마트폰, 태블릿에서의 직접 연산이 늘어나다보니 경량형 AI의 필요성이 증대되는 겁니다.
이 때문에 온디바이스용 AI는 연산과 전력에서 모두 최대 효율을 내는 방향으로 변화하고 있습니다.
<앵커>
AI 모델이 가벼워지면 여기에 들어가는 메모리도 바뀔 수 밖에 없는데, 저전력 메모리인 LPDDR 수요로 이어지겠네요?
<기자>
경량형 AI와 온디바이스 AI가 늘면서 LPDDR 수요도 급증하고 있습니다.
LPDDR은 그동안 스마트폰에 주로 탑재돼 왔는데, AI 메모리로 확장하면서 시장이 커지고 있습니다.
지난해 시장규모가 약 250억 달러(약 37조 원)에서 오는 2030년에는 500억 달러(약 74조 원)으로 두 배 커질 것이란 전망입니다.
온디바이스 AI는 주로 스마트폰이나 노트북, 스마트워치 등 작은 기기에서 활용되기 때문에 저전력이 필수입니다.
최근 AI 메모리의 흐름은 GPU를 활용한 고성능 학습에는 HBM을 쓰고, 효율적인 추론을 위해서는 LPDDR을 탑재하고 있습니다.
AI 추론 서버에서 HBM 대신 LPDDR5X 나 LPDDR6를 쓰면 비용을 1/10로 줄일 수 있다는 장점도 있습니다.
이에 젠슨 황도 GTC에서 LPDDR의 중요성에 대해 강조하기도 했습니다.
삼성전자와 SK하이닉스는 HBM 뿐만 아니라 LPDDR5X와 LPDDR6 시장에서 치열하게 경쟁하는 상황입니다.
삼성은 지난해 말 LPDDR6를 세계 최초로 개발했다고 밝혔고, SK하이닉스는 3월 세계 최초로 1c LPDDR6 제품 개발 인증을 완료했다고 발표했습니다.
<앵커>
최근 LPW라는 새로운 형태의 메모리 기술도 주목받고 있는데, 모바일용 HBM으로 떠오르고 있다구요?
<기자>
여기서 또 중요하게 다뤄질 부분이 LPW(Low Power Wide) 라는 개념입니다.
LPW는 데이터의 통로라고 할 수 있는 입출력(I/O) 채널을 넓혀 효율을 높이면서도 전력은 낮춘 차세대 기술입니다.
단어 그대로 전력 효율을 최적화(Low Power)하고 데이터폭은 확장(Wide)하는 방법입니다.
지금의 LPDDR보다 더 고효율·저전력을 구현하기 위한 기술로 이 메모리를 ‘모바일계의 HBM’으로 비유하기도 합니다.
앞으로 경량형 AI 모델 시장을 바꿀 새로운 메모리라는 평가도 나옵니다.
LPDDR이 입출력(I/O) 통로가 16개~32개라면 LPW는 8~16배 넓은 128~512개입니다.
LPDDR은 빠른 박자(클럭)로 계산하는데, LPW는 상대적으로 느립니다.
비유하지면 LPDDR은 2차선 도로를 시속 200km로 달리고, LPW는 16차선 도로를 시속 60km로 달리는 개념입니다.
이 기술은 차세대 메모리이기에 규격 제정이 진행되고 있어서 명칭을 회사마다 다르게 부르고 있습니다.
삼성전자는 LPW 기술이 들어간 메모리를 LLW(Low Latency Wide I/O) 라고 따로 네이밍했습니다.
SK하이닉스는 V-LPDDR(버티컬 LPDDR) 혹은 커스텀 LPDDR로 부릅니다.
지금 시점에서는 삼성이 조금 더 구체적인 계획을 내놨는데, 삼성은 이 LPW D램을 오는 2028년 상용화할 예정입니다.
<앵커>
잘 들었습니다.
관련뉴스
