삼성전자와 SK하이닉스가 인공지능(AI) 시대의 메모리 해법으로 ‘계층형 메모리’를 제시했다. 속도와 용량이 다른 D램과 낸드플래시를 용도에 맞게 배치해 AI 연산 효율을 높이겠다는 구상이다.기양석 삼성전자 DS부문 상무는 6일(현지시간) 미국 샌타클래라에서 열린 메모리·스토리지 콘퍼런스 ‘FMS2026’의 엔비디아 주최 패널 세션에서 “앞으로 저장장치는 D램에 가까운 초고성능 스토리지와 초고용량 데이터를 처리하는 대용량 스토리지 등 두 축으로 발전할 것”이라고 말했다.
기 상무는 AI 작업 성격에 따라 메모리가 달라진다고 설명했다. 챗봇 대화나 코딩처럼 즉시 응답이 필요한 ‘인터랙티브 처리’에는 빠른 메모리가 쓰이고, 대규모 문서·영상을 한꺼번에 처리하는 ‘배치 처리’에는 속도가 다소 느리더라도 값싸고 비싼 낸드플래시를 활용할 여지가 커진다는 설명이다. 그는 “고대역폭메모리(HBM)만으로는 AI 요구를 충족하기 어렵다”며 “HBM과 D램, 낸드플래시를 유기적으로 연계한 계층형 메모리 구조가 AI 시스템의 핵심”이라고 말했다.
SK하이닉스도 비슷한 해법을 내놨다. 임의철 SK하이닉스 부사장은 ‘고대역폭플래시(HBF)로 메모리의 벽을 넘다’ 세션에서 HBM과 HBF를 결합한 ‘하이브리드 메모리 아키텍처’를 해법으로 제시했다. HBF는 낸드플래시를 HBM처럼 쌓아 대역폭을 높인 차세대 메모리다. HBM보다 용량이 크고 낸드플래시보다 연산이 빠르다. AI 추론 과정에서 모든 데이터를 값비싼 HBM에 올려두는 대신, 상대적으로 접근 빈도가 낮은 데이터는 HBF에 저장한다.
라지브 나가비라바 샌디스크 부사장은 “HBF는 AI 추론에서 데이터 읽기 중심의 메모리 계층을 담당할 수 있다”고 했다. 샤오위 마 구글 딥마인드 연구원도 “HBF를 통해 고대역폭과 에너지 효율성을 동시에 확보할 수 있다”고 말했다.
HBF를 실제 AI 시스템에 적용하기 위한 과제도 남아 있다. 임 부사장은 “AI칩 설계와 대규모언어모델(LLM) 전문가, 소프트웨어 엔지니어 등이 다양한 영역에서 협업해 완성도 높은 규격을 만들어가야 한다”고 했다.
실리콘밸리=김인엽 특파원 inside@hankyung.com
관련뉴스
