HBM 다음은 '빛'…SK하이닉스, AI 데이터 병목 뚫는다

SK하이닉스가 반도체 칩 사이의 데이터를 빛으로 전송하는 차세대 광 연결 기술인 'CPO'의 로드맵을 제시했다.

SK하이닉스는 글로벌 연구진과 공동으로 작성한 '고성능 컴퓨팅 및 인공지능을 위한 CPO 기술' 논문을 국제학술지 '네이처 일렉트로닉스'에 게재했다고 20일 밝혔다.

홍승훈 SK하이닉스 AI 인프라 팀장과 이규상 미국 버지니아대 전기컴퓨터공학과 교수를 비롯해 일리노이대 어바나-샴페인, 난양공대, 매사추세츠공대(MIT), 연세대 연구진 등도 참여했다.

CPO는 반도체 칩과 칩 사이를 기존 전기 신호 대신 빛으로 연결해 데이터 전송 속도와 에너지 효율을 높이는 기술이다.

생성형 AI 시대를 이끌어온 고대역폭메모리(HBM)는 AI 가속기의 패키지 내 메모리 병목을 해결하며 성능 혁신을 주도했다.

하지만 수천 개의 그래픽처리장치(GPU)와 HBM이 엮인 초대형 클러스터가 등장하면서 칩과 시스템 사이에서 발생하는 데이터 이동 병목 현상이 새로운 과제로 떠올랐다.

연구진은 이번 논문에서 프로세서와 메모리를 광으로 연결하는 '옵틱스 중심 아키텍처'를 차세대 AI 인프라의 발전 방향으로 제시했다.

이 교수는 "저전력 광소자 집적부터 일관성 프로토콜, 신뢰성 기술까지 풀어야 할 과제가 많지만, 결국 핵심은 메모리 소자와 컨트롤러, 광소자, 패키지를 하나의 시스템으로 공동설계 하는 것"이라고 설명했다.

SK하이닉스는 장기적으로 광 연결을 메모리 인터페이스까지 확대한다는 구상이다.

이를 통해 메모리 공급사의 역할을 HBM 등 개별 제품에서 랙과 포드 단위의 AI 시스템 설계로 넓힐 계획이다.