"제2의 HBM 찾아라"…'AI 병목' 돌파에 사활 건 韓 이공계대학

삼성전자와 SK하이닉스가 내년 도합 약 1000조원의 역대급 영업이익을 거둘 수 있다는 전망이 나온다. 인공지능(AI) 컴퓨팅의 과제이던 메모리 병목을 해결한 고대역폭메모리(HBM)에서 주도권을 쥔 덕이다. HBM은 기업에서 꽃을 피웠지만 아이디어가 처음 잉태된 곳은 KAIST 연구실이다.


김정호 KAIST 전기전자공학부 교수는 D램을 수직으로 쌓고 그 사이를 실리콘관통전극(TSV)으로 연결하는 기술을 1990년대부터 연구했다. 그러던 중 메모리 병목을 해결하고자 한 AMD와 SK하이닉스가 김 교수를 찾았고, 산학이 협력한 덕에 2013년 HBM이 세상에 나왔다.

AI의 병목은 이제 컴퓨팅을 구성하는 모든 요소로 번지고 있다. 메모리뿐 아니라 데이터 전송 속도, 전력 소모, 발열 등 많은 분야에서 한계가 찾아오고 있다. 이에 국내 이공계 특성화대학들은 이런 병목을 뚫어줄 ‘제2의 HBM’ 개발에 사활을 걸고 있다. UNIST(울산과학기술원)는 지난해 세계 주요 학술지에 반도체 관련 논문 109건을 게재했다. 생성형 AI에 대한 관심이 비교적 낮던 10년 전(36건) 대비 202% 늘었다. KAIST도 마찬가지다. 지난해 우수 학술논문 인용 데이터베이스 ‘스코푸스(SCOPUS)’ 등재 기준 KAIST의 반도체 논문은 819건으로 2년 연속 증가세를 보였다.

“적게 쓰고 더 많이 계산한다”

AI 컴퓨팅의 핵심은 최소한의 전력과 자원으로 최대한의 연산 품질을 구현하는 것이다. 동일한 결과물이라도 더 적은 메모리와 연산 칩, 전력을 사용하는 방향으로 기술이 발전하고 있다. 국내 연구진은 복잡한 계산을 단순화하거나 정보를 압축해 메모리 부담을 덜어주는 기술 개발에서 성과를 보이고 있다. 김용준 포스텍 교수팀은 지난달 통신 과정에서 발생한 데이터 오류를 고치는 AI 기술인 ‘이피션트MPT(EfficientMPT)’를 개발했다. 기존 AI 모델은 데이터가 길어질수록 계산량이 눈덩이처럼 불어나지만, 연구팀은 이를 가벼운 ‘벡터 연산’ 방식으로 재설계했다. 결과적으로 메모리 사용량을 최대 91% 줄였다.

차세대 AI 전장으로 꼽히는 피지컬 AI 분야에서 메모리 효율을 높이는 기술 또한 성과를 내고 있다. 피지컬 AI는 언어 외에도 다양한 감각의 데이터를 받아들이기 때문에 데이터의 복잡도와 규모가 더 크다. 김창익 KAIST 교수팀은 AI가 세상을 보는 눈의 효율을 높였다. ‘업샘플 애니싱(Upsample Anything)’ 기술로 AI 시각 처리의 오랜 딜레마를 푼 것이다.

AI는 연산 부담을 줄이기 위해 입력 이미지를 원본의 14~16분의 1 수준으로 압축해 처리하는데, 이 과정에서 작은 물체나 미세한 결함 같은 중요한 정보가 사라진다. 그렇다고 처음부터 고해상도로 처리하면 데이터가 급격히 불어나 스마트폰과 로봇처럼 자원이 제한된 기기에는 쓸 수 없다. 이 기술은 압축된 저해상도 정보를 추가 학습 없이 고해상도로 복원해 그래픽처리장치(GPU) 메모리 사용량을 최대 16분의 1로 줄여준다. 김창익 교수는 “적은 자원으로도 시각 인식을 정밀하게 할 수 있어 휴머노이드 로봇이나 온디바이스 기술 상용화를 앞당길 것”이라고 말했다. 유정우·손창희 UNIST 교수팀은 제3의 자성 소재인 산화루테늄을 활용해 기존 반도체 소자의 속도 한계를 돌파하고 에너지 효율을 극대화하는 기술을 개발했다.

“전력 줄이고 열은 식힌다”

AI가 ‘전력 먹는 하마’가 되면서 전력 효율을 높이고 뜨거워진 칩을 식히는 기술이 성능의 핵심 지표가 되고 있다. 김성진·이익진 KAIST 교수팀은 반도체 칩 내부에 머리카락보다 가는 미세한 물길을 만들어 열을 직접 식히는 액체 냉각 기술을 개발했다. 거대한 물류센터 한 곳에서 배송하는 대신 여러 지역의 작은 거점을 통해 물건을 보내는 것처럼 냉각수의 이동 거리를 줄여 에너지 손실을 최소화한 기술이다. 기존 방식보다 냉각에 드는 전력을 10분의 1 수준으로 줄이면서 세계 최고 수준의 효율을 달성했다.

김세영 포스텍 교수팀이 개발한 뉴로모픽 반도체는 사람의 뇌처럼 연산과 학습 기능을 하나의 소자에서 동시에 수행하도록 설계했다. 기존에는 두 기능을 따로 구현하느라 회로가 복잡해지고 전력이 많이 들었지만 이를 하나로 통합해 에너지 효율을 획기적으로 높였다.

스페이스X 상장으로 우주 시대가 본격화하며 반도체 기술은 이제 우주로 향하고 있다. 특히 태양광 전력만으로 작동하는 우주에서는 전원이 극도로 제한적인 만큼 저전력 기술이 더 중요해진다. 김명수 UNIST 교수팀이 개발한 다기능 ‘멤리스터 소자’는 이를 해결할 기술로 꼽힌다. 전원을 꺼도 정보를 기억하는 비휘발성 덕분에 대기 전력이 전혀 들지 않는 스위치 역할을 한다. 여기에 연산 기능까지 겸비해 데이터 이동 없이 회로 내부에서 직접 계산함으로써 지연 시간 병목도 없앴다.

UNIST 관계자는 “최근 국내 대학들이 내놓은 성과는 소재부터 소자, 알고리즘에 이르기까지 AI 컴퓨팅의 한계를 극복하는 데 초점이 맞춰져 있다”며 “이런 연구 결과를 통해 향후 AI 연산 아키텍처를 혁신하는 기술을 발명해낸다면 AI 인프라 부문에서 한국의 위상은 더욱 견고해질 것”이라고 말했다.

허진 기자 hjin@hankyung.com