지난 10월 30일, 제주 스타트업베이서 열린 "NPU 기반 디지털 병원 실증 사례" 세미나에서 국산 AI 반도체(NPU)를 활용한 의료 AI 서비스의 테스트 실증에 대한 사례 발표가 있었다.
해당 실증은 NIPA(정보통신산업진흥원) AI 반도체 Farm 구축 및 실증 사업을 통해 진행된 프로젝트다. GPU 기반의 서비스를 국산 NPU 기반 서비스로 재개발하는 내용으로 진행됐으며, 이번 실증에서 유의미한 결과물이 나왔다고 보고됐다.
이번 발표는 GPU 기반의 AI 응용 서비스를 국내 NPU 인프라 위에서 구동될 수 있음을 증명한 것으로, 구체적 기술 전환 사례와 객관적 수치가 나온 결과로 평가된다.
WGIMC의 디지털 의료센터장 신현묵 CIO는 "기존 GPU로 동작하는 EEG(뇌파) 데이터 기반의 우울증 서비스의 추론 기능을 NPU로 전환하여 실증 테스트를 진행한 것에서 유의미한 결과값이 도출됐다"고 설명했다.
그는 이어 "기존의 GPU에서 구동되는 서비스와 비교하여, 특정 모델의 경우 NPU에 개발 최적화함으로써 더 효율적인 수행 결과물을 얻을 수 있는 가능성을 입증했다"고 덧붙였다.
위루비 박세진 대표는 '정부와 스타트업의 기술 성장 협업'을 통해 진행된 실증 사업의 목표와 성과를 설명했다. 실증 목표는 이번 사업을 통해 NHN 클라우드 인프라를 기반으로 한 국산 NPU 환경에서 뇌파 분석 AI 서비스인 'MonoCare'가 실질적으로 구동될 수 있음을 증명하는 것이었다.
위루비 손덕진 기술 이사는 'GPU에서 NPU로-MonoCare의 실사용 데이터를 통한 서비스 전환 사례'를 발표하며 구체적인 변환 성과를 공개했다. 손덕진 이사는 "기술적 어려움을 극복하고 전환 후 진행된 제3자 테스트에서 GPU 대비 만족스러운 추론 성능을 확인했다"고 밝혔다.
특히, 특정 모델로 변환된 뇌파 데이터 처리 시 평균 처리 시간이 약 17ms를 기록했는데, 이는 기존 A100 GPU의 32ms 대비 약 2배 빠른 수치다. 손 이사는 "이 결과값은 모든 경우에 해당하지는 않지만, NPU에 적합한 모델 선택과 최적화 작업을 통하여 위루비 측은 전성비, 처리량, 정확도 등 다방면에서 의미 있는 우위를 달성하고, NPU가 이미지 추론(Inference) 영역에서 의료 서비스 분야에 매우 유용함을 입증했다"고 강조했다.
한경잡앤조이 온라인뉴스팀 기자 jobnjoynews@hankyung.com
관련뉴스
