프렌들리AI는 지난 4일 일본 도쿄에서 열린 ‘도쿄 AI’에 참석해 글로벌 AI 기업들과 교류하며 프렌들리AI의 우수성을 알리고 활용 및 협력 방안을 모색했다고 설명했다.
전병곤 프렌들리AI 대표는 ‘AI 성능 확장’이라는 주제로 글로벌 AI 기업인 사카나AI(Sakana AI), 리퀴드AI(Liquid AI) 관계자들과 함께 발표했다. 전 대표는 ‘GPU에서 생성형 AI의 추론을 가속하는 기술’에 대해 발표했다.
프렌들리AI는 생성형 AI 추론 가속화 분야에서 북미와 국내에서 헬스케어, 통신, 가전, 글쓰기, 소셜, 영상 등 다양한 기업에 AI 추론 가속화 운영 서비스를 제공하고 있다. 최근에는 ‘AI 에이전트’ 서비스로 확대하고 있다. LLM뿐 아니라 멀티 모달 모델 추론 서비스 등으로 빠르게 확장 중이다.
이번 도쿄AI 행사에서도 글로벌 AI 기업의 대표 연구개발진들과 다각도로 협력 방안을 모색했다고 프렌들리AI 관계자는 전했다. 프렌들리AI는 최근 세계 최대 AI·데이터 세트 플랫폼 허깅페이스와 전략적 파트너십을 체결하며 글로벌 AI 기업 및 개발자들의 주목을 받고 있다. 허깅페이스는 사실상 모든 AI 개발 연구진이 이용하는 AI 플랫폼이자 커뮤니티로, 글로벌 사용자가 700만명에 달한다.
프렌들리AI와 허깅페이스의 전략적 제휴로 허깅페이스 사용자들은 프렌들리AI의 생성형 AI 추론 가속화 서비스를 허깅페이스에서 바로 사용할 수 있게 됐다. 허깅페이스는 그동안 아마존·MS·구글·엔비디아를 배포 옵션으로 제공하기도 했다. 프렌들리AI는 전 세계에서 스타트업 최초로 허깅페이스에 탑재됐다. 이는 전 세계 GPU 기반 모델 API 제공사 중 1위의 처리 속도 등 기술력을 인정받은 결과라고 회사 측은 설명했다.
전 대표는 “허깅페이스 탑재 후 엄청난 수의 글로벌 사용자가 급격히 유입되고 있다. 이는 한국은 물론 전 세계에서도 스타트업으로서 유례를 찾아보기 힘든 사례”라며 “도쿄AI 행사를 통해 일본 사용자들도 본격적으로 유입되기를 기대하며, 일본 기업들과 폭넓게 협력하고자 한다”고 말했다.
프렌들리AI는 생성형 AI 추론·학습 플랫폼 ‘프렌들리 스위트’를 통해서 다양한 모델을 대규모로 추론하는 서비스 등 추론 및 학습 가속화 서비스를 제공하고 있다. 최근에는 기업이 AI 에이전트를 운영할 수 있는 서비스로 확대하고 있다.
관련뉴스