"AI 공격엔 AI로 대응"…LLM 취약점 탐지

네이버와 네이버클라우드로 구성된 팀네이버가 세계적인 인공지능(AI) 학회에서 대규모언어모델(LLM)의 취약점을 찾아내는 기술을 비롯한 AI 연구 성과를 공개했다.

팀네이버는 지난 6~11일 서울 삼성동 코엑스에서 열린 ‘ICML 2026’에 참가했다고 13일 밝혔다. ICML은 세계 3대 AI 학회로 꼽힌다. 올해 처음 한국에서 열렸다. 이 자리에서 팀네이버는 ‘AI 연구가 현실이 되는 곳’을 주제로 부스를 꾸렸다. △AI 안전성 강화 △모델·에이전트 운영 효율화 △3차원(3D) 공간 이해 등 세 분야의 연구 성과와 실제 서비스 적용 사례를 공개했다.

가장 주목받은 연구는 LLM의 취약점을 사전에 점검하는 레드티밍 기술인 ‘스테이블 지플로우넷’이었다. 레드티밍은 AI를 실제 서비스에 적용하기 전 공격자가 시도할 법한 질문을 던져 위험한 답변이나 지시 이행 가능성을 미리 찾아내는 기술이다. 연구는 전체 채택 논문 중 상위 약 2.2%에 해당하는 ‘스포트라이트’ 논문으로 선정됐다.

AI 모델을 더 효율적으로 쓰는 기술로 ‘시머지’와 ‘플로우봇’도 선보였다. 시머지는 번역, 추론, 요약 등 서로 다른 강점을 지닌 여러 AI 모델을 하나로 합치는 기술이고, 플로우봇은 여러 AI가 함께 일할 때 작업 순서를 스스로 정한다. AI의 효율적인 사용에 적용될 수 있다.

팀네이버는 흔들리거나 초점이 흐린 단일 카메라 영상만으로 움직이는 물체와 공간을 3차원으로 복원하는 기술도 함께 선보였다. 기술은 물체가 움직인 궤적을 먼저 분석한 뒤 형태를 추정해, 움직임과 외형 정보가 뒤섞이는 기존 방식의 한계를 보완했다. 네이버·네이버랩스·KAIST·서울대가 공동 개발해 서울 전역의 공간 데이터를 디지털 환경에 구현한 ‘서울 월드모델’을 공개했다.

유지희 기자 keephee@hankyung.com