“거긴 가면 안 돼”…엔비디아, AI 에이전트 보안 플랫폼 전격 공개

엔비디아가 인공지능(AI) 에이전트의 통제력을 높인 보안 플랫폼 ‘오픈 에이전트 세이프티 플랫폼’을 28일(현지시간) 전격 공개했다.

블룸버그통신과 CNBC 등에 따르면, 엔비디아의 ‘오픈 에이전트 세이프티 플랫폼’은 AI 에이전트의 가동 범위와 일탈 여부를 밀리세컨드(ms·1초의 1000분의 1) 단위로 실시간 파악한다.

이 플랫폼은 ‘오픈셸’과 ‘센트리’로 구성돼 있다. 오픈셸은 엔비디아의 차세대 AI 서버 플랫폼 ‘베라’를 기반으로 작동되는 오픈소스 소프트웨어다. 사용자가 AI 에이전트의 데이터 접근 가능 범위를 미리 정하고, 여기서 어긋나면 차단한다. 센트리는 AI 에이전트가 비정상적으로 동작할 경우 해당 AI 에이전트를 시스템에서 격리한다.

저스틴 보이타노 엔비디아 엔터프라이즈 AI 담당 부사장은 “이 플랫폼은 추가 보안을 통해 최첨단 AI 모델도 언제 어디서든 안전하게 테스트할 수 있는 환경을 제공한다”고 말했다. 또 “AI 에이전트에 필요한 보안 장치는 일반 AI 모델 수준으로는 통제할 수 없기 때문에 AI 에이전트에 특화된 플랫폼이 필요하다”고 덧붙였다.

엔비디아의 ‘오픈 에이전트 세이프티 플랫폼’ 출시는 최근 다리오 아모데이 앤트로픽 최고경영자(CEO)의 ‘AI 속도 조절론’과 맞물렸다. 젠슨 황 엔비디아 CEO는 ‘AI 속도 조절론’에 반대하는 입장이다.

황 CEO는 지난 24일 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 만찬 참석 전 CNN 인터뷰에서 “현재 필요한 것은 새로운 규제가 아니라 AI를 두고 감시하는 기술”이라고 주장했다. ‘현재 상황이 제대로 가기 위해 규제가 필요한가’라는 질문에는 “아니다”라고 강조했다.

이미아 기자 mia@hankyung.com