챗GPT 개발사인 오픈AI가 미국 국방부와 자사 인공지능(AI) 모델 사용에 대한 합의를 맺었다. 한편 AI 기업인 앤트로픽과 국방부가 AI의 군사적 활용과 안전장치를 두고 갈등을 겪고 있다.
샘 올트먼 오픈AI 최고경영자(CEO)는 27일(현지시간) 엑스(X·구 트위터)를 통해 "오늘 밤, 우리는 전쟁부(국방부)와 협의를 통해 우리 모델을 그들의 기밀 네트워크에 배치하기로 합의했다"며 "모든 소통 과정에서 전쟁부는 안전에 대한 깊은 존중과 최상의 결과를 달성하기 위한 협력 의지를 보여줬다"고 언급했다.
그는 "AI 안전과 혜택의 광범위한 분배는 우리 사명의 핵심"이라며 "가장 중요한 안전 원칙 중 두 가지는 국내 대량 감시 금지와 자율 무기 시스템을 포함한 무력 사용에 대한 인간의 책임"이라고 강조했다. 이어 "전쟁부는 이러한 원칙에 동의하며, 이를 법률과 정책에 반영하고, 우리는 이를 합의에 명시했다"고 부연했다.
올트먼은 또 "전쟁부가 요청한 바와 같이, 모델이 의도된 대로 작동하도록 보장하기 위한 기술적 안전장치를 구축할 것"이라며 "모델 운영 및 안전성 확보를 위해 전방 배치 엔지니어(FDE)를 배치하며, 클라우드 네트워크에만 배포할 것"이라고 말했다. FDE는 코딩이 가능하며 고객과의 소통 능력도 지닌 소프트웨어 개발자를 의미한다.
그는 "우리는 전쟁부가 모든 AI 기업에 동일한 조건을 제시할 것을 요청하며, 모든 기업은 이를 수용할 의사가 있어야 한다는 것이 우리 의견"이라며 "우리는 법적인 정부 조치에서 벗어나 합리적인 합의로 갈등을 완화하기를 강력히 희망한다는 입장을 밝혔다"고 말했다.
해당 발표는 AI 기업인 앤트로픽과 국방부가 AI의 군사적 활용과 안전장치를 두고 갈등을 겪고 있는 가운데 나왔다. 피트 헤그세스 국방장관은 다리오 아모데이 앤트로픽 CEO와의 회동에서 군이 자사 AI 모델 클로드를 제한 없이 사용할 수 있도록 정책을 수정하라고 요구한 것으로 알려졌다. 하지만 아모데이 CEO는 지난 26일 국방부의 요구를 거부했다.
박수빈 한경닷컴 기자 waterbean@hankyung.com
관련뉴스
