미국 국방부가 니콜라스 마두로 베네수엘라 대통령 체포·압송작전을 수행하면서 인공지능(AI) '클로드'를 사용한 것으로 알려진 가운데 이를 개발한 앤트로픽사와 계약 해지를 검토하고 있다고 미국 정치전문매체 악시오스가 14일(현지시간) 보도했다.
'윤리 문제' 등을 놓고 미 국방부와 앤트로픽이 의견 차를 드러내며 대립해서다.
국방부는 무기 개발, 정보수집, 전장에서의 작전 수행 등에서 AI를 합법적으로 쓰고자 앤트로픽과 지난 수 개월간 협상을 진행했지만 지지부진한 상황이라고 이 매체는 전했다.
앤트로픽은 자사의 AI 프로그램인 클로드를 미국인에 대한 전방위적인 감시, 완전 자율형 무기 체계 사용 등에서 사용해선 안된다는 입장이다.
오픈 AI 출신 직원들이 설립한 앤트로픽은 '안전하고 윤리적인 AI'를 표방한다. 이에 자사 모델이 살상 무기 개발이나 폭력적인 군사 작전에 직접적으로 사용되는 것을 가이드라인으로 엄격히 제한해왔다.
그러나 지난달 미군이 마두로 체포·압송작전인 '확고한 결의'(Operation Absolute Resolve)에 클로드를 활용하 것이 갈등의 단초가 됐다.
한편 앤트로픽이 금지한 영역에 상당한 '회색지대'가 존재한다는 것이 국방부의 입장이다.
사안별로 매번 앤트로픽과 협상을 진행할 수도 없고 '클로드'가 갑자기 특정 애플리케이션을 차단한다면 현실적으로 사용이 불가능하다는 것이다.
정부 고위 관계자는 악시오스에 "관계를 축소하거나 완전히 끊는 것을 포함해 모든 가능성이 열려 있다"라면서도 "만약 결별이 정답이라고 판단된다면, 그들을 대신할 질서 있는 대체 작업이 선행돼야 할 것"이라고 말했다.
다만 이 관계자는 "다른 회사들이 정부 전용 애플리케이션 분야에서 아직 뒤처져 있다"며 클로드의 대체재를 당장 찾기 어려운 현실도 인정했다.
현재 국방부는 다른 인공지능 업체와도 협상 중이다. 오픈 AI(챗GPT), 구글(제미나이), xAI(그록) 측이 거명되고 있다. 1개 회사는 정부 요구를 받아들인 것으로 알려졌고, 나머지 두 회사도 앤트로픽보다는 유연한 입장인 것으로 전해졌다.
국방부 비(非)기밀 네트워크에선 이들 3개 회사가 이미 사용되고 있다. 그러나 기밀 네트워크용으로 사용되는 건 현재 '클로드'가 유일하다. 국방부는 지난해 여름 앤트로픽과 2억달러(약 2천900억원) 규모의 소프트웨어 사용계약을 체결했다.
앤트로픽사의 대변인은 "미국의 국가 안보를 지원하기 위해 최첨단 AI를 사용하는 데 여전히 전념하고 있다"면서 "그것이 바로 우리가 기밀 네트워크에 모델을 올린 최초의 첨단 AI 기업이자, 국가 안보 고객(국방부)을 위한 맞춤형 모델을 최초로 제공한 이유"라고 말했다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 박근아 기자
twilight1093@wowtv.co.kr관련뉴스
