이 기사는 국내 최대 해외 투자정보 플랫폼 한경 글로벌마켓에 게재된 기사입니다.
인공지능(AI)의 무기화를 둘러싸고 미국 전쟁부(국방부)와 AI 업체 앤스로픽 간 갈등이 격화했다. 전쟁부는 국가 안보를 위해 군이 앤스로픽의 AI 모델 ‘클로드’를 제한 없이 사용할 수 있어야 한다는 입장이지만, 앤스로픽은 견제 없는 AI 사용은 윤리적 문제를 일으킬 수 있다는 의견을 고수하고 있다. AI 기술의 활용 범위가 넓어질수록 윤리와 관련된 기술기업과 정부 간 갈등은 더욱 확대될 것으로 전망된다.
24일(현지시간) AP통신, 액시오스 등 외신에 따르면 피터 헤그세스 미국 전쟁부 장관은 이날 전쟁부에서 다리오 아모데이 앤스로픽 최고경영자(CEO)와 만나 27일 오후 5시까지 앤스로픽이 전쟁부의 AI 모델 사용 요구사항을 따르지 않으면 계약을 취소하겠다고 통보했다. 앤스로픽이 유연한 태도를 보이지 않으면 앤스로픽을 ‘공급망 위험 업체’로 지정하거나, 국방물자생산법(DPA)을 적용해 전쟁부와 더 긴밀하게 협력하도록 강제할 수 있다고 경고했다.
공급망 위험 업체로 지정되면 전쟁부와 거래하는 모든 계약·공급업체는 미군과의 협업 업무에서 클로드를 사용할 수 없다. 특히 주로 중국 등 적대국과 관련된 외국 기업에 적용하는 조치라는 점에서 자국 기업을 공급망 위험 업체로 지정하는 것은 전례 없는 일이다. DPA 역시 국가 비상 상황에서 에너지, 의료 등 핵심 부문을 통제하는 데 사용해왔기 때문에 기술기업에 해당 법이 적용되는 것도 이례적이다.
현재 전쟁부의 기밀 네트워크용으로 사용되는 건 클로드가 유일하다. 전쟁부는 지난해 7월 앤스로픽과 2억달러 규모의 소프트웨어 사용 계약을 체결했다. 양측 갈등은 미군이 지난달 니콜라스 마두로 베네수엘라 대통령 체포 작전에 클로드를 활용하면서 촉발했다. 군사 목적으로 AI를 어느 범위까지 활용할 수 있는지를 두고 양측 견해차가 좁혀지지 않았다.
앤스로픽은 ‘헌법적 AI’를 바탕으로 AI가 스스로 윤리지침을 따르도록 설계하는 등 ‘착한 AI’를 표방한다. 앤스로픽이 그동안 전쟁부와 협력 의사를 밝히면서도 미국인에 대한 국내 감시나 완전 자율형 무기 체계 등에 자사 모델이 사용되는 것은 용인할 수 없다고 선을 그은 이유다. 이날 전쟁부 장관과의 회담에서도 이 두 가지 ‘레드라인’에 대해 물러서지 않았다고 AP통신은 전했다.
반대로 전쟁부는 안전장치 제한이 없는 도구가 필요하다는 이유로 앤스로픽의 윤리 제한 규정에 반대한다. 군은 합법적 명령만 내린다는 점도 강조했다. 특히 헤그세스 장관은 지난해 전군 지휘관 회의 연설에서 군내 ‘워크’(woke·깨어 있음) 문화를 근절하겠다고 밝혔고, 지난달 “전쟁을 허용하지 않는 AI 모델은 배제할 것”이라고 말하는 등 국가 안보와 관련된 사안에서 AI 역할을 확대할 것이라고 거듭 확인했다.
이번 대립은 정치적 문제와도 연결돼 있다. 월스트리트저널(WSJ)은 “조 바이든 전 정부의 고위 인사들을 채용하고 진보 진영 후원자들과 관계를 맺고 있는 앤스로픽에 도널드 트럼프 행정부가 회의적인 시각을 갖고 있다”고 보도했다. 트럼프 행정부 인사들의 ‘워크’ AI 비판이 사실은 앤스로픽을 겨냥한 것이라고 짚었다.
전쟁부가 앤스로픽과 결별한다면 클로드를 대신할 AI 모델을 찾아야 한다. 외신에 따르면 전쟁부는 최근 xAI 모델인 ‘그록’을 기밀 시스템에 활용하는 내용의 계약을 체결했다. xAI는 모든 합법적 용도의 군사적 이용에 동의한 것으로 전해졌다.
한경제 기자 hankyung@hankyung.com
관련뉴스
