아모데이 "이란 학교공습에 클로드 썼는지 몰라…통제권 인간에"

아모데이 "이란 학교공습에 클로드 썼는지 몰라…통제권 인간에"
"군사 정책은 군 결정권자에 맡겨야…미토스 출시 지연으로 상업적 타격"


(샌프란시스코=연합뉴스) 권영전 특파원 = 다리오 아모데이 앤트로픽 최고경영자(CEO)는 어린이 120여 명이 사망한 지난 2월 이란 초등학교 미사일 공습에 자사 인공지능(AI) 모델 '클로드'가 사용됐는지 모른다고 말했다.
아모데이 CEO는 10일(현지시간) 공개된 블룸버그의 인터뷰 프로그램 '더 서킷 위드 에밀리 창'에 출연해 이같이 말했다.
그는 해당 공습이 "끔찍한 일"이라면서도 "우리가 확립한 원칙이자 이번 사건에서도 준수된 원칙은 인간이 최종 결정을 내린다는 것"이라고 말했다.
이어 오히려 해당 공습이 AI의 도움을 받는 가운데서도 인간이 통제권을 가지는 것이 중요한 이유를 보여주는 사례라고 강조했다.
다만 그는 이민세관단속국(ICE)·세관국경보호국(CBP)이 집행하는 도널드 트럼프 행정부의 이민 단속이나 팔레스타인 가자 지구 등에서는 클로드가 사용되고 있지 않다고 부인했다.
그는 "우리는 우리가 믿는 일에만 관여하도록 범위를 정하는데 매우 신중하다"라고 설명했다.
그러면서도 미국 국방부(전쟁부)의 군사 작전에 클로드가 사용되는 것 자체에 대해서는 문제가 없다고 말했다.
한때 반전주의(反戰主義) 성향을 보였던 그는 '클로드가 더 많은 사람을 더 빨리 죽이는 데 일조하는 것인데 괜찮으냐'는 질문에 "본질적으로 '이 나라(미국)를 믿느냐'고 묻는 셈"이라며 자신은 애국자로서 미국이 세계 무대에서 더 강력한 행위자가 되기를 바란다고 답했다.
또 기술기업이 특정 군사 작전을 허용하거나 금지할 권한을 가진 것은 아니라며 "군사 정책은 결국 군 의사결정권자의 손에 맡겨야 한다"는 견해를 밝혔다.
트럼프 행정부와 갈등과 관련해 이 '싸움'(fight)이 어떻게 끝날 것으로 예상하느냐는 질문에도 "그걸 싸움이라고 부르고 싶지 않다"며 "이는 정부가 AI를 어떻게 적절히 활용해야 하는지에 대한 '논쟁'(debate)"라고 말하기도 했다.
전문가 수준의 보안 취약점 탐지 능력을 지녀 이른바 '미토스 충격'이라 불리는 우려를 불러온 최상위 AI 모델 '미토스'의 일반 공개를 한동안 미뤄온 이유에 대해서도 입을 열었다.
그는 "모델들이 취약점을 찾아내는 능력은 꾸준히 향상됐지만 이번에는 특히 도약 폭이 컸다"며 "모델을 초기에 사용한 기업들 가운데는 '이건 초강력 무기다. 이걸 사용하려면 총기 허가증이 필요할 정도다. 제발 이걸 공개하지 말아달라'고 반응하기도 했다"고 언급했다.

그는 미토스의 공개를 늦추면서 상업적으로 엄청난 타격을 받았지만, 현재 선도적인 위치에 있어 이를 감내할 여유가 있었다고 털어놨다.
AI 모델을 개발하면서도 AI의 위험성을 꾸준히 경고해온 행보와 관련해 진행자가 원자폭탄 개발을 주도한 물리학자 J. 로버트 오펜하이머와 공통점이 있다고 생각하느냐고 묻자 그는 "오펜하이머는 실패 사례, 있어서는 안 될 사례로 본다"며 "좋은 결말을 맺으려면 모든 곳에 견제와 균형이 있어야 한다"고 지적했다.
앤트로픽의 독특한 의사결정 구조도 눈길을 끌었다.
일상적인 회사 운영은 아모데이 CEO의 여동생이자 공동 창업자인 다니엘라 아모데이 사장이 전담해 다른 모든 임원의 보고를 받고 다시 이를 이사회에 보고한다.
반면 아모데이 CEO는 비서실장인 아비탈 발윗 한 명에게서만 보고받는다.
이와 같은 보고 체계에 대해 아모데이 CEO는 "내가 평소에 하는 모든 일을 훨씬 더 쉽게 해준다"며 "믿을 수 없을 정도로 자유로운 구조"고 만족감을 드러냈다.
이에 진행자가 "여동생이 일을 다 해주니 아주 편한 직업인 것 같다"고 농담 섞인 질문을 던지자 그는 "전쟁부와 내가 겪어야 했던 일을 경험했다면 그런 말은 못 할 것"이라고 웃으며 항변하기도 했다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>