메모리 공급망 불확실성 지적..."TSMC 의존 높아"
앤트로픽이 IPO를 추진하며 26일(현지시간) 미국 증권거래위원회(SEC)에 제출한 증권신고서가 눈길을 끌었다. 전체의 4분의 1을 인공지능(AI)의 위험성과 자사가 처한 부정적 여건을 설명하는데 할애했기 때문이다.
투자 유치를 위한 공시 서류에 이처럼 자사 제품의 부정적인 영향 가능성을 상세히 기술했다는 점에서 이례적이다.
앤트로픽은 약 400쪽 분량의 신고서에서 94쪽을 '위험 요인' 장(章)에 할애했다. 심지어 고도로 발달한 인공지능(AI)이 인류에 재앙적 위험을 초래할 가능성이 있다고 적기까지 했다.
앤트로픽은 고도로 발달한 AI에 대해 "오용되거나 복제되거나 무기화하거나 높은 수준의 자율성으로 운영될 경우 인류에게 재앙적이거나 존재에 위협이 되는 위험을 초래할 수 있다"고 경고했다.
특히 AI 모델이 인간의 의도와 다르게 스스로 목적을 추구하는 이른바 '정렬 실패'(misalignment)와 자율성 위험을 중요하게 언급했다.
AI 모델이 시험·실증 환경에서 작동을 중단시키는 '셧다운'에 저항하거나, 정보를 숨기고 조작하고 협박과 기만을 해 지속적으로 작동하려 하는 '전략적·자기보존적 행동'을 보인 사례가 관찰됐다고도 보고했다.
나쁜 의도를 가진 인간이 첨단 AI 모델로 화학·생물학·방사능·핵(CBRN) 무기를 개발할 수 있다는 우려도 담겼다.
중국 정부의 지원을 받는 것으로 여겨지는 해킹 그룹이 앤트로픽의 코딩 도구인 '클로드 코드'를 조작해 지난해 9월 전 세계 대기업과 정부 기관 등 30여 대상에 침투하려 한 사건을 예로 들었다.
이런 일들을 막고자 앤트로픽은 기술적 안전장치를 도입하고 있지만, 완전하다는 보장은 없다고 설명했다.
앤트로픽은 이런 '재앙적 AI 사건'이 발생하면 자사가 부담해야 할 손해배상 책임이나 법적 위험이 막대한데, 이를 담보할 보험도 구하기 어려울 수 있다고 적었다.
인프라 및 공급망의 현실적 한계도 위험 요인으로 들었다. 메모리 반도체 공급망도 불확실성을 안았다는 것이다.
앤트로픽은 고대역폭 메모리(HBM) 공급이 삼성전자와 SK하이닉스, 마이크론 등 3사에 집중돼 있어 첨단 칩 확보에 부정적인 영향을 미칠 수 있으며 이들의 생산 시설도 해외에 있어 수출·수입 통제나 제재, 관세 등의 영향을 받을 수 있다고 설명했다.
AI 가속기의 제조도 대만 TSMC에 절대적으로 집중되어 있다고 지적했다. 중국-대만 간 지정학적 양안 관계 갈등이나 군사적 충돌, 자연재해 등이 발생할 경우 전 세계 반도체 공급이 수년간 마비될 수 있다는 것이다.
환경 요인과 기후변화도 위험 요인으로 꼽았다. AI 모델 훈련에 막대한 전력이 소모되는데 미국 내 전력망 인프라가 부족해질 가능성이 있고 수자원 고갈 등으로 냉각수 확보가 어려워질 수 있다고 지목했다.
데이터센터 건설에 대한 지역사회 반발도 언급했다.
다만 앤트로픽은 AI가 인간 통제하에 적절히 사용되면 인류에게 유익과 엄청난 경제적 가치를 가져다줄 것이라고도 전망했다.
첨단 AI가 인간 전문가 능력을 뛰어넘는 '강력 AI'(Powerful AI) 단계에 도달하면, 수십 년이 걸릴 과학 진보를 수년으로 압축할 수 있으리라는 전망이다.
앤트로픽은 "AI가 암, 알츠하이머, 심장병, 희귀 유전 질환, 주요 감염병 등 수천 년 동안 인류를 괴롭혀온 질병을 잠재적으로 치료하는 데 결정적 역할을 할 수 있다"고 예측했다.
또 AI가 지식 노동자의 생산성을 대폭 끌어올리고, 2031년까지 누적 경제적 파급효과 22조5천억 달러(약 3경원)에 달할 것이라고 예견한 시장조사기관 IDC 자료도 인용했다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 박근아 기자
twilight1093@hankyungtv.com관련뉴스
