이 기사는 국내 최대 해외 투자정보 플랫폼 한경 글로벌마켓에 게재된 기사입니다.
중앙은행과 금융 규제 당국이 앤트로픽의 미토스 같은 강력한 인공지능(AI) 모델이 초래할 위험을 감시하고 대응할 수 있을지 의문이 제기되고 있다. 금융 규제 당국이 금융 기업에 비해 AI도입이 현저히 뒤처져 있고 데이터도 부족한 것으로 나타났기 때문이다.
이와 관련, 금융규제당국이 인간의 감독 없이도 조치를 취할 수 있는 에이전트형 AI 기능을 스스로 도입해야 한다는 권고가 나왔다.
28일(현지시간) 로이터가 보도한 케임브리지 대안금융센터의 연구자료에 따르면,금융회사들이 감독기관보다 두 배 이상 빠른 속도로 AI를 도입하고 있는 것으로 집계됐다. 규제기관 중 "선도적인 AI 도입"을 보고한 곳은 10곳 중 2곳에 불과했다. 또 조사 대상 규제 기관 중 업계의 AI 도입 관련 데이터를 수집하는 곳은 24%에 불과하며 43%는 2년 내에 데이터 수집 계획도 없는 것으로 드러났다.
보고서는 "이같은 맹점이 AI에 대한 막연한 낙관론을 약화시킬 수 있다”고 지적했다. 또 “당국이 확실한 데이터 없이 AI의 도입과 그 위험성을 파악하는 것으로는 AI를 제대로 활용하거나 감독할 수 없다”고 강조했다.
국제결제은행(BIS), 국제통화기금(IMF) 등과 공동 진행된 이번 연구는 151개국 350개의 금융회사 및 핀테크 기업, 140개 이상의 AI 공급업체, 130개 중앙은행 및 금융 당국을 대상으로 한 설문 조사를 기반으로 작성됐다.
규제 당국과 국제 표준 설정 기구들은 금융 부문 전반에 걸친 AI 도입에 의한 위험성에 대해 경고 수위를 높였다. 앤트로픽은 이달 초 사이버 보안 분야에서 은행 업계와 기존 기술 시스템에 큰 위협이 될 가능성이 있다고 평가된 AI 소프트웨어 미토스를 출시했으나 위험성이 크다며 공개는 철회했다.
이후 전 세계 규제 당국은 은행들이 보유한 기존 시스템이 새롭게 등장하는 첨단 AI 모델에 대비되어 있는지에 대해 은행들과 협의해 왔다.
이 보고서는 미토스를 차세대 시스템의 한 예로 들면서, 이 같은 시스템이 "조만간 소프트웨어의 취약점을 악용, 인간이 감독해온 메커니즘을 무력화할 가능성이 높다"고 지적했다.
보고서는 또 “향후 제3자 공급업체가 제공하고 관리도 하는 더 자율적인 시스템의 경우 금융회사가 책임을 져야 한다는 입장을 적용하기 어려워질 것”이라고 언급했다. 현재 대부분 금융규제 당국이 금융 회사가 자체 개발했든 제3자로부터 공급받았든 사이버 공격 등의 피해에 책임을 지도록 하는 원칙을 유지하고 있다.
보고서는 따라서 “규제 당국이 인간의 감독 없이도 조치를 취할 수 있는 에이전트형 AI 기능을 스스로 도입해야 한다”고 권고했다.
보고서는 또 금융 부문이 소수의 강력한 AI 제공업체에 과도하게 의존하는 것에 대한 우려도 제기했다.
이 설문조사가 실시된 작년 10월부터 올해 1월 사이 전체 응답자의 69%(복수응답 가능)가 오픈AI에 의존하고 있는 것으로 나타났다. 업계에서는 오픈AI 의존 비율이 76%로 더 높았다. 이는 “중요한 제3자 위험요소”로 작용해 글로벌 금융 시스템의 회복력 취약성, 가격 충격 또는 공급망 차질을 초래할 수 있다고 보고서는 지적했다.
이 설문조사 당시 응답자의 절반 이상이 구글의 모델을 사용했고, 3분의 1이 조금 넘는 응답자가 앤스로픽의 모델을 사용하는 것으로 집계됐다.
김정아 객원기자 kja@hankyung.com
관련뉴스
