한경 로앤비즈의 'Law Street' 칼럼은 기업과 개인에게 실용적인 법률 지식을 제공합니다. 전문 변호사들이 조세, 상속, 노동, 공정거래, M&A, 금융 등 다양한 분야의 법률 이슈를 다루며, 주요 판결 분석도 제공합니다.
금융분야 'AI 가이드라인' 쟁점은
금융분야에도 인공지능(AI) 대전환의 시대가 도래하고 있다. 단순한 업무 자동화를 넘어 고객센터 역할을 대신하는 챗봇 서비스, 보다 고도화된 신용평가, 그리고 이상거래탐지에 이르기까지 AI는 금융서비스의 곳곳에 파고들고 있다. 하지만 금융은 그 본질이 '신뢰'와 '안정'에 맞닿아 있는 산업이다. AI 알고리즘의 불투명성이나 편향성이 초래할 수 있는 리스크는 개별 금융회사를 넘어, 국가 금융 시스템 전체로 전이될 수 있다. 이러한 이슈 등을 고려하여, 금융감독당국은 2025년 말에 금융분야 AI 가이드라인 개정방향을 발표하였다. 금융감독당국은 이미 2021년 7월에 금융분야 AI 운영 가이드라인을 최초로 제정하여 발표한 바 있고, 이후에도 금융분야 AI 개발ㆍ활용 안내서(2022년 8월), 금융분야 AI 보안 가이드라인(2023년 4월)을 발표하면서 AI 활용과 관련하여 금융회사들이 준수해야 하는 지침을 제시한 바 있다. 그런데 최근 생성형 AI의 활용이 폭발적으로 증가하고, 인공지능기본법이 제정되는 등의 기술 발전 및 규제환경이 변화함에 따라, 이러한 변화를 반영한 새로운 가이드라인을 제시한 것이다.
기존의 AI 운영 가이드라인은 거버넌스 구축, AI시스템의 기획ㆍ설계, 개발, 평가ㆍ검증, 도입ㆍ운영ㆍ모니터링 등 각 업무 단계에서 금융회사가 어떠한 조치를 취해야 하는지를 중심으로 작성되었었으나, 금번에 발표된 가이드라인(안)은 거버넌스 원칙, 합법성 원칙, 보조수단성 원칙, 신뢰성 원칙, 금융안정성 원칙, 신의성실 원칙 및 보안성 원칙의 7대 운영 원칙을 제시하고 있다.
AI '책임 구현' 나서야
이번에 개편된 가이드라인에 따르면, 금융회사는 무엇보다도 책임 있는 AI 구현을 위하여 노력할 필요가 있어 보인다. 보다 구체적으로, ‘거버넌스 원칙’에 따라, 금융회사는 AI 윤리위원회 등 AI 위험관리를 위한 최고 의사결정기구를 설치하고, 독립된 AI 위험관리 전담조직을 설치하여 AI 업무 전반의 위험을 통제ㆍ관리할 것이 요구되고, 특히 AI 위험에 대한 종합적인 평가체계를 구축하고, 위험 수준별로 차등화된 통제, 관리 등을 위한 제반절차를 마련 이행할 것이 요구된다. 또한, 보조수단성 원칙에 따라, AI는 기본적으로 업무의 보조수단으로 활용하고, AI산출물에 대한 최종 책임은 금융회사 임직원이 부담하여야 하며, 업무 중요도 및 위험수준에 상응하여 의사결정 단계별로 역할과 책임을 정할 필요가 있다.
이러한 조치는 금융회사가 AI 활용과 관련된 위험을 총괄적으로 관리할 수 있도록 한다는 점에서 합리적인 측면이 있다고 생각된다. 다만, AI 위험관리를 위한 의사결정기구, 위험관리 전담조직 등이 준법부서, 리스크 부서 등 기존에 이미 설치된 조직과 그 역할을 어떻게 분담하도록 할 것인지에 대하여는 지속적인 고민이 필요할 것으로 보인다.
예컨대, 합법성 원칙에 따라 AI 개발이용 시 각 업권별 법령, 금융소비자보호법 등 적용 법규를 사전에 파악하고, 내부 정책 및 업무절차에 이를 반영하고, 주기적으로 점검개선할 것이 요구되는데, 이에 대한 관리ㆍ감독 업무는 금융회사 전반에 대한 준법감시 업무를 담당하는 준법감시 부서, 금융소비자보호와 관련된 업무를 담당하는 금융소비자보호부서 등이 기존에 담당하는 업무와 중복되는 측면이 있기 때문이다.
또한, 실질적으로 AI 시스템과 관련된 위험등급을 어떠한 기준으로 나눌 것인지, 위험 수준에 대한 통제는 어떻게 고도화시켜야 할 것인지 등에 대하여도 실무적으로 많은 논의가 이루어져야 할 것으로 보인다.
AI는 모든 산업 영역에 있어, 선택 사항이 아닌 생존을 위한 필수 전제가 되었다. 이번 가이드라인 개정을 계기로 국내 금융회사들이 AI 시대의 새로운 금융표준을 선도해 나가기를 기대한다.
<hr style="display:block !important; border:1px solid #c3c3c3" />법무법인 태평양의 미래금융전략센터(센터장: 한준성 고문)는 2024년 5월 출범하여, 금융권 디지털 혁신 가속화와 금융 기술 발전에 발맞춰 가상자산·전자금융·규제대응·정보보호 등 금융 및 IT 분야 최정예 전문가들로 진용을 구축하고 있다.
관련뉴스
