미국의 여론조사기관 갤럽이 1964년 발표한 여론조사에서 미국인 응답자의 77%는 ‘정부와 정치인이 대체로 올바른 결정을 내리고 있다고 믿는다’고 답했다. 2023년 같은 조사에서 이 비율은 16%로 떨어졌다. 60년 사이에 정치권을 향한 미국인의 신뢰도가 5분의 1이 된 것이다.
‘알고리즘에 의한 지배’를 뜻하는 알고크라시(algocracy)는 민주주의 정치에 대한 불신 속에서 등장한 개념이다. 부패와 비효율에 노출된 정부 조직과 선출직 입법기구를 공정하고 유능한 인공지능(AI)으로 대체하자는 게 알고크라시의 골자다.
○흔들리는 민주주의 시스템
알고크라시 시대를 최초로 예고한 사람은 존 다나허 아일랜드국립대 교수다. 그는 “전통적인 관료제 정부는 시민들이 생산하는 방대한 금융 정보와 인구 데이터, 통신 정보를 제대로 소화하지 못한다”며 “모든 정보를 수집해 처리하고 결정을 내리는 알고리즘이 나타난다면 시민들의 지지를 받을 것”이라고 주장했다.알고리즘이 국회와 정부를 근간으로 하는 민주주의 시스템을 위협할 수 있다는 주장도 내놨다. 다나허 교수는 “고대 그리스에서 민주주의의 대항마였던 에피스토크라시(epistocracy·현자에 의한 지배)는 철학적 개념이지만, 현대 민주주의의 대항마인 알고크라시는 충분히 구현할 수 있는 시스템”이라고 했다.
알고크라시를 향한 지지는 동서양을 가리지 않는다. 스페인 IE마드리드대가 2021년 11개국 2769명을 대상으로 한 설문에서 유럽인 응답자의 51%는 선출직 정치인을 AI로 대체하는 것을 선호한다고 답했다. 중국인 응답자들은 75%가 찬성한다고 밝혔다. 연구를 주도한 오스카 욘슨 교수는 “국가를 막론하고 젊은 세대일수록 민주주의 정부에 불만이 컸다”며 “유럽인 응답자 가운데 20대는 60%가 입법부를 AI로 대체하는 데 찬성했다”고 설명했다.
○입법·사법·행정 모두 AI가 대체
미래학자들은 AI가 민주주의 정부의 3대 요소인 입법과 사법, 행정을 모두 대체할 수 있다고 예상한다. 알고리즘은 막대한 정보와 자기 학습을 바탕으로 기존 제도를 보완하고, 새로운 법안을 제출한다. 이를 기반으로 재판하고 사회 내 비효율을 찾아내며 자원을 재분배한다.알고크라시 도입의 가장 큰 걸림돌은 정당성 확보다. 사람이 선출한 인간 대표들은 자신의 결정 이유를 대중에게 설명할 수 있다. 반면 AI는 결과만 내놓는다. 의사 결정 과정을 설명한다고 해도 인간이 이해할 수 있는 범위가 아니다. 결론을 내리기 위해 들여다본 데이터 세트와 매개변수가 억 단위에 달하기 때문이다. 결과를 이해하더라도, 과정을 이해할 수 없는 AI의 특징을 학자들은 ‘블랙박스적 특성’이라고 부른다.
○중국의 알고크라시 실험
알고리즘을 국가 운영에 활용하는 실험이 처음 이뤄진 곳은 중국이다. 중앙은행인 인민은행은 2018년 알리바바와의 합작 신용평가회사 세서미크레디트를 설립했다. 세서미크레디트는 지방자치단체 알고리즘을 통해 신상의 안전성과 금융 기록, 지급 이행 능력, 친구 등 인간관계, 소비 행태 등을 종합적으로 분석해 사회 신용점수를 산출했다. 당시 알리바바는 주요 서비스 플랫폼에 사회 신용점수를 도입해 고객을 분류하겠다고 밝혔고, 인민은행은 2020년부터 모든 시민의 사회 신용점수 등록을 의무화하겠다고 발표했다.중앙은행이 시민들의 신용을 평가하는 과정에 참여하고, 알리바바라는 지배적 플랫폼을 통해 이들의 권리를 차별하겠다는 구상은 중국 안팎에서 비판에 직면했다. 특히 중국 국무원 산하 국가발전개혁위원회가 사회 신용점수를 기반으로 철도와 비행기 표 구매를 제한하겠다고 예고하자 인권의 기본적인 개념 중 하나인 이동의 자유를 제한하는 조치라는 지적이 쏟아졌다. 결국 인민은행은 사회 신용점수 의무화 정책을 철회했다.
전범진 기자 forward@hankyung.com
관련뉴스
