현대 사회의 '신탁'이 된 AI의 말…신간 '예측된 미래'

확률이 높다고 해서 그 일이 발생하리라는 보장은 없다. 통계에 기반을 두는 인공지능(AI)의 예측도 마찬가지다. 과거 데이터를 기반으로 앞으로 어떤 일이 일어날 가능성이 높은지 추정할 뿐이다. 그런데 AI가 고도화되면서 현실에서는 예측이 확정된 사실처럼 받아들여지는 추세다. “AI에 물어봤더니 맞다고 했어”라는 말이 낯설지 않다.

미국 버지니아대 조교수 모나 슬론의 <예측된 미래>는 이 지점에 주목한다. 그에 따르면 생성형 AI 시스템은 정교한 예측 시스템이다. 가령 대규모 언어 모델은 문맥에 기반해 문장에서 다음에 어떤 단어가 나올지 예측한다. 데이터 속 패턴과 관계를 기억하면서 문법과 의미, 개념적 관계를 익히는 구조다. 문장 순서를 어떻게 해야 하는지, 어떤 대답을 하는 게 가장 자연스러운지 데이터와 통계 시스템을 토대로 파악한다는 의미다.

저자가 강조하는 것은 상관관계와 인과관계는 다르다는 점이다. 어떤 특성을 가진 사람들에게 특정한 결과가 자주 나타났다는 사실과, 그 특성이 항상 결과를 일으킨다는 인과관계적 설명은 다르다. 그런데도 우리는 AI의 답을 미래에 대한 확실한 지식처럼 받아들이곤 한다. 저자는 AI 시스템이 고대 그리스의 신탁(神託)에 빗댄다. 신의 뜻을 전하는 예언처럼 복잡한 수학적 계산을 거친 AI의 말에 잘못된 권위를 부여한다는 것이다.



저자는 예측을 사회의 의사결정과 운영의 핵심 원리로 삼는 사고체계를 ‘예측 패러다임’이라고 부른다. AI는 이미 사무와 관련된 프로그램, 검색 체계 등에 깊이 반영돼 있다. 돈을 갚지 못할 가능성이 높다는 AI 분석에 대출 심사가 거절되고, 병에 걸릴 위험이 높다는 추정에 더 비싼 보험료를 내게 되는 일이 일상화될 것이란 얘기도 나온다.

AI가 내놓은 답을 맹신하는 사람이 늘면서 의사 결정 과정에서 재량권을 발휘할 여지도 줄어들고 있다는 게 저자의 지적이다. 그는 “AI와 그것의 예측적 특성들은 우리 일상생활에서 마치 인프라처럼 단단하게 깔려 있다”고 말한다.

저자는 잘못된 예측의 대가가 약자에게 돌아갈 확률이 높다는 점에 주목한다. 2020년 미국 디트로이트에서 절도 혐의로 억울하게 체포된 로버트 윌리엄스의 사례가 대표적이다. 경찰의 얼굴 인식 소프트웨어가 그를 범인으로 잘못 지목했다. 죄가 없다는 것을 입증해야 하는 부담까지 그가 떠안아야 했다. 저자는 AI의 영향을 받는 이해관계자들을 연구 과정에 참여시키는 방안을 해법으로 제시했다. 그는 “기술 기업 역시 작동 방식을 공개해야 한다”고 강조했다.

최한종 기자 onebell@hankyung.com