알고리즘 포비아│앤서니 엘리엇 지음│이정민 역│2만원
AI 알고리즘은 이제 효율의 다른 이름이 되었다. 빠른 판단, 정확한 예측, 더 나은 선택. 그러나 그 편리함의 이면에서 인간은 점점 덜 자유롭고 더 불안해진다. 세계적인 사회학자 앤서니 엘리엇은 신간 ‘알고리즘 포비아’에서 이 불편한 진실을 드러낸다. 저자는 AI 기술이 인간의 근원적 불안을 제거하지 못하며 오히려 그것을 계산하고 예측하여 이용한다고 지적한다.엘리엇의 분석은 우버 택시기사 알렉산드루의 사례로 시작된다. 그는 기사 평가 시스템의 오류로 해고됐지만 회사는 시스템이 잘못됐을 리 없다는 답변만 내놓았다. 인간의 노동 가치는 기계의 계산에 종속되고 판단의 권한은 사라졌다. 저자는 이런 현실을 지능형 자동화의 카프카적 질서라고 부른다. 명령 자체는 투명하지만 명령이 내려진 이유는 아무도 모른다. 사람들은 오류의 원인을 자신에게서 찾고 불안을 스스로 만들어낸다. 감시는 외부의 억압이 아니라 내면의 습관이 된다.
아마존 물류창고의 알고리즘은 노동자의 움직임을 초 단위로 추적한다. 잠시라도 멈추면 비효율로 간주한다. 피로와 초조, 수치심이 모두 생산성 지표라는 데이터로 환원된다. 엘리엇은 이를 자기 감시가 내면화된 새로운 통치 방식이라 부른다. 자동화의 효율성 뒤에는 감정의 통제가 숨어 있고 불안은 통제의 에너지로 작동한다.
넷플릭스의 추천 시스템 역시 또 다른 형태의 감정 관리다. 시청자는 자신이 자유롭게 콘텐츠를 선택한다고 믿지만 사실은 예측된 선택을 수행할 뿐이다. 플랫폼은 지루함과 불안을 계산해 적절한 자극을 배치한다. 불확실성을 없애주겠다는 약속은 달콤하지만 시스템은 불안이 유지될 때만 작동한다. 저자는 이를 예측의 유혹이라 부른다. AI는 인간의 감정을 측정하고 그 감정을 통해 시장을 유지한다. 불안은 이제 일종의 비즈니스 모델이 된 셈이다.
엘리엇은 이 현상을 드라마 ‘오징어 게임’과 메타버스, 챗GPT와 같은 최신 기술과 문화 현상으로 확장해 분석한다. 오징어 게임의 참가자들은 자신이 자유롭게 선택했다고 믿지만 그들의 모든 결정은 게임의 규칙 속에 이미 예측돼 있다. 메타버스는 현실의 탈출구처럼 보이지만 그 안에서도 인간은 예측 가능한 존재로 작동한다. 챗GPT 역시 불확실성을 제거하려는 인간의 욕망을 충실히 반영한다.
저자는 기술을 비난하지 않는다. 대신 기술을 둘러싼 사회적 불안, 감시와 효율의 문화가 인간의 내면을 어떻게 재구성하는지를 추적한다. 책의 핵심은 이 역설에 있다. 예측 알고리즘은 인간의 불확실성을 해소하겠다고 약속하지만 실제로는 불안이 유지될 때만 작동한다. 플랫폼과 기업은 인간의 불안, 결핍, 초조를 데이터로 축적하고 그 데이터를 기반으로 다시 행동을 조정한다. 기술은 불안을 억제하는 동시에 그것을 지속시키며 자본화한다. 엘리엇은 기술을 현대 사회의 집단 무의식으로 본다. AI는 인간의 욕망과 두려움이 투사된 사회적 거울이며 우리가 스스로 만든 신화다.
‘알고리즘 포비아’는 기술 찬양의 시대에 우리가 놓치고 있는 부분을 생각하게 한다. 우리가 데이터와 알고리즘의 효율을 선택하는 순간 우리의 감정은 이미 시장의 언어로 환산된다. 모든 것을 AI가 예측하는 세상에서 인간은 더 이상 사용자가 아니라 불안을 공급하는 자원이 된다. 그럼에도 저자는 인간에 대한 신뢰를 포기하지 않는다. 불안은 인간이 자유롭기 때문에 느끼는 감정이며 바로 그 자유를 유지하기 위한 경계의 감각이기도 하다.
“우리는 왜 자신을 예측 가능한 존재로 만들고 있는가?” 이 질문은 기술의 미래가 아니라 인류의 미래를 묻는다. 저자의 통찰은 결국 기술 비판이 아니라 인간 비판이다. 효율이라는 신념 아래 우리는 모든 의사결정을 기계가 대신 하게 하고, 감정을 데이터로 표현하며, 통제를 자유로움이라 착각하고 있다. 이 책이 던지는 경고는 명확하다. 인공지능이 인간을 지배하는 것이 아니라 인간이 자발적으로 그 지배를 허락하고 있다는 사실이다. 우리가 통제하려는 것은 정말 기술인가, 아니면 자신의 불안인가.
한경매거진&북 박정현 편집자
관련뉴스
