대량살상수학무기
캐시 오닐 지음 / 김경혜 옮김 / 392쪽 / 1만6000원
[ 송태형 기자 ]
이스라엘 역사학자 유발 하라리는 최근작 《호모데우스》에서 ‘21세기를 지배할 개념’ ‘오늘날 세계에서 단연코 가장 중요한 개념’으로 알고리즘을 제시했다. 알고리즘은 ‘계산을 하고 문제를 풀고 결정을 내리는 데 사용할 수 있는 일군의 방법론적 단계들’이다. 하라리는 현대 과학기술의 발전으로 한층 정교하고 복잡해지는 빅데이터 알고리즘이 연애, 투표, 구매 등 인간의 ‘자유의지’로 결정하는 거의 모든 영역의 일을 인간 대신 수행할 것이라고 예측한다. 그는 “신이나 인간이 아니라 데이터를 숭배하는 신흥 종교인 ‘데이터교’의 번성과 함께 민주주의와 자유시장의 지휘권이 인간에게서 알고리즘으로 넘어갈 것”이라고 했다.
《대량살상수학무기(원제 Weapons of Math Destruction)》는 하라리의 비상한 예언을 떠올리게 한다. 저자는 알고리즘의 위험성을 측정하고 알리는 기업 ORCAA를 설립, 운영하는 캐시 오닐이다. 미국 버나드대 수학 교수, 헤지펀드 디이쇼 계량분석가, 실리콘밸리 정보기술(IT)벤처 데이터과학자 등으로 일한 빅데이터 알고리즘 전문가다.
저자는 수학이론과 빅데이터, IT가 결합해 만들어낸 알고리즘의 부작용과 폐해, 위험을 파헤치고 경고한다. 제목부터 섬뜩하다. 오닐은 데이터 기반의 알고리즘 모형 중 인간의 편견과 오해, 편향성을 코드화해 불평등을 조장하고 민주주의를 위협하는 프로그램이 대량살상무기(Weapons of Mass Destruction)만큼 위험하다고 생각한다. 그래서 이런 모형에 대량(Mass)을 수학(Math)으로 바꾼 ‘수학살상무기(Weapons of Math Destruction)’, 줄여서 WMD란 이름을 붙였다.
저자는 미국의 정치, 금융, 교육, 노동, 서비스, 행정, 보험 등 다양한 분야에서 광범위하게 작동하는 WMD의 사례를 상세하게 소개한다. WMD의 공통된 특징으로 불투명성, 확장성, 피해의 악순환을 든다.
저자에 따르면 고용이나 대출 서류 심사에 쓰이는 WMD는 수백, 수천 장에 이르는 이력서나 대출 신청서를 평가 기준에 따라 1~2초 만에 수치화해 점수와 순위를 매긴다. 알고리즘에 숨겨진 평가 기준은 이해하기 어려울뿐더러 공개하지도 않는다. 납득할 수 없는 결과가 나와도 이의를 제기하기 어렵다.
단기 소액대출을 제공하는 제스트파이낸스는 신청자 1인당 최대 1만 개의 데이터를 수집, 분석해 위험도를 측정한다. 데이터에는 재무정보뿐 아니라 온라인으로 대출신청서를 작성할 때 맞춤법을 맞게 쓰는지, 구두점을 제대로 찍는지, 신청서 작성에 얼마나 시간이 걸리는지도 포함된다. 이는 ‘규칙을 준수하는 사람이 신용도가 높다'는 판단을 항목화한 것이지만 교육 수준이 낮은 저소득층이나 이민자들이 상대적으로 더 높은 이율의 대출을 받게 되는 결과로 이어진다. 저자는 “가난과 인종에 대한 차별임에도 알고리즘에 교묘하게 숨겨져 드러나지 않는다”고 지적한다. 미국에선 이렇게 매겨진 ‘e점수’가 대출뿐 아니라 일자리를 주선하거나, 아파트를 빌려주거나, 데이트 상대를 소개해주는 업체에까지 고객을 판단하는 잣대로 널리 쓰이고 있다.
저자가 WMD로 분류하는 미국 ‘유에스뉴스’의 대학순위 평가 모형은 ‘피해의 악순환’을 보여주는 사례다. 평가에서 낮은 순위를 받은 대학은 우수한 학생·교수의 지원과 기부금이 줄면서 다음해 순위가 더 하락하는 악순환을 겪었다. 평가 기준으로 사용된 항목 점수를 높이는 데만 투자하거나 순위를 높이기 위해 데이터를 조작하는 대학이 속출했다.
디지털 경제 시대에 점점 더 위력을 발휘하는 빅데이터의 어두운 면을 적나라하게 드러내고 직시하게 만든다는 점에서 주목할 만한 책이다. 다만 사회적 위험을 고발하는 책이 대부분 그렇듯이 저자가 제시하는 대안은 다분히 도식적이고 이상적인 수준에 머문다. 그는 “공정성, 도덕성, 포용성 등 인간만이 지니는 가치와 의미를 알고리즘에 투입하면 그 힘을 얼마든지 이로운 방향으로 돌릴 수 있다”고 말한다. WMD처럼 과도하게 느껴질 법한 은유나 비유를 많이 사용하는 서술도 위험성을 각인시키거나 흥미를 유발하는 데 효과적일지 모르나 내용 신뢰도나 객관성 면에선 감점 요인이다.
송태형 기자 toughlb@hankyung.com
기업의 환율관리 필수 아이템! 실시간 환율/금융서비스 한경Money
[ 무료 주식 카톡방 ] 국내 최초, 카톡방 신청자수 33만명 돌파 < 업계 최대 카톡방 > --> 카톡방 입장하기!!
캐시 오닐 지음 / 김경혜 옮김 / 392쪽 / 1만6000원
[ 송태형 기자 ]
이스라엘 역사학자 유발 하라리는 최근작 《호모데우스》에서 ‘21세기를 지배할 개념’ ‘오늘날 세계에서 단연코 가장 중요한 개념’으로 알고리즘을 제시했다. 알고리즘은 ‘계산을 하고 문제를 풀고 결정을 내리는 데 사용할 수 있는 일군의 방법론적 단계들’이다. 하라리는 현대 과학기술의 발전으로 한층 정교하고 복잡해지는 빅데이터 알고리즘이 연애, 투표, 구매 등 인간의 ‘자유의지’로 결정하는 거의 모든 영역의 일을 인간 대신 수행할 것이라고 예측한다. 그는 “신이나 인간이 아니라 데이터를 숭배하는 신흥 종교인 ‘데이터교’의 번성과 함께 민주주의와 자유시장의 지휘권이 인간에게서 알고리즘으로 넘어갈 것”이라고 했다.
《대량살상수학무기(원제 Weapons of Math Destruction)》는 하라리의 비상한 예언을 떠올리게 한다. 저자는 알고리즘의 위험성을 측정하고 알리는 기업 ORCAA를 설립, 운영하는 캐시 오닐이다. 미국 버나드대 수학 교수, 헤지펀드 디이쇼 계량분석가, 실리콘밸리 정보기술(IT)벤처 데이터과학자 등으로 일한 빅데이터 알고리즘 전문가다.저자는 수학이론과 빅데이터, IT가 결합해 만들어낸 알고리즘의 부작용과 폐해, 위험을 파헤치고 경고한다. 제목부터 섬뜩하다. 오닐은 데이터 기반의 알고리즘 모형 중 인간의 편견과 오해, 편향성을 코드화해 불평등을 조장하고 민주주의를 위협하는 프로그램이 대량살상무기(Weapons of Mass Destruction)만큼 위험하다고 생각한다. 그래서 이런 모형에 대량(Mass)을 수학(Math)으로 바꾼 ‘수학살상무기(Weapons of Math Destruction)’, 줄여서 WMD란 이름을 붙였다.
저자는 미국의 정치, 금융, 교육, 노동, 서비스, 행정, 보험 등 다양한 분야에서 광범위하게 작동하는 WMD의 사례를 상세하게 소개한다. WMD의 공통된 특징으로 불투명성, 확장성, 피해의 악순환을 든다.
저자에 따르면 고용이나 대출 서류 심사에 쓰이는 WMD는 수백, 수천 장에 이르는 이력서나 대출 신청서를 평가 기준에 따라 1~2초 만에 수치화해 점수와 순위를 매긴다. 알고리즘에 숨겨진 평가 기준은 이해하기 어려울뿐더러 공개하지도 않는다. 납득할 수 없는 결과가 나와도 이의를 제기하기 어렵다.
단기 소액대출을 제공하는 제스트파이낸스는 신청자 1인당 최대 1만 개의 데이터를 수집, 분석해 위험도를 측정한다. 데이터에는 재무정보뿐 아니라 온라인으로 대출신청서를 작성할 때 맞춤법을 맞게 쓰는지, 구두점을 제대로 찍는지, 신청서 작성에 얼마나 시간이 걸리는지도 포함된다. 이는 ‘규칙을 준수하는 사람이 신용도가 높다'는 판단을 항목화한 것이지만 교육 수준이 낮은 저소득층이나 이민자들이 상대적으로 더 높은 이율의 대출을 받게 되는 결과로 이어진다. 저자는 “가난과 인종에 대한 차별임에도 알고리즘에 교묘하게 숨겨져 드러나지 않는다”고 지적한다. 미국에선 이렇게 매겨진 ‘e점수’가 대출뿐 아니라 일자리를 주선하거나, 아파트를 빌려주거나, 데이트 상대를 소개해주는 업체에까지 고객을 판단하는 잣대로 널리 쓰이고 있다.
저자가 WMD로 분류하는 미국 ‘유에스뉴스’의 대학순위 평가 모형은 ‘피해의 악순환’을 보여주는 사례다. 평가에서 낮은 순위를 받은 대학은 우수한 학생·교수의 지원과 기부금이 줄면서 다음해 순위가 더 하락하는 악순환을 겪었다. 평가 기준으로 사용된 항목 점수를 높이는 데만 투자하거나 순위를 높이기 위해 데이터를 조작하는 대학이 속출했다.
디지털 경제 시대에 점점 더 위력을 발휘하는 빅데이터의 어두운 면을 적나라하게 드러내고 직시하게 만든다는 점에서 주목할 만한 책이다. 다만 사회적 위험을 고발하는 책이 대부분 그렇듯이 저자가 제시하는 대안은 다분히 도식적이고 이상적인 수준에 머문다. 그는 “공정성, 도덕성, 포용성 등 인간만이 지니는 가치와 의미를 알고리즘에 투입하면 그 힘을 얼마든지 이로운 방향으로 돌릴 수 있다”고 말한다. WMD처럼 과도하게 느껴질 법한 은유나 비유를 많이 사용하는 서술도 위험성을 각인시키거나 흥미를 유발하는 데 효과적일지 모르나 내용 신뢰도나 객관성 면에선 감점 요인이다.
송태형 기자 toughlb@hankyung.com
기업의 환율관리 필수 아이템! 실시간 환율/금융서비스 한경Money
[ 무료 주식 카톡방 ] 국내 최초, 카톡방 신청자수 33만명 돌파 < 업계 최대 카톡방 > --> 카톡방 입장하기!!
관련뉴스
