레오 14세 교황이 25일(현지시간) 즉위 후 처음 내놓은 최고 권위의 회칙에서 인공지능(AI)이 인간 위에 군림하지 못하도록 ‘무장 해제’가 필요하다고 강조했다.
그는 신기술과 데이터, 알고리즘이 만들어낸 허위 정보가 전쟁을 둘러싼 갈등과 적대감을 증폭시키고 있다며, 이른바 ‘정당한 전쟁’이라는 개념 자체를 부정했다. 또한 디지털 경제가 보이지 않는 노동 착취 위에 세워져 있다며 이를 “새로운 형태의 노예제”라고 규정했다.
교황은 AI는 특정 세력이 독점해서는 안 되며 누구나 접근할 수 있어야 한다고 주장하면서, 정치권을 향해 기술과 정보 시장의 독과점을 감시해야 한다고 촉구했다.
레오 14세는 이날 교황청 시노드 강당에서 이러한 내용을 담은 회칙 ‘마니피카 후마니타스(Magnifica Humanitas·위대한 인간성)’를 직접 공개했다. 회칙은 전 세계 가톨릭 신자와 주교들에게 전달되는 교황의 최고 권위 사목 문헌으로, 교서·권고·강론 등 다른 교황 문헌보다 구속력이 강한 것으로 평가된다.
교황은 이번 회칙의 핵심 표현으로 ‘AI 무장 해제’를 제시했다. 이는 기술 권력을 가진 이들이 AI를 통해 인간 사회를 지배하도록 내버려 두지 않겠다는 의미라고 설명했다. 그는 “무장 해제는 AI 기술 자체를 거부하자는 뜻이 아니라, AI가 인간을 지배하지 못하도록 하자는 것”이라고 강조했다.
또 AI 기술을 성경 속 바벨탑에 비유하며 “또 다른 바벨탑 건설을 멈추고 공동선을 세우는 데 힘을 모아야 한다”고 말했다.
교황이 그동안 여러 차례 밝혀온 반전·평화 메시지도 회칙 전반에 담겼다. 그는 AI 시대의 전쟁은 단순한 무력 충돌을 넘어, 허위 정보와 단순화된 서사, 이분법적 사고를 통해 문화적으로도 조성된다고 지적했다. 그러면서 전쟁이 “필요하거나 불가피한 것, 심지어 정화된 것으로까지 포장된다”고 비판했다.
특히 미국과 러시아 등 강대국들이 내세워온 ‘정당한 전쟁론’을 겨냥해 “모든 전쟁을 합리화하는 데 반복적으로 사용돼 온 이 이론은 이제 시대에 뒤떨어졌다”고 주장했다. 이어 “무력과 폭력, 무기의 사용은 결국 관계의 빈곤을 드러내는 것”이라고 말했다.
일부 자율무기 체계에 대해서는 “이미 인간의 통제 범위를 사실상 넘어섰다”며 우려를 나타냈다.
교황은 알고리즘과 디지털 플랫폼, 기술 인프라, 데이터 등을 ‘보편적 재화’로 봐야 한다고도 주장했다. 디지털 혁명에 참여할 수 있는 사람들과 그렇지 못한 사람들 사이의 격차를 줄여야 한다는 취지다.
그는 “현재 디지털 공간의 플랫폼과 데이터, 인프라는 국가가 아니라 거대 경제·기술 세력이 통제하고 있다”며 “권력이 소수에게 집중되면 불투명성과 의존, 배제, 불평등으로 이어질 위험이 커진다”고 경고했다.
또 “AI와 로봇 시대에는 시장의 ‘보이지 않는 손’만으로 공공선을 실현할 수 없다”고 지적하며, 정치가 노동의 존엄성과 사회적 포용, 혁신 성과의 공정한 분배를 책임져야 한다고 강조했다.
디지털 경제 이면의 노동 착취 문제도 언급했다. 그는 “데이터 라벨링과 AI 모델 훈련 같은 보이지 않는 작업을 수행하는 수백만 명의 노동, 그리고 희토류 채굴 과정의 가혹한 노동에 디지털 경제가 의존하고 있다”며 “새로운 노예제와 싸우는 일은 윤리적 AI를 위한 핵심 시험대”라고 밝혔다.
이번 회칙은 4만 단어가 넘는 분량으로, 총 82페이지·245개 항목으로 구성됐다. 레오 14세가 지난해 5월 즉위한 이후 처음 발표한 회칙이기도 하다. 교황이 직접 회칙 발표 행사에 나선 것은 매우 이례적인 일로 평가된다.
행사에는 AI 기업 앤스로픽의 공동 창업자 크리스토퍼 올라 역시 참석했다. 그는 “최첨단 AI 연구소들은 종종 ‘옳은 일’과 충돌할 수 있는 유인 구조 속에서 움직인다”며, AI 기업들에 대한 외부 감시 필요성을 강조했다.
교황은 지난 15일 회칙에 서명했다. 이날은 레오 13세가 산업혁명 시대 노동권과 자본주의의 한계를 다룬 회칙 ‘레룸 노바룸’을 발표한 지 135주년이 되는 날이었다.
교황청은 레오 14세라는 이름 역시 노동권과 사회 정의를 중시했던 레오 13세의 정신을 계승하겠다는 의미를 담고 있다고 설명한 바 있다.
이번 회칙에는 자연과학을 공부한 교황의 문제의식도 반영됐다는 평가가 나온다. 그는 사제 수련 이전인 1977년 미국 빌라노바대학교에서 수학 학사 학위를 취득했다.
김주완 기자 kjwan@hankyung.com
그는 신기술과 데이터, 알고리즘이 만들어낸 허위 정보가 전쟁을 둘러싼 갈등과 적대감을 증폭시키고 있다며, 이른바 ‘정당한 전쟁’이라는 개념 자체를 부정했다. 또한 디지털 경제가 보이지 않는 노동 착취 위에 세워져 있다며 이를 “새로운 형태의 노예제”라고 규정했다.
교황은 AI는 특정 세력이 독점해서는 안 되며 누구나 접근할 수 있어야 한다고 주장하면서, 정치권을 향해 기술과 정보 시장의 독과점을 감시해야 한다고 촉구했다.
레오 14세는 이날 교황청 시노드 강당에서 이러한 내용을 담은 회칙 ‘마니피카 후마니타스(Magnifica Humanitas·위대한 인간성)’를 직접 공개했다. 회칙은 전 세계 가톨릭 신자와 주교들에게 전달되는 교황의 최고 권위 사목 문헌으로, 교서·권고·강론 등 다른 교황 문헌보다 구속력이 강한 것으로 평가된다.
교황은 이번 회칙의 핵심 표현으로 ‘AI 무장 해제’를 제시했다. 이는 기술 권력을 가진 이들이 AI를 통해 인간 사회를 지배하도록 내버려 두지 않겠다는 의미라고 설명했다. 그는 “무장 해제는 AI 기술 자체를 거부하자는 뜻이 아니라, AI가 인간을 지배하지 못하도록 하자는 것”이라고 강조했다.
또 AI 기술을 성경 속 바벨탑에 비유하며 “또 다른 바벨탑 건설을 멈추고 공동선을 세우는 데 힘을 모아야 한다”고 말했다.
교황이 그동안 여러 차례 밝혀온 반전·평화 메시지도 회칙 전반에 담겼다. 그는 AI 시대의 전쟁은 단순한 무력 충돌을 넘어, 허위 정보와 단순화된 서사, 이분법적 사고를 통해 문화적으로도 조성된다고 지적했다. 그러면서 전쟁이 “필요하거나 불가피한 것, 심지어 정화된 것으로까지 포장된다”고 비판했다.
특히 미국과 러시아 등 강대국들이 내세워온 ‘정당한 전쟁론’을 겨냥해 “모든 전쟁을 합리화하는 데 반복적으로 사용돼 온 이 이론은 이제 시대에 뒤떨어졌다”고 주장했다. 이어 “무력과 폭력, 무기의 사용은 결국 관계의 빈곤을 드러내는 것”이라고 말했다.
일부 자율무기 체계에 대해서는 “이미 인간의 통제 범위를 사실상 넘어섰다”며 우려를 나타냈다.
교황은 알고리즘과 디지털 플랫폼, 기술 인프라, 데이터 등을 ‘보편적 재화’로 봐야 한다고도 주장했다. 디지털 혁명에 참여할 수 있는 사람들과 그렇지 못한 사람들 사이의 격차를 줄여야 한다는 취지다.
그는 “현재 디지털 공간의 플랫폼과 데이터, 인프라는 국가가 아니라 거대 경제·기술 세력이 통제하고 있다”며 “권력이 소수에게 집중되면 불투명성과 의존, 배제, 불평등으로 이어질 위험이 커진다”고 경고했다.
또 “AI와 로봇 시대에는 시장의 ‘보이지 않는 손’만으로 공공선을 실현할 수 없다”고 지적하며, 정치가 노동의 존엄성과 사회적 포용, 혁신 성과의 공정한 분배를 책임져야 한다고 강조했다.
디지털 경제 이면의 노동 착취 문제도 언급했다. 그는 “데이터 라벨링과 AI 모델 훈련 같은 보이지 않는 작업을 수행하는 수백만 명의 노동, 그리고 희토류 채굴 과정의 가혹한 노동에 디지털 경제가 의존하고 있다”며 “새로운 노예제와 싸우는 일은 윤리적 AI를 위한 핵심 시험대”라고 밝혔다.
이번 회칙은 4만 단어가 넘는 분량으로, 총 82페이지·245개 항목으로 구성됐다. 레오 14세가 지난해 5월 즉위한 이후 처음 발표한 회칙이기도 하다. 교황이 직접 회칙 발표 행사에 나선 것은 매우 이례적인 일로 평가된다.
행사에는 AI 기업 앤스로픽의 공동 창업자 크리스토퍼 올라 역시 참석했다. 그는 “최첨단 AI 연구소들은 종종 ‘옳은 일’과 충돌할 수 있는 유인 구조 속에서 움직인다”며, AI 기업들에 대한 외부 감시 필요성을 강조했다.
교황은 지난 15일 회칙에 서명했다. 이날은 레오 13세가 산업혁명 시대 노동권과 자본주의의 한계를 다룬 회칙 ‘레룸 노바룸’을 발표한 지 135주년이 되는 날이었다.
교황청은 레오 14세라는 이름 역시 노동권과 사회 정의를 중시했던 레오 13세의 정신을 계승하겠다는 의미를 담고 있다고 설명한 바 있다.
이번 회칙에는 자연과학을 공부한 교황의 문제의식도 반영됐다는 평가가 나온다. 그는 사제 수련 이전인 1977년 미국 빌라노바대학교에서 수학 학사 학위를 취득했다.
김주완 기자 kjwan@hankyung.com
관련뉴스
