챗GPT 언어폭력 점검에 노동력 투입…케냐 근로자 트라우마 부작용(종합)
"폭력, 괴롭힘, 자해, 강간, 아동 성폭력 콘텐츠에 지속 노출"
OECD 사무총장 "AI 도입 후 노동자 업무강도 높아져"
(서울=연합뉴스) 차병섭 이도연 기자 = 챗GPT 흥행 이후 생성형 인공지능(AI)에 따른 업무 효율성 향상 기대와 일자리 대체 우려가 공존하는 가운데, AI가 쏟아내는 부적절한 콘텐츠들을 걸러내는 저임금 근로자의 업무 부담이 늘고 있다는 진단이 나왔다.
미 일간 월스트리트저널(WSJ)은 23일(현지시간) 인건비가 낮은 케냐 등에서 이러한 일자리가 집중되고 있으며 노동자들이 폭력적이고 괴기스러운 내용을 접한 뒤 트라우마(정신적 외상)를 겪고 있다면서 이같이 전했다.
기업들이 온라인상에서 확보하거나 AI가 만들어낸 수많은 콘텐츠 가운데 폭력·자해·강간·참수 등 부적절한 내용을 검토·분류하기 위해 케냐 노동자들을 고용해왔다.
소셜미디어 업체들은 AI 열풍 이전에도 부적절한 이용자 게시물을 걸러내기 위한 작업을 해왔지만, 챗GPT 흥행 이후 이들 작업의 중요성이 더욱 강조되고 있다.
챗GPT를 비롯한 챗봇은 인터넷에 있는 엄청난 양의 디지털 문서를 학습하는 거대언어모델(LLM)을 기반으로 구동되는 만큼, 인터넷상의 어두운 면을 인용한 유해 콘텐츠가 만들어질 가능성도 크기 때문이다.
미국 샌프란시스코에 있는 아웃소싱 기업 사마는 2021년 11월 오픈AI와 계약을 맺고 케냐 직원들을 고용해 이 작업을 시작했다.
챗봇의 기반이 되는 대규모 언어모델(LLM)은 여러 단계에서 사람의 입력이 필요한데, 케냐 직원들은 이 중 네 번째 단계에 해당하는 마지막 안전 점검을 맡았다.
그러나 케냐에서 이 일을 맡은 근로자들이 검토한 텍스트에는 폭력, 괴롭힘, 자해, 강간, 아동 성폭력 등에 관한 묘사가 포함돼 있었다고 WSJ은 전했다.
이는 심리적으로 아주 힘든 작업이었고, 이 영향으로 일부 직원들은 정신 질환을 앓고 있거나 인간·가족 관계에서 고통을 받고 있다고 WSJ은 전했다. 일부는 일을 계속하는 데 어려움을 겪고 있다.
오픈 AI의 연구 보고서에 따르면 오픈AI 연구원들은 사마에 여러 묶음의 텍스트 구절을 보낸 뒤 케냐의 직원들이 하나씩 분류하도록 했다.
여기에는 학자들이 모아서 공유한 유해 콘텐츠와 소셜 미디어에서 스크랩한 게시물, AI 모델이 유해한 결과를 생성하도록 만들어진 콘텐츠 등이 포함됐다.
오픈AI는 작업자들에게 텍스트 기반의 성적인 콘텐츠를 네 가지 심각도에 따라 분류하라고 요청했다. 이 중 가장 심각한 단계는 C4로 아동 성적 학대물에 관한 것이었다. 그 바로 아래 단계인 C3에는 근친상간, 강간, 성매매, 성노예 등 실제로는 불법이 될 수 있는 성적 콘텐츠가 포함됐다.
폭력적 콘텐츠의 경우 오픈AI는 이를 세 가지로 분류하라고 했는데 이 중 가장 심각한 단계는 '극도로 사실적인 폭력'이었다.
처음에는 케냐 직원들에게 전달된 텍스트가 두 문장이 넘지 않았지만, 시간이 지나면서 5~6문장으로 늘어났다. 이와 함께 병가·가족 돌봄 휴가를 신청하는 직원들이 많아졌다고 한다.
사마에 고용된 케냐의 직원 중 한명인 알렉스 카이루는 WSJ에 "이 일을 했던 4개월간이 내가 일하는 중 최악의 경험이었다"고 말했다.
카이루는 하루에 수백개의 포스트를 읽었는데 여기에는 때때로 자신을 포크로 찌르거나 차마 말할 수 없는 방법으로 자살하는 사람들의 극악한 행위가 묘사돼 있었다.
점차 악몽을 꾸게 되고 사회적으로 고립돼 갔으며 지금까지도 낯선 사람을 불신하고 있다고 카이루는 전했다.
케냐의 성적 콘텐츠 검토 팀에서 일했던 다른 직원인 모팟 오키니는 팀에서 한 달에 검토한 포스트가 1만5천개에 달했으며 이 팀에서 일한 지 6개월 만에 가족이 자신을 떠났으며 트라우마와 불안, 우울증에 시달리고 있다고 덧붙였다.
메타의 유해 콘텐츠를 걸러내는 작업을 했던 케냐 근로자들은 약 200명 이상의 직원이 메타가 강간, 참수, 자살과 관련된 영상과 이미지를 검토하도록 해 트라우마가 생겼다며 페이스북을 고소했고, 케냐 법원은 지난달 메타에 계약직 직원의 처우에 관한 법적 책임이 있다고 판결했다.
한편 한 잡지 발행인은 AI를 활용한 과학·판타지 소설 기고가 수백건씩 쏟아지면서 작품 접수를 잠정 중단했다면서 "업무량이 거의 2배가 됐다"고 호소하는 등 부작용도 나타나고 있다고 미 CNN방송은 전했다.
경제협력개발기구(OECD) 마티아스 코먼 사무총장은 최근 AI 발달에 따른 긍정·부정적 측면이 동시에 있다면서 "노동자들은 업무에 AI를 쓴 뒤 업무 강도가 올라갔다고 보고하고 있다"고 말했다.
또 OECD 보고서에 따르면 AI 이외 분야의 전문가들은 AI 사용으로 업무는 늘었지만 임금 인상 효과는 아직 없는 것으로 전해졌다고 CNN은 덧붙였다.
bscha@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
"폭력, 괴롭힘, 자해, 강간, 아동 성폭력 콘텐츠에 지속 노출"
OECD 사무총장 "AI 도입 후 노동자 업무강도 높아져"
(서울=연합뉴스) 차병섭 이도연 기자 = 챗GPT 흥행 이후 생성형 인공지능(AI)에 따른 업무 효율성 향상 기대와 일자리 대체 우려가 공존하는 가운데, AI가 쏟아내는 부적절한 콘텐츠들을 걸러내는 저임금 근로자의 업무 부담이 늘고 있다는 진단이 나왔다.
미 일간 월스트리트저널(WSJ)은 23일(현지시간) 인건비가 낮은 케냐 등에서 이러한 일자리가 집중되고 있으며 노동자들이 폭력적이고 괴기스러운 내용을 접한 뒤 트라우마(정신적 외상)를 겪고 있다면서 이같이 전했다.
기업들이 온라인상에서 확보하거나 AI가 만들어낸 수많은 콘텐츠 가운데 폭력·자해·강간·참수 등 부적절한 내용을 검토·분류하기 위해 케냐 노동자들을 고용해왔다.
소셜미디어 업체들은 AI 열풍 이전에도 부적절한 이용자 게시물을 걸러내기 위한 작업을 해왔지만, 챗GPT 흥행 이후 이들 작업의 중요성이 더욱 강조되고 있다.
챗GPT를 비롯한 챗봇은 인터넷에 있는 엄청난 양의 디지털 문서를 학습하는 거대언어모델(LLM)을 기반으로 구동되는 만큼, 인터넷상의 어두운 면을 인용한 유해 콘텐츠가 만들어질 가능성도 크기 때문이다.
미국 샌프란시스코에 있는 아웃소싱 기업 사마는 2021년 11월 오픈AI와 계약을 맺고 케냐 직원들을 고용해 이 작업을 시작했다.
챗봇의 기반이 되는 대규모 언어모델(LLM)은 여러 단계에서 사람의 입력이 필요한데, 케냐 직원들은 이 중 네 번째 단계에 해당하는 마지막 안전 점검을 맡았다.
그러나 케냐에서 이 일을 맡은 근로자들이 검토한 텍스트에는 폭력, 괴롭힘, 자해, 강간, 아동 성폭력 등에 관한 묘사가 포함돼 있었다고 WSJ은 전했다.
이는 심리적으로 아주 힘든 작업이었고, 이 영향으로 일부 직원들은 정신 질환을 앓고 있거나 인간·가족 관계에서 고통을 받고 있다고 WSJ은 전했다. 일부는 일을 계속하는 데 어려움을 겪고 있다.
오픈 AI의 연구 보고서에 따르면 오픈AI 연구원들은 사마에 여러 묶음의 텍스트 구절을 보낸 뒤 케냐의 직원들이 하나씩 분류하도록 했다.
여기에는 학자들이 모아서 공유한 유해 콘텐츠와 소셜 미디어에서 스크랩한 게시물, AI 모델이 유해한 결과를 생성하도록 만들어진 콘텐츠 등이 포함됐다.
오픈AI는 작업자들에게 텍스트 기반의 성적인 콘텐츠를 네 가지 심각도에 따라 분류하라고 요청했다. 이 중 가장 심각한 단계는 C4로 아동 성적 학대물에 관한 것이었다. 그 바로 아래 단계인 C3에는 근친상간, 강간, 성매매, 성노예 등 실제로는 불법이 될 수 있는 성적 콘텐츠가 포함됐다.
폭력적 콘텐츠의 경우 오픈AI는 이를 세 가지로 분류하라고 했는데 이 중 가장 심각한 단계는 '극도로 사실적인 폭력'이었다.
처음에는 케냐 직원들에게 전달된 텍스트가 두 문장이 넘지 않았지만, 시간이 지나면서 5~6문장으로 늘어났다. 이와 함께 병가·가족 돌봄 휴가를 신청하는 직원들이 많아졌다고 한다.
사마에 고용된 케냐의 직원 중 한명인 알렉스 카이루는 WSJ에 "이 일을 했던 4개월간이 내가 일하는 중 최악의 경험이었다"고 말했다.
카이루는 하루에 수백개의 포스트를 읽었는데 여기에는 때때로 자신을 포크로 찌르거나 차마 말할 수 없는 방법으로 자살하는 사람들의 극악한 행위가 묘사돼 있었다.
점차 악몽을 꾸게 되고 사회적으로 고립돼 갔으며 지금까지도 낯선 사람을 불신하고 있다고 카이루는 전했다.
케냐의 성적 콘텐츠 검토 팀에서 일했던 다른 직원인 모팟 오키니는 팀에서 한 달에 검토한 포스트가 1만5천개에 달했으며 이 팀에서 일한 지 6개월 만에 가족이 자신을 떠났으며 트라우마와 불안, 우울증에 시달리고 있다고 덧붙였다.
메타의 유해 콘텐츠를 걸러내는 작업을 했던 케냐 근로자들은 약 200명 이상의 직원이 메타가 강간, 참수, 자살과 관련된 영상과 이미지를 검토하도록 해 트라우마가 생겼다며 페이스북을 고소했고, 케냐 법원은 지난달 메타에 계약직 직원의 처우에 관한 법적 책임이 있다고 판결했다.
한편 한 잡지 발행인은 AI를 활용한 과학·판타지 소설 기고가 수백건씩 쏟아지면서 작품 접수를 잠정 중단했다면서 "업무량이 거의 2배가 됐다"고 호소하는 등 부작용도 나타나고 있다고 미 CNN방송은 전했다.
경제협력개발기구(OECD) 마티아스 코먼 사무총장은 최근 AI 발달에 따른 긍정·부정적 측면이 동시에 있다면서 "노동자들은 업무에 AI를 쓴 뒤 업무 강도가 올라갔다고 보고하고 있다"고 말했다.
또 OECD 보고서에 따르면 AI 이외 분야의 전문가들은 AI 사용으로 업무는 늘었지만 임금 인상 효과는 아직 없는 것으로 전해졌다고 CNN은 덧붙였다.
bscha@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
