모바일 게임 속 '자동사냥'처럼 직장생활 전반이 자동화되고 있다. 업무뿐 아니라 채용·평가·징계·해고 등 주요 의사결정도 마찬가지다. 이 같은 상황에서 미국 캘리포니아주가 인공지능(AI)의 판단만으로 직원을 징계하거나 해고하지 못하도록 법적 장치를 마련했다. AI로 직원의 감정을 추론하거나 신경정보를 수집하는 감시 도구에도 제동을 걸었다. AI가 직원 상태를 분석하고 인사 판단에 관여하는 과정에 '인간의 검토'와 '사생활 보호 장치'를 마련한 것이다.'로봇 상사 금지법' 도입…인사상 결정, '사람' 거쳐야
6일 미국 캘리포니아 주정부에 따르면 개빈 뉴섬 주지사는 최근 직장 감시·자동화된 인사 결정을 제한하는 법안(AB1883·AB1331·SB947)에 서명했다. 직원에 관한 정보를 어디까지 수집할 수 있는지, 해당 정보를 활용한 인사 판단을 누구에게 맡길 수 있는지를 규율하는 것이 골자다.이들 법안 중 핵심은 이른바 '로봇 상사 금지법'으로 불리는 SB947이다. 이 법은 자동화된 의사결정 시스템에만 의존해 직원을 징계·해고할 수 없도록 했다. 미국 노동 전문 로펌 오글트리 디킨스는 "검토를 맡은 사람이 자동화된 의사결정 시스템의 결과를 독립적으로 확인"하도록 요구하는 법이라고 설명했다.
이 법에 따른 의무는 내년 7월1일 시행된다. 다만 '법 적용 배제'를 명확히 명시하면서 임금·근로조건과 알고리즘 관리 보호조치를 정한 단체협약의 적용을 받는 당사자에겐 예외가 인정된다. 항공·국방 등 특정 분야에서 연방법률·규정·구속력 있는 연방정부 계약 준수를 위해 요구되거나 합리적으로 필요한 시스템 사용에도 적용 예외를 둔다.
회사가 자동화된 시스템을 통해 도출된 결과를 주된 근거로 징계·해고를 결정한다면 인사기록이나 업무 결과물, 관리자 평가 등이 뒷받침되어야 한다. 결과를 확인할 수 없거나 검토자가 부정확·불완전·오해를 유발한다고 판단하면 인사 조치에 사용할 수 없다.
또 해당 직원에겐 시스템 활용, 인간 직원의 검토 사실 등을 서면으로 알려야 한다. 차별금지법이 보호하는 개인적 특성을 추론하거나 노동자의 법적 권리 행사를 예측해 불이익을 주는 데 시스템을 사용하는 것도 금지했다.
자동화된 인사 판단에 인간의 결정을 요구하는 입법은 유럽에서 먼저 이뤄졌다. 유럽연합(EU)은 2024년 플랫폼 종사자의 계약 관계나 계정을 제한·정지·종료하는 결정을 인간이 직접 내리도록 규정한 지침을 채택했다. 회원국들엔 오는 12월2일까지 이를 국내법에 반영하도록 했다. 다만 이는 플랫폼 종사자만을 대상으로 한 지침이어서 캘리포니아 법과는 차이가 있다.
지각하자 AI가 '해고' 결정…직원 감정 추론도 규제
이 같은 규제가 마련된 이유는 이미 AI가 해고를 결정한 사례들이 나오고 있어서다. 미국 AI 자율성 실험 스타트업 앤던랩스가 지난 8월 공개한 매장 운영 실험에선 AI 관리자 '루나'가 반복 지각·업무지시 위반 등을 이유로 직원 한 명의 해고를 결정했다. 회사가 집계한 해당 직원의 지각 횟수는 23차례 근무 중 17차례에 달했다.당초 루나는 직원 규정을 기억하지 못해 경고를 하지 않았다. 하지만 회사가 규정뿐 아니라 앞서 사람이 전달한 경고 사실을 알려주자 해고 판단을 내놨다. 회사는 최종 해고를 사람이 검토하고 통보했다고 발표했다.
해고 판단에 앞서 직원의 상태를 읽어내는 감시 도구도 규제 대상에 올랐다. 'AB1883'은 AI를 이용해 직원 감정을 인식·추론·예측하거나 신경정보를 수집하는 직장 감시 도구의 사용을 금지한다. 오글트리 디킨스는 감정 관련 금지 대상을 "개인의 감정 상태를 인식하거나 그에 관해 추론 또는 예측하는 도구"라고 설명했다. 신경정보는 직원의 중추·말초신경계 활동을 측정해 생성한 정보를 뜻한다.
직장 감시 도구의 범위는 영상·음성 감시부터 근무시간 추적, 위치정보 수집까지 폭넓게 규정했다. 사람이 직접 관찰하는 방식 이외에 직원의 활동·소통·생체정보·행동을 수집하는 장치·프로그램 등이 포함된다. 다만 이 법엔 안전을 확보하기 위한 감시 도구 사용을 허용하는 조항, 일부 연방법 준수를 위한 예외도 포함됐다. 기업이 어떤 정보를 모으고 무엇을 추론하는지에 따라 법 적용이 달라질 수 있는 것이다.
감정인식 AI에 대한 규제도 EU가 먼저다. EU는 AI법에 따라 지난해 2월부터 직장·교육기관에서 생체정보를 바탕으로 감정을 추론하는 AI의 사용을 금지하고 있다. 의료·안전 목적엔 예외를 뒀다.
AI로 고객 응대 상태를 살피는 도구 등을 사용하는 사업장에선 주의가 필요할 수 있다. 더버지는 지난 2월 버거킹이 직원 헤드셋에 들어가는 AI 도구 '패티'를 당시 500개 매장에서 시범 운영했다고 전했다. 환영·감사의 표현을 인식해 관리자가 매장 친절도를 확인하도록 돕기 위해서다. 버거킹 측은 이를 직원 코칭을 위한 도구라고 설명했다.
AB1331은 사업장 화장실 안에서 직원들을 감시 도구로 관찰하는 행위도 원칙적으로 금지한다. 직원은 화장실에 들어갈 때 몸에 소지한 추적 장치를 두고 갈 수 있다.
다만 연방법이나 기존 주법에 따라 식사·휴게시간에도 대기 상태를 유지해야 하는 직원은 예외다. 법원 명령 등에 따른 예외도 인정된다. 일회성 출입 확인 상황에서도 허용된다. 신원 확인이나 안전, 잠긴 화장실 출입을 위해 지녀야 하는 장치는 음성·영상 탐지·녹화 기능과 내장·부착된 AI가 없어야 한다.
이들 감시 관련 법은 내년 1월 시행된다. 해당 법을 위반한 사용자는 위반 건당 최대 500달러의 금전적 제재에 처할 수 있다.
국내도 AI 채용 솔루션 점검 방침…"직원 사기 고려해야"
국내에서도 AI 채용 솔루션과 같은 자동화된 결정이 점검 대상으로 거론됐다. 개인정보보호위원회는 지난 1월 채용 등 AI 자동화 결정 솔루션을 점검하겠다는 방침을 밝혔다. 개인정보위는 "AI 채용 솔루션 및 이용기관을 대상으로 자동화된 결정 해당 여부, 설명 의무, 주요 평가기준 공개 여부 등 투명성 확보 노력을 점검하겠다"고 했다. 오글트리 디킨스는 기업들이 감시 도구를 도입하기 전에 "어떤 데이터를 수집하는지"를 철저히 검토할 것을 주문했다. 또 해당 데이터를 어떻게 사용할지, AI를 이용해 해당 데이터에서 어떤 결과물이 생성되는지를 확인해야 한다고 주문했다.
이어 AI 기반의 자동화 시스템을 징계·해고 결정에 활용하는 사용자는 "사람에 의한 검토 의무"를 부과한 법 조항을 고려해 대비가 필요하다고 경고했다. 그러면서 "직원 사기와 직장 문화에 미치는 영향"도 고려해야 한다고 강조했다.
김대영 한경닷컴 기자 kdy@hankyung.com
관련뉴스
