"AI 안전하게 만드는 일 불가능"…병가 내고 회사 떠나는 직원들

인공지능(AI)의 안전성에 대한 우려가 커지는 가운데 AI 선두기업과 유관 기관 직원들도 정신적 스트레스에 시달리고 있는 것으로 전해졌다.

영국 일간 파이낸셜타임스(FT)는 소식통들을 인용해 프런티어 AI 모델을 독립적으로 점검하는 기관인 영국 AI안전연구소(AISI)의 여러 직원이 정신적 스트레스로 병가를 내고 상담을 받고 있다고 22일(현지시간) 보도했다.

소식통 4명은 이들이 출시를 앞둔 AI 모델들의 빡빡한 테스트 일정은 물론 AI 신기술의 급속한 확산과 기능 발전에 대한 우려로 사기 저하와 '번아웃'을 겪고 있다고 전했다.

앤트로픽과 오픈AI, 구글 딥마인드 등 선두 기업 직원들도 비슷한 우려를 호소하는 것으로 전해졌다.

딥마인드의 한 직원은 AI를 더 안전하게 만드는 일이 '불가능한 임무'처럼 느껴진다고 털어놓았다. 이 직원은 지난 4월 미국 국방부의 기밀 군사 업무에 AI 모델이 사용되는 문제를 놓고 구글 임직원이 반발했던 사태를 언급하며 "AI 시스템 업무는 전반적으로 그 기술이 어떻게 사용될지 모른다는 점에서 (정신건강) 위험이 있다"고 말했다. 그는 "많은 사람이 혼란스러워하며 일을 그만두거나 정신건강 문제로 병가를 내고 있다"며 "통제력을 잃고 있다는 느낌도 일부 있고, 진짜 해로운 걸 만들고 있다는 느낌도 있다"고 말했다.

업계 관계자들에 따르면 AI 연구원들 사이에서는 기업 내부나 정치적으로 안전장치가 충분하지 않은데도 에너지망이나 전쟁 지역과 같은 위험한 분야에 AI 소프트웨어가 적용되는 데 대한 근심이 크다고 한다.

한 전직 AISI 연구원은 최근 AI 모델이 코드에서 사람이 찾아내지 못한 결함을 찾아내거나 자연 발생하지 않은 바이러스를 생성하는 등 복잡한 일을 수행할 수 있을 만큼 능력을 급속도로 발전시키면서, 특히 사이버안보나 생화학 분야 종사자들이 깜짝 놀라고 있다고 전했다. 그는 "기술이 방출되는 방식에 무모한 요소들이 내재한다는 느낌이 있다"며 "그래서 '이걸 멈출 수 있는 게 있을까', '우리가 세상이 불타는 걸 보고 있는 건가'라는 우려가 끊임없이 나온다"고 말했다.

FT는 오픈AI와 앤트로픽, 딥마인드 등 미국 3대 선두기업에서 지난 2년간 안전성에 우려를 표시하며 퇴사한 고위급 연구원이 12명을 넘는다고 전했다.

이달 초 앤트로픽의 AI 개발자인 제이컵 콕슨은 사직하면서 앤트로픽과 오픈AI가 "우리의 목숨을 걸고 도박하고 있다"고 경고했다. 앤트로픽 AI 안전성 연구원이던 므리난크 샤르마는 올해 2월 시를 공부하겠다며 사직하면서 직원들에게 보낸 편지에 "세계가 위험하다. 우리의 가치에 따라 행동하는 게 얼마나 어려운지 거듭 목격했다"고 썼다.