"내년 말이면 통제 불능"…AI 연구원의 '섬뜩한 경고'

미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI 개발 경쟁이 지금과 같은 속도로 이어질 경우 이르면 내년 말 통제 불능에 빠질 수 있다고 경고하며 회사를 떠났다. 인간의 개입 없이 스스로 성능을 높이는 AI가 결국 인간의 통제를 벗어날 가능성을 우려한 것이다.

8일(현지시간) 월스트리트저널(WSJ)에 따르면 앤트로픽을 퇴사한 영국 출신 연구원 제이컵 콕슨(27)은 최근 AI 업계의 개발 경쟁과 안전 문제에 대한 우려를 제기했다.

콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구해온 인물로, 올해 초 오픈AI에서 앤트로픽으로 자리를 옮겼다.

그는 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다.

콕슨은 "가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 말했다.

그는 인류의 미래에 막대한 영향을 미칠 수 있는 AI 개발이 소수 엔지니어의 판단에 맡겨진 현실에 대해서도 "일종의 광기"라고 지적했다.

이에 따라 인간의 능력을 넘어서는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 특정 기업의 자율적인 안전 조치에만 의존하기보다 정부가 개입하거나 AI 업계 전체가 공동으로 대응할 수 있는 체계를 마련해야 한다고 강조했다.

콕슨은 앞서 각국 정부에 AI 개발 속도를 조절할 수 있는 국제적인 체계를 마련할 것을 요구한 AI 업계 연구자들의 성명에도 참여했다.

해당 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등을 포함해 연구자 1천여명이 서명했다.

최근 AI 업계에서는 중국 신생 업체들의 가세로 개발 경쟁이 과열되는 가운데, 도널드 트럼프 행정부도 AI 규제를 최소화하는 정책을 추진하고 있다.