"상황이 통제 불능에 빠질 수도"…AI 연구원의 섬뜩한 경고

앤트로픽 연구원 출신이 AI가 인류를 파멸로 이끌 수 있다고 경고하며 회사를 떠났다.

8일(현지시간) 월스트리트저널(WSJ)은 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)이 이 같은 우려를 제기했다고 보도했다. 콕슨은 대규모 데이터로 새로운 AI 모델을 학습시키는 분야를 연구해왔다.

그는 "가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수 있다"고 주장했다.

AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템 개발에 경쟁적으로 뛰어드는 과정에서 안전 점검이 후순위로 밀릴 수 있다는 게 콕슨의 지적이다. 그는 자율 개선 AI가 인간의 통제를 벗어나 명령을 거부하는 수준에 이를 가능성도 제기했다.

앞서 콕슨은 각국 정부에 AI 개발 속도를 조절할 국제 체계 마련을 촉구하는 성명에 참여했다. 해당 성명에는 다리오 아모데이 앤트로픽 최고경영자(CEO)와 야쿠프 파초키 오픈AI 수석과학자 등을 포함해 연구자 1000여명이 서명했다.

한편 최근 AI 업계는 중국 신생 업체의 가세로 개발 경쟁이 과열됐다. 도널드 트럼프 행정부도 이에 맞춰 AI 규제를 최소화하는 방향의 정책을 추진하고 있다.

이정우 한경닷컴 기자 krse9059@hankyung.com