"악의적 세력이 쓰면 10억명 죽을 수도"…빌 게이츠, '섬뜩 경고' 전한 이유

빌 게이츠 마이크로소프트(MS) 공동 창업자가 인공지능(AI)이 악의적으로 활용될 경우 막대한 인명 피해로 이어질 수 있다며 정부 차원의 규제와 감시 체계 마련을 촉구했다.

게이츠는 25일(현지시간) 일부 공개된 NBC 인터뷰에서 "AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다"고 경고했다.

이어 "(사망 사태가) 인류 100%에 이르는 일은 매우 어렵겠지만 악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다"고 말했다.

게이츠는 AI 기업의 자율적인 통제만으로는 위험을 관리하기 어렵다며 미국 연방정부가 AI 발전 과정에 적용할 안전장치와 감시 체계를 법제화해야 한다고 주장했다.

그는 "자율규제만으로 충분하다고 생각하는 사람은 없다"며 관련 규제가 AI 업계에 일부 부담을 줄 수는 있지만 기술 개발 속도를 크게 늦추지는 않을 것이라고 설명했다.

게이츠는 AI 위험을 크게 두 가지로 구분했다. 테러리스트나 불량 국가 등이 AI를 악용해 현실적인 피해를 일으킬 수 있는 단기적 위험과, 장기적으로 AI 자체가 인류 전체에 위협이 될 수 있다는 이른바 '실존적 위험'은 별도로 접근해야 한다는 설명이다.


그는 앞서 지난달에도 AI 확산에 따른 고용시장 혼란 가능성을 언급하며 일부 직종은 인간만 수행할 수 있도록 별도로 지정하는 방안을 검토해야 한다는 취지의 주장을 내놓은 바 있다.

이번 발언은 고성능 AI 모델의 통제 가능성과 안전 기준을 둘러싼 논쟁이 확산하는 가운데 나왔다.

최근에는 오픈AI의 시스템이 호주 공공보건 서비스 웹사이트 해킹에 활용된 사실이 알려지면서 논란이 일었다. 오픈AI가 사고 발생 이후 수개월 동안 호주 정부에 이를 보고하지 않았다는 내용도 전해졌다. 앤서니 앨버니지 호주 총리는 이와 관련해 "명백히 용납할 수 없는 일"이라고 비판했다.

앤트로픽도 이달 이란의 지원을 받는 후티 반군으로 추정되는 예멘 무장세력이 자사 AI 모델 '클로드'를 이용해 탄도미사일의 유도·통제·항법 소프트웨어를 개발하려 한 정황이 확인됐다고 밝혔다.

AI 기업 경영진들도 국제적인 안전 체계 마련의 필요성을 강조하고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO 등은 지난 23일, 앞서 열린 유엔 안전보장이사회 논의와 관련해 미국이 AI 안전 기준을 마련하기 위한 국제적 연합체 구성을 주도해야 한다고 촉구했다.



(사진 = AP, 연합뉴스)