빌 게이츠 "AI 하나로 10억명 죽을 수도"…감시 강화 촉구

빌 게이츠 마이크로소프트(MS) 공동 창업자가 인공지능(AI)이 악의적인 세력의 손에 넘어갈 경우 대규모 인명 피해를 일으킬 수 있다며 정부 차원의 규제와 감시 체계를 강화해야 한다고 촉구했다.

게이츠는 25일(현지시간) 일부 공개된 NBC 인터뷰에서 "AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다"고 말했다. 그는 "인류 100%에 이르는 일은 매우 어렵겠지만 악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다"고 경고했다.

게이츠는 미국 연방정부가 AI 발전에 대한 안전장치와 감시 체계를 담은 법안을 반드시 통과시켜야 한다고 주장했다. 그는 "자율규제만으로 충분하다고 생각하는 사람은 없다"며 관련 입법이 업계에 부담을 줄 수는 있어도 AI 개발 속도를 크게 늦추지는 않을 것으로 전망했다.

다만 게이츠는 테러리스트나 불량 국가가 AI를 악용하는 단기 위험과, AI가 인류 전체를 위협할 수 있다는 장기적인 '실존적 위험'은 구분해야 한다고 강조했다. 그는 지난달에도 AI 확산으로 고용시장이 흔들릴 수 있다며 일부 직종을 인간 전용으로 지정해야 한다고 주장한 바 있다.

AI의 오·남용 우려는 최근 실제 보안 사건과 맞물리며 더 커지고 있다. 오픈AI 시스템이 호주의 공공보건 서비스 웹사이트에 무단 접근한 사실이 지난 23일 드러났고, 오픈AI가 사고 발생 뒤 수개월 동안 호주 정부에 이를 보고하지 않았다는 지적도 제기됐다. 앤서니 앨버니지 호주 총리는 이를 "명백히 용납할 수 없는 일"이라고 비판했다.

앤트로픽은 이달 이란의 지원을 받는 후티 반군으로 추정되는 예멘 무장세력이 자사 AI 모델 '클로드'를 활용해 탄도미사일의 유도·통제·항법 소프트웨어 개발을 시도했다고 밝히기도 했다. 앤트로픽은 관련 계정을 차단하고 당국과 정보를 공유했다고 설명했다.

AI 기업 수장들은 국제적 안전 기준 마련을 촉구하고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO 등은 지난주 유엔 안전보장이사회에서 미국이 AI 안전 기준을 위한 국제 연합체 구성을 주도해야 한다고 주장했다.

그러나 미국 정부의 입장은 다르다.

마이클 크라치오스 백악관 과학기술정책실장은 같은 회의에서 "슈퍼지능(SI)의 발전이 시민에게 혜택을 주고 자유와 삶의 방식을 보호하도록 하는 것이 주된 책무"라며 기술 발전을 이유로 추가 개발을 멈추거나 새로운 국제 거버넌스 체제로 제약할 필요는 없다고 말했다. 그러면서 "미국은 슈퍼지능을 통제하기 위한 국제적 체제를 구축하려는 어떠한 시도도 전적으로 거부한다"고 강조했다.

김소연 한경닷컴 기자 sue123@hankyung.com