생성·대화형 인공지능(AI) 서비스 챗GPT를 개발한 오픈AI의 최고경영자(CEO)가 정부 차원의 AI 규제가 필요하다고 주장했다.
16일(현지시간) 샘 올트먼 오픈AI CEO는 미 상원 법사위원회에서 열린 청문회에 출석해 이같이 밝혔다.
그는 AI의 잠재력을 높이 평가하면서도 “AI는 예측할 수 없는 방식으로 사회를 변화시킬 만큼 강력하다”며 “위험을 줄이기 위해서는 규제를 통한 정부의 개입이 필수”라고 주장했다. AI 챗봇이 대화를 하며 설득과 조작을 통해 사람에게 허위 정보를 제공할 수 있다고도 경고했다.
올트먼은 “내가 두려워하는 것은 기술 기업인 우리가 세계에 큰 해를 끼치는 것”이라며 “그런 일이 일어나지 않도록 정부와 함께 일하고 싶다”고 덧붙였다.
올트먼은 AI를 개발하거나 출시하려는 기업에게 정부가 라이선스를 발급하는 기관을 만들자고 제안했다. AI가 대중에게 공개되기 전 안전 규정 및 사전 테스트 등을 통과하게 함으로써 위험을 완화시키자는 것이다.
그는 “미국이 다른 나라들과 협력해 AI 국제 표준을 설정하면 전 세계에 큰 도움이 될 것”이라고 주장했다.
이날 출석한 크리스티나 몽고메리 IBM 부회장 겸 최고개인정보보호책임자는 AI 개발 방식보다는 AI의 사용 방식에 대한 정밀한 규제가 필요하다고 밝혔다.
문제는 미국을 포함한 각국 정부가 AI의 위험성을 검증할 역량이 되는지다. 의회에서 실시간으로 진보하는 기술을 효과적으로 관리 및 감독할 규제를 도입하기 쉽지 않아서다. 미 의회가 AI 청문회를 개최한 것도 이날이 처음이다. 블룸버그는 “이날 상원 의원들은 기업 관계자들에게 의회가 (AI 규제를) 감당할 수 있을지 터놓고 물었다”고 전했다.
상원 내에서도 AI의 위험성에 대한 지적이 이어졌다. 이날 리처드 블루먼솔 소위 위원장은 청문회 개회사를 듣겠다며 AI로 제작된 자신의 음성 녹음을 틀었다.
녹음에서는 “우리는 기술이 규제를 앞지를 때 어떤 일이 일어나는지 너무 자주 목격했다”며 개인정보의 무한한 이용, 허위 정보의 확산과 사회적 불평등 심화를 거론했다.
브루먼솔 위원장은 이 연설문은 챗GPT가 작성했다며 오디오는 자신의 연설을 학습한 AI 음성 복제 소프트웨어였다고 설명했다. 이어 “만약 우크라이나의 항복이나, 블라디미르 푸틴 러시아 대통령을 옹호하는 내용이었다면 어땠을지 무섭다”고 경고했다.
의원들도 이날 청문회에서 별도의 AI 규제 기구가 필요하다는 주장에 동의했다. 선거 때나 중국 등이 공산당 선전을 할 때 AI를 사용하는 등 민주주의가 AI로 인해 침해될 수 있다는 우려도 제기됐다.
노유정 기자 yjroh@hankyung.com
관련뉴스
