美잠룡 뉴섬 주지사 'AI 킬스위치' 행정명령…트럼프와 각세우기

美잠룡 뉴섬 주지사 'AI 킬스위치' 행정명령…트럼프와 각세우기
AI 안전강화 권고안 마련키로…AI 비상정지장치 도입 의무화 검토
"워싱턴이 미국민 보호 책임 방기…캘리포니아 AI 규제, 전국 기준 돼야"



(샌프란시스코=연합뉴스) 권영전 특파원 = 미국 민주당 차기 대선주자로 꼽히는 개빈 뉴섬 캘리포니아 주지사가 인공지능(AI) 시스템의 비상정지장치(킬스위치) 도입 의무화를 검토하는 행정명령을 발표했다.
뉴섬 주지사는 18일 AI 전문가 그룹을 소집해 2개월 이내에 AI 안전·보안 법규를 강화하기 위한 권고안을 마련하도록 하는 내용의 행정명령에 서명했다고 캘리포니아주가 18일(현지시간) 밝혔다.
이번 행정명령은 AI 모델이 오작동하거나 위험 행동을 할 때 즉각 구동을 멈출 수 있는 비상 정지장치를 의무적으로 탑재하도록 하는 방안을 핵심 검토 과제로 제시했다.
또 최첨단 AI 기업이 독립 검증 기관을 통해 자체 안전 계획을 수립하도록 의무화하는 방안과 AI 기업 연구소 내에 검증기관 인력을 상주시켜 정기적으로 감사와 평가를 진행하도록 하는 방안도 포함됐다.
뉴섬 주지사는 이번 행정명령을 발표하면서 AI 규제에 소극적인 도널드 트럼프 대통령과 연방 정부를 향해 강도 높은 비판을 쏟아냈다.
그는 "연방 정부가 의미 있는 AI 감독이나 책임성 확보 방안을 전혀 마련하지 못한 것은 미국인에게 경각심을 불러일으켜야 할 일"이라며 "심지어 AI 기업 CEO들 스스로 규제를 간청하고 있는 상황"이라고 지적했다.
이어 "워싱턴이 미국 국민을 보호해야 할 책임을 방기하는 동안 캘리포니아는 전국에서 가장 강력한 AI 규제 체계를 구축해나가고 있다"며 "캘리포니아가 모범 사례를 마련했으니 우리의 정책이 전국적인 기준이 돼야 한다"고 주장했다.
캘리포니아주는 최근 최첨단 AI 모델의 안전성을 검증하기 위해 독립기관을 설립하도록 하는 법안과 AI 감사인 등록제 관련 법안 등을 제정했다.
뉴섬 주지사는 이번 행정명령을 통해 주 정부운영청(GOA)에 해당 법의 시행 시기를 앞당길 것을 지시했다.
내년 1월 주지사 연임 임기가 끝나는 뉴섬은 3연임이 금지된 주 헌법상 자리에서 물러나게 된다.
그는 해외에서 진행되는 국제 행사에 여러 차례 참석해 트럼프 대통령을 비판하는 등 사실상 대선을 염두에 둔 활동을 해왔다.
다만 최근에는 같은 캘리포니아 출신으로 정치적 기반을 공유하는 카멀라 해리스 전 부통령이 대선에 재도전할 경우 자신은 불출마하겠다는 입장을 밝힌 바 있다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>