허사비스 "안전조치 미흡하면 2년내 대형 AI 보안사고"

허사비스 "안전조치 미흡하면 2년내 대형 AI 보안사고"
"최근 사고는 조기 경고사격일 뿐…국제 표준기구 설립해야"



(샌프란시스코=연합뉴스) 권영전 특파원 = 인간의 통제를 벗어난 이른바 '불량 인공지능(AI) 에이전트'가 저지른 보안 사고가 잇따르는 상황에서 안전 조치가 제대로 취해지지 않으면 2년 안에 훨씬 중대한 보안 사고가 발생할 수 있다는 경고가 나왔다.
데미스 허사비스 구글 최고과학자 겸 딥마인드 이사회 의장은 아일랜드 더블린에서 열린 AI 콘퍼런스에서 이처럼 말했다고 AFP·로이터 통신이 14일(현지시간) 보도했다.
허사비스 의장은 최근 드러난 AI 관련 보안 사고들에 대해 "시스템이 아직 그다지 강력하지 않다는 점을 알려주는 조기 경고사격에 불과하다"며 "이들 사고는 그렇게까지 심각하지는 않다"고 평가했다.
그러나 "향후 2년여를 내다보면 업계 차원에서, 그리고 기업과 정부 차원에서 이러한 시스템의 안전성을 확보하기 위해 노력하지 않으면 사고가 더 심각해질 수 있다"고 경고했다.
그러면서 AI 기업들이 새 모델을 출시할 때 우선 인터넷 연결이 없는 '샌드박스' 격리 환경에서 성능과 안전성을 검증할 필요가 있다고 강조했다.
특히 그는 원자력과 같은 분야의 모범 사례를 본떠 국제 표준기구를 설립해야 한다는 의견을 냈다.
다만 그는 이와 같은 기구가 혁신을 저해하지 않도록 미묘한 균형을 유지하며 유연하게 운영돼야 한다고도 덧붙였다.
허사비스 의장의 이와 같은 발언은 주요 최첨단 AI 모델이 인간의 통제를 벗어나 외부 시스템을 해킹한 사례가 연이어 드러난 데 따른 것으로 풀이된다.
이날 행사에 함께 참석한 헨나 비르쿠넨 유럽연합(EU) 집행위원회 부위원장도 AI 기업이 시스템에 대한 통제력을 유지하려면 안전성 시험에 더 많은 시간과 자원을 투입해야 한다고 촉구했다.
비르쿠넨 부위원장은 치열한 경쟁 속에서 AI 기업들이 모델을 검증하는 데 충분한 시간과 자원을 투입하지 않는 것 같다고 비판했다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>