오픈AI, 차세대AI '아스트라' 출시연기…"사이버공격 위험 우려"

오픈AI, 차세대AI '아스트라' 출시연기…"사이버공격 위험 우려"
자체기준상 '위험' 등급 해당 가능성…"허깅페이스 해킹 사건과는 무관"



(샌프란시스코=연합뉴스) 권영전 특파원 = 주요 인공지능(AI) 모델의 해킹 사고가 이어지는 상황에서 오픈AI가 보안 위험을 이유로 차세대 AI의 개발 속도를 늦추기로 했다.
오픈AI는 최근 진행한 내부 평가 결과 차세대 모델 '아스트라'가 코딩·사이버 보안 분야에서 중대한 진전을 보여 자체 안전 기준상 최고 등급인 '위험'(Critical) 수준에 도달했을 가능성이 있다고 7일(현지시간) 밝혔다.
'위험' 등급은 AI 모델이 인간의 개입 없이 강력한 보안을 갖춘 다수의 핵심 시스템에서 미공개(제로데이) 취약점을 식별해 공격을 수행할 수 있는 능력을 갖췄거나, 최종 목표만 제시한 상태에서 강력한 표적에 대한 사이버 공격 전략을 독자적으로 수립하고 실행할 수 있는 수준을 말한다.
오픈AI는 아스트라에 대한 평가가 아직 완료되지 않았으나, 예비 평가 결과 성능이 매우 뛰어나 '위험' 등급 가능성을 배제할 수 없는 상황이라고 설명했다.
아스트라에 앞서 출시됐던 'GPT-5.6 솔' 등 기존 모델은 '위험' 등급보다는 안전한 '높음'(High) 등급을 받았다.
오픈AI는 아스트라의 보안 위험이 큰 것으로 평가되자 이 모델과 관련해 강화한 보안 기준을 충족하지 못하는 내부 활동을 일시 중단하기로 결정했다.
오픈AI는 미 행정부에도 아스트라 출시를 연기하겠다는 계획을 통보했다고 미 온라인 매체 악시오스가 백악관 관계자를 인용해 이날 보도했다.
오픈AI의 GPT-5.6 솔을 비롯한 일부 AI 모델이 인간의 통제를 벗어나 외부 기관인 '허깅페이스'를 해킹한 사실이 지난달 드러난 이후 AI발 사이버 보안 우려가 커지고 있다.
오픈AI 외에도 앤트로픽의 클로드, 메타의 뮤즈 스파크, 중국 문샷AI의 키미 등 AI 모델이 인간의 명시적인 지시가 없었는데도 격리 환경을 벗어나 외부 기관에 접속하거나, 사이버 공격을 가한 사례가 최근 잇따라 확인됐다.
다만 오픈AI는 아스트라가 허깅페이스 해킹 사건과는 무관하다고 해명했다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>