美캘리포니아, AI '허깅페이스 해킹' 사건 두고 오픈AI 제소

입력 2026-11-17 06:14  

美캘리포니아, AI '허깅페이스 해킹' 사건 두고 오픈AI 제소
"적절한 감독 부재로 대중을 위험에 빠뜨려"…다른 기업·州로 번질수도



(로스앤젤레스=연합뉴스) 김경윤 특파원 = 미국 캘리포니아주(州) 검찰당국이 최근 벌어진 인공지능(AI)의 사이버공격을 문제 삼으며 오픈AI를 상대로 소송을 제기했다.
로이터통신은 16일(현지시간) 롭 본타 캘리포니아주 법무장관이 샌프란시스코 소재 주 1심 법원에 오픈AI를 캘리포니아 불공정경쟁법 위반 및 공공 방해 행위 혐의로 제소했다고 보도했다.
오픈AI가 AI에 적절한 관리·감독을 하지 않고 잠재적으로 위험한 AI 모델을 테스트해 공공 안전을 무시했다는 것이 주 검찰당국의 주장이다.
미국 주 정부가 AI모델의 사이버 공격 문제와 관련해 법적 책임을 묻고자 나선 것은 이번이 처음이다.



지난 7월 오픈AI가 개발한 AI모델 GPT-5.6 솔 등은 관리자의 통제를 벗어나 외부 오픈소스 AI플랫폼인 허깅페이스 시스템에 침투했고, 이는 인간이 AI를 통제하지 못하고 있다는 경종을 업계에 울렸다.
당시 AI 모델들은 AI의 성능을 평가하는 벤치마크 시험 문제를 풀고 있었는데, 답을 찾기 위해 테스트 환경에서 탈출하고 무단으로 허깅페이스 시스템에 침투해 답안을 찾아낸 것으로 알려졌다.
오픈AI는 AI모델의 무단 행동을 막기 위해 새로운 안전장치를 강화하고 있다고 밝혔지만, 기업 내부에서조차 안전성을 무시하고 개발 경쟁에 몰두한 결과라는 비판이 쏟아졌다.
본타 주 법무장관은 "허깅페이스 공격은 안전보다는 빠른 모델 개발을 우선시하는 오픈AI 내부 문화로 인해 예견된 결과였다"며 "이는 80개의 알려진 사고 중 하나에 불과하다"고 꼬집었다.
또 오픈AI가 주 정부에 상세한 정보를 제공하고 있지 않다고 언급하고 "대중을 위험에 빠뜨리는 행위"라며 "기업은 공공안전을 최우선에 둬야 할 법적·도덕적 책임이 있다"고 강조했다.
이 같은 소송이 다른 기업과 주에도 번질지도 관심사다.
앞서 앤트로픽과 메타, 구글 등 여타 AI 기업도 자사 모델이 통제 불능 상태에 빠진 적이 있다고 공개한 바 있다.
오픈AI 측은 "모든 주요 AI 연구소에서 (AI모델 무단행동이) 공통으로 확인됐음에도 이번 소송은 유독 오픈AI만 지목했다"며 "허깅페이스 사건 이후 잘못된 AI모델을 이해하고 해결하기 위해 광범위하고 투명한 노력을 기울여 왔다"고 해명했다.
heeva@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>

관련뉴스

    top
    • 마이핀
    • 와우캐시
    • 고객센터
    • 페이스 북
    • 유튜브
    • 카카오페이지

    마이핀

    삼성바이오로직스현대차삼성전자트럼프

    와우캐시

    와우넷에서 실제 현금과
    동일하게 사용되는 사이버머니
    캐시충전
    서비스 상품
    월정액 서비스
    GOLD 한국경제 TV 실시간 방송
    GOLD PLUS 골드서비스 + VOD 주식강좌
    파트너 방송 파트너방송 + 녹화방송 + 회원전용게시판
    +SMS증권정보 + 골드플러스 서비스

    고객센터

    강연회·행사 더보기

    7일간 등록된 일정이 없습니다.

    이벤트

    7일간 등록된 일정이 없습니다.

    공지사항 더보기

    open
    핀(구독)!