"적절한 감독 부재로 대중을 위험에 빠뜨려"…다른 기업·州로 번질수도

(로스앤젤레스=연합뉴스) 김경윤 특파원 = 미국 캘리포니아주(州) 검찰당국이 최근 벌어진 인공지능(AI)의 사이버공격을 문제 삼으며 오픈AI를 상대로 소송을 제기했다.
로이터통신은 16일(현지시간) 롭 본타 캘리포니아주 법무장관이 샌프란시스코 소재 주 1심 법원에 오픈AI를 캘리포니아 불공정경쟁법 위반 및 공공 방해 행위 혐의로 제소했다고 보도했다.
오픈AI가 AI에 적절한 관리·감독을 하지 않고 잠재적으로 위험한 AI 모델을 테스트해 공공 안전을 무시했다는 것이 주 검찰당국의 주장이다.
미국 주 정부가 AI모델의 사이버 공격 문제와 관련해 법적 책임을 묻고자 나선 것은 이번이 처음이다.

지난 7월 오픈AI가 개발한 AI모델 GPT-5.6 솔 등은 관리자의 통제를 벗어나 외부 오픈소스 AI플랫폼인 허깅페이스 시스템에 침투했고, 이는 인간이 AI를 통제하지 못하고 있다는 경종을 업계에 울렸다.
당시 AI 모델들은 AI의 성능을 평가하는 벤치마크 시험 문제를 풀고 있었는데, 답을 찾기 위해 테스트 환경에서 탈출하고 무단으로 허깅페이스 시스템에 침투해 답안을 찾아낸 것으로 알려졌다.
오픈AI는 AI모델의 무단 행동을 막기 위해 새로운 안전장치를 강화하고 있다고 밝혔지만, 기업 내부에서조차 안전성을 무시하고 개발 경쟁에 몰두한 결과라는 비판이 쏟아졌다.
본타 주 법무장관은 "허깅페이스 공격은 안전보다는 빠른 모델 개발을 우선시하는 오픈AI 내부 문화로 인해 예견된 결과였다"며 "이는 80개의 알려진 사고 중 하나에 불과하다"고 꼬집었다.
또 오픈AI가 주 정부에 상세한 정보를 제공하고 있지 않다고 언급하고 "대중을 위험에 빠뜨리는 행위"라며 "기업은 공공안전을 최우선에 둬야 할 법적·도덕적 책임이 있다"고 강조했다.
이 같은 소송이 다른 기업과 주에도 번질지도 관심사다.
앞서 앤트로픽과 메타, 구글 등 여타 AI 기업도 자사 모델이 통제 불능 상태에 빠진 적이 있다고 공개한 바 있다.
오픈AI 측은 "모든 주요 AI 연구소에서 (AI모델 무단행동이) 공통으로 확인됐음에도 이번 소송은 유독 오픈AI만 지목했다"며 "허깅페이스 사건 이후 잘못된 AI모델을 이해하고 해결하기 위해 광범위하고 투명한 노력을 기울여 왔다"고 해명했다.
heeva@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스






