이란 연계 단체, 앤트로픽 AI로 美군함 추적·공격 시도

이란 연계 단체, 앤트로픽 AI로 美군함 추적·공격 시도
앤트로픽 'AI 오남용' 보고서…친러세력, 우크라전 드론 구축에 악용
中정부 연계 그룹은 위구르 감시·아시아 종교 지도자 내사



(샌프란시스코=연합뉴스) 권영전 특파원 = 이란 연계 단체가 미국의 인공지능(AI) 모델을 활용해 미 해군 함정 등을 공격하려 한 것으로 나타났다.
11일(현지시간) 앤트로픽의 'AI 오남용 감지·대응' 보고서에 따르면 'GTG-30005'라는 코드명으로 식별된 이란 연계 위협 세력은 앤트로픽 AI 모델 클로드를 활용해 중동에 주둔하고 있는 미 해군 부대의 위치와 공격 표적 추천서 등을 작성했다.
앤트로픽의 154쪽 분량 보고서에 따르면 이란 해커들은 공개된 군사 사진 캡션 등을 통해 추출한 미군 명단, 군함·항공기 위치 데이터, 상업용 위성사진 등을 종합해 미 군함 등의 동선을 추적했다.
이어 이들은 클로드를 활용해 이들 군함의 통신·제어 시스템 보안 취약점을 집중적으로 연구했다.
앤트로픽은 이와 같은 공작을 사전에 적발해 관련 계정을 정지시켰으며, 정부 당국에 해당 위협을 공유하고 향후 악용 위험을 줄이기 위한 감시 도구도 개발했다고 밝혔다.
이란 외 예멘 후티 반군 연계 세력(GTG-87001)은 클로드를 사용해 사거리 2천㎞ 이상의 다단계 탄도 미사일과 극초음속 활공체 등을 포함한 유도 무기 소프트웨어를 개발하려 했다.
앤트로픽은 "안전장치가 요청 다수를 차단했으나 전부 차단하지는 못했다"고 설명했다면서, 해당 계정을 차단하고 당국과 공조했다고 덧붙였다.
중국 정부와 연계된 세력도 클로드로 시리아 내 위구르족을 추적·감시하고 아시아 전역의 종교 지도자를 내사했다.
그런가 하면 러시아 연계 세력은 우크라이나 전선 데이터를 클로드로 학습시켜 자율살상 드론 군집을 구축하려 시도하고, 아프리카 국가에 친러시아 성향 선전물을 유포하는 데도 악용했다.
그 밖에도 앤트로픽은 특정 국가 연계 세력이 클로드로 치명적인 생물 무기를 개발하려 시도하다 적발돼 차단됐다고 밝혔으나, 어떤 국가와 외국 정부가 이런 시도와 연계돼 있는지에 대해선 구체적으로 밝히지 않았다.
앤트로픽은 "적절한 안전장치가 없다면 이와 같은 능력은 재앙적인 결과를 초래할 수 있다"고 경고했다.
클로드는 악의적 해킹이나 생물학·화학 무기 제조 등에 자사 AI 모델을 이용할 수 없도록 하는 안전장치를 두고 있으나, 문제가 된 세력은 이와 같은 제한을 우회하기 위해 자신의 의도를 숨기고 끈질기게 시도를 이어간 것으로 나타났다.
앤트로픽은 보고서에서 "조사 결과가 다른 개발사들이 유사한 패턴을 포착하고 정부와 시민사회가 새로운 위협의 형성 과정을 명확히 파악하며 공동 방어망을 강화하는 데 도움이 되기를 바란다"고 말했다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>