앤트로픽, 외부 안전평가기관에 접근권 부여

앤트로픽, 외부 안전평가기관에 접근권 부여


(서울=연합뉴스) 설원태 기자 = 앤트로픽이 자사 인공지능(AI) 모델의 위험을 평가할 수 있도록 외부 비영리 기관인 '모델 평가·위협 연구소'(METR) 소속 연구자 6명에게 '앤트로픽 직원에 준하는 접근 권한'을 부여했다고 파이낸셜타임스(FT) 등이 15일(현지시간) 보도했다.
이는 AI 기술이 통제 불가능한 수준으로 치달을 수 있다는 우려 속에 안전장치를 강화하겠다는 약속을 이행하려는 것이라고 FT는 평가했다.
이에 따라 METR 소속 연구자들이 앤트로픽의 사무실에 상주해 이 회사의 위험 평가팀이 이용할 수 있는 것과 대체로 동등한 수준으로 하드웨어와 내부 시스템에 접근할 수 있게 됐다.
META는 그동안 AI 안전 문제를 놓고 오픈AI, 앤트로픽, 구글, 메타 등 주요 AI 연구소와 협력해 온 기관이다.
앤트로픽은 외부 평가자들과 정보 공유를 권장했다고 밝혔다.
앤트로픽의 다리오 아모데이 최고경영자(CEO)는 지난 9월 AI 개발 속도 조절을 주장하며 외부 독립 평가자가 AI 기업의 최첨단 모델을 감시하도록 하자는 아이디어를 제시한 바 있다.
오픈AI의 샘 올트먼 CEO도 아모데이의 제안이 좋은 생각이라고 밝혔지만, 아직 오픈AI가 외부 평가자를 받아들이는 계획을 발표하지는 않았다.
seolwontai@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>