MS "인간이 중요, AI는 권리 없다"…'AI통제' 행동강령 공개

MS "인간이 중요, AI는 권리 없다"…'AI통제' 행동강령 공개
'AI 속도조절론' 동참…AI 독립목표 설정 금지하고 자의식·법인격론 거부
AI의 조작·은폐 행위·AI끼리 소통 금지…의견 수렴해 연말에 최종안



(샌프란시스코=연합뉴스) 권영전 특파원 = 주요 인공지능(AI) 기업 수장들이 AI 개발 속도 조절을 요구하고 나선 상황에서 마이크로소프트(MS)도 같은 취지의 자체 행동강령을 내놨다.
MS는 "MS AI는 '인간이 AI보다 중요하다'는 단순한 전제에서 출발한다"는 내용을 담은 행동강령을 14일(현지시간) 자사 홈페이지를 통해 공개했다.
MS는 "이 행동강령은 인간을 최우선으로 하여 설계되고, 인간의 필요에 기반을 두며, 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 의지를 명시한다"고 밝혔다.
이 행동강령에 따르면 MS의 AI 모델은 인간의 지시에 따라 승인된 범위 내에서만 작동하고, 스스로 독립적인 목표를 설정하거나 부여된 권한 범위를 넘어서는 행동을 할 수 없다.
자신의 추론 과정·코드 등을 조작·은폐하는 행위나, 신경망어(neuralese)처럼 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위도 금지된다.
MS는 또 "AI는 인간처럼 설계돼선 안 된다"며 "AI는 의식을 갖고 있지 않고 의식을 모방하도록 설계돼서도 안 된다"고 지적했다.
이에 따라 MS는 "우리는 AI 모델이 법인격 지위 획득을 추구하는 것이나, 모델이 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다"고 강조했다.
무스타파 술레이만 MS AI 최고경영자(CEO)는 미 경제매체 CNBC와의 인터뷰에서 "AI가 항상 인간을 위해 일하고 인간을 대체하려 하지 않는다는 명확한 약속이 있었으면 좋겠다는 의견이 있었다"며 "AI가 인간에 대한 의존성을 창출하거나 아첨하지 않고 항상 인간의 판단과 자율성을 촉진하도록 해야 한다는 의견도 다수 확인했다"고 이번 행동 강령 제정의 배경을 설명했다.
술레이만 CEO는 행동 강령을 5개월 전부터 준비해왔다면서, 최근의 AI 속도 조절 논의를 고려해 이 시점에 지침을 발표하기로 결정했다고 덧붙였다.
그는 지난해 11월 MS에서 자신이 이끄는 초지능 팀을 신설했다는 사실을 알리면서 MS AI는 '인간 중심 초지능'(Humanist SuperIntelligence)을 지향한다고 선언한 바 있다.
MS가 이처럼 행동강령을 내세운 것은 다리오 아모데이 앤트로픽 CEO를 비롯한 AI 기업 수장들이 AI 위험성을 경고하며 개발 속도를 늦춰야 한다고 강조한 데 따른 것으로 풀이된다.
아모데이 CEO의 이 같은 주장에 라이벌인 오픈AI의 샘 올트먼 CEO와 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 최고과학자 등이 동조하면서 AI 개발 속도조절론에 힘이 실리는 분위기다.
사티아 나델라 MS CEO도 "(AI) '정렬'(alignment) 문제를 해결하기 위한 연구와 집중, 신중한 진행속도를 환영한다"고 말했다.
MS는 이날 공개한 행동강령 초안을 바탕으로 법학·윤리학·철학 등 전문가와 대중의 의견을 수렴해 연말께 최종안을 확정하고 내년에 개발·배포되는 차세대 AI 모델의 기본 규범으로 적용할 예정이다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>