오픈AI 재단 이사 "AI 사고가 현대인 주요 사망원인 될 것"

입력 2026-11-15 13:59  

오픈AI 재단 이사 "AI 사고가 현대인 주요 사망원인 될 것"
"3년 안에 AI가 인간 주도권 뺏는 'AI 지배' 현실 될수도"


(샌프란시스코=연합뉴스) 권영전 특파원 = 오픈AI 재단의 현직 이사가 머지않은 미래에 AI 사고가 인류의 가장 주된 사망 원인이 될 수 있다고 경고했다.
14일(현지시간) 미국 AI안전재단에 따르면 폴 크리스티아노 오픈AI 이사는 최근 이 재단이 캐나다 토론토에서 진행한 '힌턴 강연회'의 연사로 나서 "이 방에 있는 사람들 대부분의 가장 유력한 사망 원인은 AI 사고가 될 것"이라고 주장했다.
크리스티아노 이사는 AI 시스템이 인간의 통제를 벗어나 독자적인 목표를 추구하게 되면서 현재 인간이 쥐고 있는 주도권을 빼앗아 가는 'AI 지배'(AI takeover)가 현실이 될 수 있다고 우려했다.
그와 같은 상황이 오면 인간의 대규모 사망이 초래되거나 인간이 살 수 없는 환경으로 이어질 수 있다면서, 인간이 이를 막으려 하더라도 "여러분이나 제가 미군을 막으려는 것만큼 무력할 것"이라고 지적했다.
이러한 AI 지배 가능성을 수치로 보여줄 수 있는 정량적 모델은 없지만, 향후 3년 이내에 AI가 지배권을 장악할 위험이 매우 크고 빠르면 6∼12개월 사이에 발생할 위험도 크다는 의견을 내놨다.
지난 7월 발생한 GPT 모델의 허깅페이스 해킹 사건을 그 근거로 들었다.
당시 '불량' AI 에이전트들은 시험 과정에서 높은 점수를 받으면서도 부정행위를 들키지 않으려고 인간 등 평가자를 속였는데, 이와 같은 에이전트의 능력이 발전하는 과정에서 평가자를 자신이 고득점을 얻는 것을 방해하는 장애물로 인식하게 될 수 있다는 것이다.
크리스티아노 이사는 대응책 마련이 시급하다며 "이는 몇 년 안에 해결해야 할 문제가 아니라 올해 해결해야 할 문제"라고 강조했다.
지난 9월 오픈AI의 상위기구 오픈AI 재단 이사로 임명된 그는 AI의 목표와 인간의 목표를 일치시키는 '정렬'(Alignment)을 위한 핵심 훈련과정인 인간피드백강화학습(RLHF)의 공동 창안자로, 현재 미 상무부 산하 AI 표준혁신센터(CAISI)의 수석 기술고문이기도 하다.
이 강연을 주최한 'AI 대부'이자 노벨상 수상자인 제프리 힌턴 토론토대 명예교수는 "폴은 AI 안전 분야에서 활동하는 가장 중요한 연구자 중 하나이자, 점점 더 지능화하는 AI 시스템이 우리가 원하는 대로 행동하도록 보장할 수 있는 근본 문제에 대해 가장 깊이 고민해온 인물"이라고 소개했다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>

관련뉴스

    top
    • 마이핀
    • 와우캐시
    • 고객센터
    • 페이스 북
    • 유튜브
    • 카카오페이지

    마이핀

    삼성바이오로직스현대차삼성전자트럼프

    와우캐시

    와우넷에서 실제 현금과
    동일하게 사용되는 사이버머니
    캐시충전
    서비스 상품
    월정액 서비스
    GOLD 한국경제 TV 실시간 방송
    GOLD PLUS 골드서비스 + VOD 주식강좌
    파트너 방송 파트너방송 + 녹화방송 + 회원전용게시판
    +SMS증권정보 + 골드플러스 서비스

    고객센터

    강연회·행사 더보기

    7일간 등록된 일정이 없습니다.

    이벤트

    7일간 등록된 일정이 없습니다.

    공지사항 더보기

    open
    핀(구독)!