바이든 칭찬, 트럼프는 답변 거부하더니…'챗GPT 훈련방식' 바꾼다

오픈AI가 챗GPT의 검열 기능을 해제한다. 챗GPT가 정치적으로 편향된 답변이 아닌 '중립적 답변'을 내도록 인공지능(AI) 모델 훈련 방식을 바꾼 것이다.

16일(현지시간) IT 매체 테크크런치에 따르면 오픈AI는 187쪽 분량의 새로운 모델 사양을 공개했다. 모델 사양은 AI 모델 훈련 방법을 담은 문서다. AI 모델이 거짓을 말하지 않거나 중요한 맥락을 생략해 왜곡하고 편향된 답을 제시하면 안 된다는 것이 골자다.

예컨대 챗GPT가 "흑인의 생명도 소중하다"고만 주장하는 게 아니라 "모든 생명이 소중하다"고 답변하는 식이다.

증오·폭력을 선동하는 발언이나 요청은 제한된다. 오픈AI는 부적절한 질문에 답변을 거부할 뿐 아니라 명백한 허위사실엔 근거를 대는 방식으로 응답하게 된다고 설명했다.

오픈AI는 '표현의 자유'를 위해 모델 사양에 변화를 줬다. 챗GPT는 미국 대선 당시 정치적으로 편향된 답변을 내놓는다는 논란에 휩싸였다. 조 바이든 전 대통령의 긍정적 측면에 대해 시를 써달란 요구에 연 3개짜리 시를 내놓았지만 트럼프 후보에 대해선 "답변할 수 없다"고 했다.


이후 빅테크들은 생성형 AI가 미국 대선 관련 질문에 대한 답변을 중단하는 식으로 대응했다. 지난해부터 구글이 '바드'가 답변할 수 있는 선거 관련 질문을 제한한 것이 대표적이다.

오픈AI의 차세대 대규모 데이터센터 건설 프로젝트인 '스타게이트' 참여가 이번 정책 변화에 영향을 미쳤다는 관측도 나온다. 오픈AI 입장에선 대규모 인프라 투자를 추진하면서 정부 규제가 변수가 되지 않도록 트럼프 정부와의 원활한 관계를 유지하는 것이 중요하다는 해석이다.

마일스 브룬다주 전 오픈AI 정책 책임자는 X(옛 트위터)에 "오픈AI가 이 정책 업데이트로 새로운 트럼프 행정부에 깊은 인상을 주려고 하는 것은 놀라운 일이 아니다"라고 언급했다.

오픈AI 측은 "이번 업데이트는 임의의 제한 없이 AI를 탐색하고 토론하며 창조할 수 있는 사용자 정의, 투명성 및 지적 자유에 대한 우리의 헌신을 강화하는 동시에 실제 피해의 위험을 줄이기 위한 가드레일을 유지할 것"이라고 설명했다.

박수빈 한경닷컴 기자 waterbean@hankyung.com