오픈AI "챗GPT '제멋대로 행동' 차단"…앱 다운로드·트래픽↓
오픈AI, '슈퍼정렬'팀 구성 중…6월 아이폰 챗GPT 다운로드 38% 감소
(서울=연합뉴스) 임상수 기자 = 전 세계적으로 인공지능(AI) 열풍을 몰고 온 챗GPT 개발사 오픈AI는 5일(현지시간) AI로부터 인간의 안전을 확보하기 위한 연구에 착수한다고 밝혔다.
오픈AI는 궁극적으로 AI가 스스로를 감독할 수 있도록 할 계획이라고 설명했다.
로이터통신에 따르면 오픈AI 공동설립자 일리야 수츠케버와 정렬 담당 총괄(head of alignment) 얀 라이카는 이날 블로그에서 "초지능의 막강한 힘은 인류를 무력화하고 멸종시킬 수도 있지만 현재 초지능 AI를 조정 또는 통제하고, 제멋대로 행동하는 것을 막는 해결책은 없다"며 이같이 말했다.
이들은 인간보다 지능적으로 뛰어난 초지능 AI가 10년 내 등장할 것이라며, 이를 통제하기 위해서는 현재보다 뛰어난 기술이 필요하며, 결국 AI가 인간에게 유익한 상태를 유지하기 위해서는 이른바 "정렬 연구"에서 획기적인 발전이 필요하다고 강조했다.
오픈AI는 향후 4년간 확보한 컴퓨팅 능력의 20%를 이 문제 해결에 투입할 계획이며, 이 문제를 전담할 '슈퍼정렬'팀을 구성 중이라고 이들은 전했다.
이어 이 팀의 목표는 인간 수준의 정렬 전문 AI를 개발해 컴퓨팅 능력으로 확장하는 것이라며, 인간의 피드백을 활용해 인간의 평가를 보조할 수 있도록 AI를 훈련시켜서 최종적으로 AI가 정렬 연구를 수행할 수 있도록 할 것이라고 설명했다.
AI 안전 전문가인 코너 리히는 그러나 초기 인간 수준의 AI가 AI 안전 문제 해결에 나서기 전에 제멋대로 날뛰면서 피해를 줄 수 있기 때문에 이 계획은 근본적으로 결함이 있다고 지적했다.
지난 4월 AI 업계 지도자와 전문가들은 오픈AI가 챗GPT-4보다 강력한 시스템 개발을 6개월간 중단할 것을 촉구한 바 있으며, 지난 5월 로이터/입소스 여론조사에서는 미국민의 3분의 2가 AI의 부정적 영향에 우려하고, 61%는 AI가 문명을 위협할 수 있다고 생각하는 것으로 조사되는 등 AI의 잠재적 위험에 대한 우려가 커지고 있다.
이런 가운데 CNBC방송은 이날 챗GPT와 이를 적용한 마이크로소프트(MS) 검색엔진 '빙'의 앱 다운로드(내려받기) 건수가 최근 둔화하고 있다고 보도했다.
이에 따르면 뱅크오브아메리카(BofA) 증권은 이날 보고서에서 모바일 시장분석기업 센서타워의 자료 등을 분석한 결과 6월 미국 내 아이폰의 챗GPT와 빙의 다운로드 건수가 지난달보다 각각 38% 감소했다.
다만 챗GPT 앱이 지난 5월 출시됐으며 현재까지 아이폰으로만 사용할 수 있었던 만큼 안드로이드용 앱이 출시되면 다운로드 건수는 늘어날 것이라고 보고서는 설명했다.
챗GPT 웹사이트를 통한 방문자 수도 월간 기준으로 11% 감소해 주당 5천100만명을 소폭 넘어선 것으로 추정됐으며, 이는 구글 웹 트래픽의 2%에 불과하다고 보고서는 전했다.
구글의 검색엔진 시장점유율은 지난해 동기 대비 소폭 상승해 92%를 넘어섰으며, MS의 빙은 연간기준으로 지난해 동기보다 0.4%포인트 낮아진 2.8%를 기록하는 데 그쳤다고 보고서는 덧붙였다.
보고서는 이에 따라 챗GPT 등 '대규모언어모델'(LLM)에 대한 관심이 둔화하면서 AI 발전이 시장의 판도를 바꾸는 차세대 검색엔진을 구현할 수 있을 것으로 보고 수십억 달러를 투자한 구글과 MS 등 기업의 투자리스크가 부각되고 있다고 전했다.
nadoo1@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
오픈AI, '슈퍼정렬'팀 구성 중…6월 아이폰 챗GPT 다운로드 38% 감소
(서울=연합뉴스) 임상수 기자 = 전 세계적으로 인공지능(AI) 열풍을 몰고 온 챗GPT 개발사 오픈AI는 5일(현지시간) AI로부터 인간의 안전을 확보하기 위한 연구에 착수한다고 밝혔다.
오픈AI는 궁극적으로 AI가 스스로를 감독할 수 있도록 할 계획이라고 설명했다.
로이터통신에 따르면 오픈AI 공동설립자 일리야 수츠케버와 정렬 담당 총괄(head of alignment) 얀 라이카는 이날 블로그에서 "초지능의 막강한 힘은 인류를 무력화하고 멸종시킬 수도 있지만 현재 초지능 AI를 조정 또는 통제하고, 제멋대로 행동하는 것을 막는 해결책은 없다"며 이같이 말했다.
이들은 인간보다 지능적으로 뛰어난 초지능 AI가 10년 내 등장할 것이라며, 이를 통제하기 위해서는 현재보다 뛰어난 기술이 필요하며, 결국 AI가 인간에게 유익한 상태를 유지하기 위해서는 이른바 "정렬 연구"에서 획기적인 발전이 필요하다고 강조했다.
오픈AI는 향후 4년간 확보한 컴퓨팅 능력의 20%를 이 문제 해결에 투입할 계획이며, 이 문제를 전담할 '슈퍼정렬'팀을 구성 중이라고 이들은 전했다.
이어 이 팀의 목표는 인간 수준의 정렬 전문 AI를 개발해 컴퓨팅 능력으로 확장하는 것이라며, 인간의 피드백을 활용해 인간의 평가를 보조할 수 있도록 AI를 훈련시켜서 최종적으로 AI가 정렬 연구를 수행할 수 있도록 할 것이라고 설명했다.
AI 안전 전문가인 코너 리히는 그러나 초기 인간 수준의 AI가 AI 안전 문제 해결에 나서기 전에 제멋대로 날뛰면서 피해를 줄 수 있기 때문에 이 계획은 근본적으로 결함이 있다고 지적했다.
지난 4월 AI 업계 지도자와 전문가들은 오픈AI가 챗GPT-4보다 강력한 시스템 개발을 6개월간 중단할 것을 촉구한 바 있으며, 지난 5월 로이터/입소스 여론조사에서는 미국민의 3분의 2가 AI의 부정적 영향에 우려하고, 61%는 AI가 문명을 위협할 수 있다고 생각하는 것으로 조사되는 등 AI의 잠재적 위험에 대한 우려가 커지고 있다.
이런 가운데 CNBC방송은 이날 챗GPT와 이를 적용한 마이크로소프트(MS) 검색엔진 '빙'의 앱 다운로드(내려받기) 건수가 최근 둔화하고 있다고 보도했다.
이에 따르면 뱅크오브아메리카(BofA) 증권은 이날 보고서에서 모바일 시장분석기업 센서타워의 자료 등을 분석한 결과 6월 미국 내 아이폰의 챗GPT와 빙의 다운로드 건수가 지난달보다 각각 38% 감소했다.
다만 챗GPT 앱이 지난 5월 출시됐으며 현재까지 아이폰으로만 사용할 수 있었던 만큼 안드로이드용 앱이 출시되면 다운로드 건수는 늘어날 것이라고 보고서는 설명했다.
챗GPT 웹사이트를 통한 방문자 수도 월간 기준으로 11% 감소해 주당 5천100만명을 소폭 넘어선 것으로 추정됐으며, 이는 구글 웹 트래픽의 2%에 불과하다고 보고서는 전했다.
구글의 검색엔진 시장점유율은 지난해 동기 대비 소폭 상승해 92%를 넘어섰으며, MS의 빙은 연간기준으로 지난해 동기보다 0.4%포인트 낮아진 2.8%를 기록하는 데 그쳤다고 보고서는 덧붙였다.
보고서는 이에 따라 챗GPT 등 '대규모언어모델'(LLM)에 대한 관심이 둔화하면서 AI 발전이 시장의 판도를 바꾸는 차세대 검색엔진을 구현할 수 있을 것으로 보고 수십억 달러를 투자한 구글과 MS 등 기업의 투자리스크가 부각되고 있다고 전했다.
nadoo1@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
