"AI가 인간의 가치에 일치될까"…AI 만든 사람들도 잘 몰랐다

"AI에 10배 더 많은 자원을 투입하면 무슨 일이 벌어질까."

불과 7년 전만 해도 이 질문에 확신 있게 답할 수 있는 사람은 거의 없었다. 인간의 지능을 흉내 내려면 사고의 원리를 먼저 이해해야 한다는 것이 오랜 통념이었다. 그런데 인공지능(AI) 연구자들은 뜻밖의 길을 발견했다. 인간의 지식을 일일이 가르치는 대신 모델과 데이터, 컴퓨팅 자원의 규모를 키우자 AI의 성능이 계속 좋아졌다. 번역하고, 코딩하고, 수학 문제를 풀더니 어느 순간 연구자들이 예상하지 못했던 능력까지 나타났다. '규모를 키우면 더 똑똑해진다.' 한때 대담한 가설이었던 이 생각은 오늘날 세계 최대 기술기업들이 천문학적인 돈을 쏟아붓는 AI 경쟁의 핵심 원리가 됐다.

최근 국내 번역 출간된 <스케일링 시대>는 바로 이 변화가 일어난 2019~2025년을 AI 혁명의 중심에 있던 사람들의 목소리로 기록한 책이다. 유명 팟캐스터 드와르케시 파텔의 인터뷰를 AI 연구자 개빈 리치가 주제별로 엮었다. 다리오 아모데이 앤스로픽 최고경영자(CEO), 데미스 하사비스 구글 딥마인드 공동창업자, 일리야 수츠케버 오픈AI 공동창업자, 마크 저커버그 메타 CEO 등 AI 역사의 한복판에 있는 이들이 등장한다.

책의 중심에는 제목 그대로 '스케일링'이 있다. 2019년 AI 연구자 리처드 서튼은 유명한 글 '쓰라린 교훈(The Bitter Lesson)'에서 AI 역사가 드러낸 한 가지 교훈을 짚었다. 인간의 지식을 정교하게 집어넣은 방법보다 더 많은 계산을 활용할 수 있는 범용적 방법이 장기적으로 더 큰 성과를 거뒀다는 것이다. 이후 대규모언어모델(LLM)이 급속히 발전하면서 스케일링은 하나의 연구 가설을 넘어 AI 산업의 전략으로 자리 잡았다.

책에 실린 재러드 캐플런 앤스로픽 공동창업자의 미공개 인터뷰 등은 이 믿음이 어떻게 형성됐는지 보여준다. 연구자들은 더 많은 컴퓨팅 자원과 데이터로 모델을 훈련할수록 일정한 경향에 따라 성능이 향상되는 현상을 확인했다.

중요한 것은 단순히 모델을 '크게 만드는 것'이 아니었다. 규모를 늘렸을 때 성능이 얼마나 좋아질지를 예측할 수 있다는 사실이었다. 스케일링은 막대한 데이터센터와 반도체 투자를 정당화하는 산업의 원리로 발전했다.



흥미로운 점은 이 혁명의 주역들도 의외로 많은 것을 '모른다'는 사실이다. LLM이 정말 사고하는 것인지, 방대한 문장에서 다음 단어를 예측하도록 훈련받는 과정에서 어떻게 추론과 문제 해결 능력이 나타나는지부터 의견이 갈린다.

스케일링을 계속하면 인간 수준의 범용인공지능(AGI)에 도달할 수 있는지를 놓고도 생각이 다르다. 심지어 AGI가 정확히 무엇을 뜻하는지조차 인터뷰이마다 정의가 다르다. 책의 마지막 장에서 이들의 AGI 도래 시점 전망을 나란히 놓으면 상당한 차이가 드러나며, 예측 자체를 꺼리는 사람도 있다.

이 책의 묘미는 바로 이런 불확실성이다. AI 최전선에 있는 사람들은 모든 것을 알고 미래를 설계하는 예언자가 아니다. 자신들이 만든 기술의 능력이 빠르게 커지는 모습을 지켜보면서 동시에 그것이 어디까지 갈지를 가늠하는 당사자들이다. 이 때문에 기술적 자신감과 불안이 묘하게 공존한다.

논의는 AI가 인간의 의도와 가치에 맞게 행동하도록 만드는 '정렬(alignment)' 문제로 이어진다. AI의 능력이 인간을 넘어설 정도로 커졌을 때에도 인간이 정한 목표를 따르도록 만들 수 있을까. 지금보다 훨씬 강력한 AI가 인간이 원하는 것과 다른 목표를 좇는다면 어떻게 해야 할까.

여기서부터 이야기는 기술을 넘어 경제와 정치로 뻗어나간다. 인간 수준의 지적 능력을 갖춘 AI가 수백만, 수십억 개 존재한다면 지적 노동의 가치는 어떻게 될까. AI가 다시 AI 연구에 투입된다면 과학과 기술의 발전 속도는 얼마나 빨라질까. 폭발적인 경제성장이 가능할까, 아니면 대규모 일자리 변화와 부의 집중이 먼저 찾아올까. 첨단 반도체와 데이터센터를 확보한 국가가 압도적인 전략적 우위를 갖는다면 AI는 산업기술을 넘어 국가안보의 핵심 자산이 된다.

책은 어느 한쪽의 결론을 독자에게 강요하지 않는다. AI 낙관론을 홍보하지도, 파국론을 설파하지도 않는다. 긴 인터뷰를 통해 각각의 주장을 끝까지 밀어붙이고 서로 충돌하게 만든다. 다만 강력한 AI의 등장을 현실적인 가능성으로 받아들이는 집단의 목소리만 담고 있다는 점은 책의 한계다. 등장인물들은 AI 연구소와 실리콘밸리의 중심부에 집중돼 있다.

AI와 관련한 다양한 논쟁에 익숙하지 않은 독자라면 책의 뒷부분에 실린 해제부터 읽는 방법을 권한다. 전문가들의 대화를 엮은 책인 만큼 밀도가 높기 때문이다. 170개가 넘는 용어 정의와 시각자료, 기술적 쟁점에 대한 설명, 관련 고전 에세이도 실려 있다.

설지연 기자 sjy@hankyung.com