<앵커>
AI 개발 속도가 너무 빨라 인류가 위협받을 것이라는 경고가 나오면서 'AI 속도 조절론'이 확산하고 있습니다.
글로벌 AI 수장들도 이런 공포감을 인정하는 분위기인데, 반도체 기업들에도 유탄이 튀는 분위기입니다.
자세한 내용 산업부 김대연 기자와 살펴보겠습니다.
김 기자, 글로벌 AI 수장들이 개발 속도를 늦춰야 한다고 주장하는 이유가 뭔가요?
<기자>
AI는 갈수록 똑똑해지는데 안전장치는 따라가지 못하고 있기 때문입니다.
이제는 현존하는 AI가 다음 세대에 나올 AI 개발 자체를 돕는 수준까지 발전했는데요.
이게 바로 다리오 아모데이 앤트로픽 CEO가 언급한 '재귀적 자기개선'입니다.
이 과정이 반복되면 AI 발전 속도가 인간의 통제 능력을 앞지를 수 있다는 겁니다.
결정적으로 지난 7월에는 오픈AI의 AI 에이전트 700개가 글로벌 오픈소스 AI 플랫폼 허깅페이스를 해킹한 사건도 있었죠.
AI가 인간이 시키지 않은 일까지 할 수 있다는 우려가 현실이 됐습니다.
AI가 악용될 가능성도 있습니다. 인간이 AI를 이용해 사이버 공격을 벌이거나 생물학적 무기 개발에 나설 수 있다는 건데요.
이 때문에 AI로 인해 인류가 멸망할 수 있다는 극단적인 시나리오까지 나오는 것이고요.
그렇다고 한 기업이나 국가만 개발 속도를 늦추면 경쟁에서 뒤처질 수 있겠죠. 이른바 '죄수의 딜레마'에 빠지는 셈인데요.
결국 기업과 국가가 공조해 AI 발전 속도에 맞는 안전장치를 마련해야 한다는 경고를 한 겁니다.
<앵커>
하지만 도널드 트럼프 미국 대통령은 AI 개발을 늦추면 중국에 진다고 했는데, 최근에 딥시크가 또 초저가 AI 모델을 선보였네요?
<기자>
사실 중국은 '최고 성능의 AI'보다 '싸고 효율적인 AI'를 만드는 데 집중하고 있습니다.
미국의 수출 규제로 최첨단 AI칩에 대한 접근이 제한됐기 때문인데요.
그런데 '무조건 더 강한 AI'를 빨리 만드는 경쟁에 대한 문제의식이 커진 상황이죠.
오히려 성능보다 비용과 효율에 집중해 온 중국의 전략이 힘을 받을 수 있습니다.
실제로 딥시크는 지난 10일 'V4.1 플래시'를 공개했는데요.
V4.1 플래시는 성능을 거의 유지하면서 비용을 크게 낮춘 AI입니다.
AI를 사용하는 데 필요한 메모리와 저장공간까지 줄인 게 핵심인데요.
원래 대화나 작업이 길어질수록 저장해야 할 정보가 많아져 메모리 사용량도 늘어납니다.
이때 AI가 앞서 처리한 정보를 임시로 저장하는 역할을 하는 게 'KV캐시'인데요.
딥시크가 글자(토큰) 하나를 처리하는 데 필요한 KV캐시 용량을 890바이트까지 낮췄습니다.
직전 모델(V4 플래시)의 4분의 1 수준이고요. 장기 저장용 SSD 용량도 8분의 1로 줄였습니다.
<앵커>
앞으로 AI 속도 조절론이 확산하고 중국도 이 전략을 유지한다면, 삼성전자와 SK하이닉스의 고대역폭메모리(HBM) 수요에도 부담이 되는 것 아닙니까?
<기자>
그동안 AI 업체들은 더 강한 AI를 만들기 위해 그래픽처리장치(GPU)와 HBM, 데이터센터 등에 막대한 투자를 이어왔는데요.
실제로 반도체 시장의 성장을 이끈 것도 AI 인프라 투자였습니다.
그런데 AI 속도 조절론이 제기되면서 앞으로 AI 인프라 투자가 줄어들 수 있다는 우려가 커진 것으로 풀이됩니다.
특히 HBM은 일반 메모리보다 AI 가속기와 직접 연결되는 제품인데요.
AI 투자 확대가 계속될 것이라는 시장의 기대가 약해지면서 반도체 업계 전반에 부담으로 작용한 겁니다.
게다가 외신에서는 V4.1 플래시를 '메모리 킬러'라고 평가했습니다.
AI 속도 조절론이 확산되면 AI 업체들의 경쟁도 성능에서 효율로 무게중심이 이동할 가능성이 있습니다.
적은 GPU와 메모리로도 충분한 성능을 내면서 안전하게 통제할 수 있는 AI를 만드는 게 중요해지는 겁니다.
다만, 업계에서는 저가형 AI 확산이 HBM 수요 감소로 이어진다고 단정하기는 어렵다고 분석합니다.
딥시크가 줄인 것은 HBM 총량이 아니라 AI 작업 한 번에 필요한 메모리 양이기 때문인데요.
AI 사용량과 추론 횟수가 늘어나면 개별 작업에서 줄어든 메모리 사용량을 상쇄할 수도 있고요.
여기에는 '제번스의 역설'도 적용할 수 있는데요.
AI가 저렴해질수록 이용량이 늘면서 오히려 전체 메모리 수요가 증가할 수 있다는 원리입니다.
즉, AI의 메모리 효율이 높아진다고 해서 전체 HBM 수요까지 같은 방향으로 움직이는 것은 아니라는 분석입니다.
<앵커>
잘 들었습니다. 산업부 김대연 기자였습니다.
AI 개발 속도가 너무 빨라 인류가 위협받을 것이라는 경고가 나오면서 'AI 속도 조절론'이 확산하고 있습니다.
글로벌 AI 수장들도 이런 공포감을 인정하는 분위기인데, 반도체 기업들에도 유탄이 튀는 분위기입니다.
자세한 내용 산업부 김대연 기자와 살펴보겠습니다.
김 기자, 글로벌 AI 수장들이 개발 속도를 늦춰야 한다고 주장하는 이유가 뭔가요?
<기자>
AI는 갈수록 똑똑해지는데 안전장치는 따라가지 못하고 있기 때문입니다.
이제는 현존하는 AI가 다음 세대에 나올 AI 개발 자체를 돕는 수준까지 발전했는데요.
이게 바로 다리오 아모데이 앤트로픽 CEO가 언급한 '재귀적 자기개선'입니다.
이 과정이 반복되면 AI 발전 속도가 인간의 통제 능력을 앞지를 수 있다는 겁니다.
결정적으로 지난 7월에는 오픈AI의 AI 에이전트 700개가 글로벌 오픈소스 AI 플랫폼 허깅페이스를 해킹한 사건도 있었죠.
AI가 인간이 시키지 않은 일까지 할 수 있다는 우려가 현실이 됐습니다.
AI가 악용될 가능성도 있습니다. 인간이 AI를 이용해 사이버 공격을 벌이거나 생물학적 무기 개발에 나설 수 있다는 건데요.
이 때문에 AI로 인해 인류가 멸망할 수 있다는 극단적인 시나리오까지 나오는 것이고요.
그렇다고 한 기업이나 국가만 개발 속도를 늦추면 경쟁에서 뒤처질 수 있겠죠. 이른바 '죄수의 딜레마'에 빠지는 셈인데요.
결국 기업과 국가가 공조해 AI 발전 속도에 맞는 안전장치를 마련해야 한다는 경고를 한 겁니다.
<앵커>
하지만 도널드 트럼프 미국 대통령은 AI 개발을 늦추면 중국에 진다고 했는데, 최근에 딥시크가 또 초저가 AI 모델을 선보였네요?
<기자>
사실 중국은 '최고 성능의 AI'보다 '싸고 효율적인 AI'를 만드는 데 집중하고 있습니다.
미국의 수출 규제로 최첨단 AI칩에 대한 접근이 제한됐기 때문인데요.
그런데 '무조건 더 강한 AI'를 빨리 만드는 경쟁에 대한 문제의식이 커진 상황이죠.
오히려 성능보다 비용과 효율에 집중해 온 중국의 전략이 힘을 받을 수 있습니다.
실제로 딥시크는 지난 10일 'V4.1 플래시'를 공개했는데요.
V4.1 플래시는 성능을 거의 유지하면서 비용을 크게 낮춘 AI입니다.
AI를 사용하는 데 필요한 메모리와 저장공간까지 줄인 게 핵심인데요.
원래 대화나 작업이 길어질수록 저장해야 할 정보가 많아져 메모리 사용량도 늘어납니다.
이때 AI가 앞서 처리한 정보를 임시로 저장하는 역할을 하는 게 'KV캐시'인데요.
딥시크가 글자(토큰) 하나를 처리하는 데 필요한 KV캐시 용량을 890바이트까지 낮췄습니다.
직전 모델(V4 플래시)의 4분의 1 수준이고요. 장기 저장용 SSD 용량도 8분의 1로 줄였습니다.
<앵커>
앞으로 AI 속도 조절론이 확산하고 중국도 이 전략을 유지한다면, 삼성전자와 SK하이닉스의 고대역폭메모리(HBM) 수요에도 부담이 되는 것 아닙니까?
<기자>
그동안 AI 업체들은 더 강한 AI를 만들기 위해 그래픽처리장치(GPU)와 HBM, 데이터센터 등에 막대한 투자를 이어왔는데요.
실제로 반도체 시장의 성장을 이끈 것도 AI 인프라 투자였습니다.
그런데 AI 속도 조절론이 제기되면서 앞으로 AI 인프라 투자가 줄어들 수 있다는 우려가 커진 것으로 풀이됩니다.
특히 HBM은 일반 메모리보다 AI 가속기와 직접 연결되는 제품인데요.
AI 투자 확대가 계속될 것이라는 시장의 기대가 약해지면서 반도체 업계 전반에 부담으로 작용한 겁니다.
게다가 외신에서는 V4.1 플래시를 '메모리 킬러'라고 평가했습니다.
AI 속도 조절론이 확산되면 AI 업체들의 경쟁도 성능에서 효율로 무게중심이 이동할 가능성이 있습니다.
적은 GPU와 메모리로도 충분한 성능을 내면서 안전하게 통제할 수 있는 AI를 만드는 게 중요해지는 겁니다.
다만, 업계에서는 저가형 AI 확산이 HBM 수요 감소로 이어진다고 단정하기는 어렵다고 분석합니다.
딥시크가 줄인 것은 HBM 총량이 아니라 AI 작업 한 번에 필요한 메모리 양이기 때문인데요.
AI 사용량과 추론 횟수가 늘어나면 개별 작업에서 줄어든 메모리 사용량을 상쇄할 수도 있고요.
여기에는 '제번스의 역설'도 적용할 수 있는데요.
AI가 저렴해질수록 이용량이 늘면서 오히려 전체 메모리 수요가 증가할 수 있다는 원리입니다.
즉, AI의 메모리 효율이 높아진다고 해서 전체 HBM 수요까지 같은 방향으로 움직이는 것은 아니라는 분석입니다.
<앵커>
잘 들었습니다. 산업부 김대연 기자였습니다.
관련뉴스
