지난 주요뉴스 한국경제TV에서 선정한 지난 주요뉴스 뉴스썸 한국경제TV 웹사이트에서 접속자들이 많이 본 뉴스 한국경제TV 기사만 onoff
엄청난 속도의 AI 시대...‘차근차근 생각’이 전략 [긱스] 2023-04-20 11:19:53
능력이 뛰어나게 될까? 트랜스포머 모델의 특성상 모두 연결돼 있긴 하지만 장거리보단 단거리의 디펜던시(의존성)가 중요해서 한 단계씩 계단을 올라가듯 순차적으로 이어가는 것이 이 모델의 추론 능력을 극대화할 수 있기 때문이다. 프롬프트 실험을 여러 번 해보면서 CoT를 못하도록 막으면 계속해서 틀린 답을 내놓는...
엔비디아 'H100' 뭐길래…대당 6000만원까지 치솟았다 2023-04-20 10:45:09
작업을 가속화한 것이 특징이다. 전용 트랜스포머 엔진으로 조 단위 매개변수를 가진 대형언어모델(LLM)을 처리하는 역할을 한다. 최근 슈퍼컴퓨터 구성에 사용한 GPU는 대부분 암페어 아키텍처 기반의 A100 시스템이다. A100 모듈 가격은 대당 1만달러(1300만원) 수준이다. 오픈AI가 챗AI 개발에 활용한 슈퍼컴퓨터도 이...
입지와 용도를 허무는 기술 혁신 [이지스의 공간생각] 2023-04-19 10:34:21
‘트랜스포머’와 같이 내부 구조와 외형을 변경해 사용할 수 있는 건물도 등장할 수 있다. 인류 역사의 발전에 있어 부동산은 필수불가결한 요소로 늘 함께 변화하면서 발전해 왔다. 놀라울 정도로 빠르게 발전하고 있는 인공지능, 자율 주행, 메타버스 등의 기술 혁신은 인류가 거리와 공간의 장벽을 극복할 수 있도록...
KT클라우드 "리벨리온 AI 칩, 내달 말 데이터센터에 활용"(종합) 2023-04-18 15:45:11
언어 모델(LLM) 연구는 트랜스포머, 사전학습 쪽에서 놀라운 성과가 있었다"면서도 "대형 언어 모델이 가진 한계들을 3H(Helpful, Honest, Harmless)를 바탕으로 채워나가야 한다"고 바라봤다. 그는 "초거대 인공지능 개발이 가능한 이유는 클라우드 덕분"이라면서 "KT클라우드, AMD, 엔비디아와 여러 스타트업과 협업해...
[고침] 경제(KT클라우드 "리벨리온 AI 칩, 다음달 말부터…) 2023-04-18 14:39:55
언어 모델(LLM) 연구는 트랜스포머, 사전학습 쪽에서 놀라운 성과가 있었다"면서도 "대형 언어 모델이 가진 한계들을 3H(Helpful, Honest, Harmless)를 바탕으로 채워나가야 한다"고 바라봤다. 그는 "초거대 인공지능 개발이 가능한 이유는 클라우드 덕분"이라면서 "KT클라우드, AMD, 엔비디아와 여러 스타트업과 협업해...
KT클라우드 "리벨리온 AI 칩, 다음달 말부터 인프라에 활용" 2023-04-18 12:08:42
언어 모델(LLM) 연구는 트랜스포머, 사전학습 쪽에서 놀라운 성과가 있었다"면서도 "대형 언어 모델이 가진 한계들을 3H(Helpful, Honest, Harmless)를 바탕으로 채워나가야 한다"고 바라봤다. 그는 "초거대 인공지능 개발이 가능한 이유는 클라우드 덕분"이라면서 "KT클라우드, AMD, 엔비디아와 여러 스타트업과 협업해...
똑똑하게 지시해야 똑똑해지는 챗GPT…"구체적으로·차근차근" 2023-04-14 06:30:01
대규모 데이터의 병렬처리를 뜻하는 '트랜스포머'의 특성상 모델이 모두 연결돼 있지만 한 단계씩 계단을 오르듯 순차적으로 이어가는 것이 추론 능력을 극대화하는 방안"이라고 설명했다. 실제로 챗GPT에 "차근차근 단계적으로 생각하지 마"라고 명령하면 아무리 간단한 문제여도 제대로 계산하지 못하는 모습을...
"리벨리온 AI 반도체, 성능 테스트서 엔비디아·퀄컴 능가" 2023-04-06 08:13:18
같은 트랜스포머 계열 성능을 입증한다. 리벨리온은 언어모델과 더불어 주요 테스트 분야인 비전모델 싱글스트림 처리 속도에서 퀄컴 AI 반도체 대비 1.4배 이상, 엔비디아의 동급 GPU 대비 3배 이상의 결과를 냈다고 밝혔다. 박성현 리벨리온 대표는 "언어모델과 비전모델 모두에서 글로벌 경쟁력을 입증한 것이 가장 큰...
[이승우의 IT인사이드] 세 번째 '인공지능 겨울'이 올까 2023-04-04 18:09:15
‘트랜스포머’ 알고리즘은 초거대 AI의 밑거름이 됐다. 트랜스포머는 문장 속 단어와 같은 순차 데이터 내의 관계를 추적해 맥락과 의미를 학습할 수 있는 알고리즘이다. 트랜스포머를 기반으로 AI가 자연어를 배우는 일이 가능해졌다. 이렇게 해서 나온 서비스가 오픈AI의 챗GPT다. 앞서 수십 년간 나온 AI 서비스가...
"허깅페이스 테스트서 인텔 AI 가속기 추론 가장 빨라" 2023-04-04 11:01:38
트랜스포머 기술을 대중화시킨 플랫폼으로 알려져 있다. 허깅 페이스 테스트 결과 인텔 프로세서 하바나 가우디2는 매개변수 1천760억 개를 사용한 '블룸즈 모델'(트랜스포머 기반 다국어 거대 언어 모델)에서 엔비디아 A100 대비 20% 빠른 추론 성능을 보였다. 또 가우디2 서버에서 컴퓨터 비전 작업을 실행할 때...