엔비디아에는 다양한 AI 솔루션이 제공된다. 밑에서 보는 것과 같이 6가지 영역에서 이루어지고 있다.
여기서는 추론을 먼저 알아 보겠다.
AI 추론이란 무엇입니까?
AI 추론은 훈련된 모델을 사용하여 이전에 본 적이 없는 데이터에 대해 예측하는 프로세스입니다. 훈련 중에 AI 모델은 새로운 데이터를 일반화할 수 있는 패턴과 관계를 학습합니다. 추론 중에 모델은 학습된 지식을 적용하여 정확한 예측을 제공하거나 이미지, 텍스트 또는 비디오와 같은 출력을 생성합니다. 이 강력한 기능을 통해 기업은 데이터 기반 결정을 내리고, 프로세스를 최적화하고, 내부 및 외부 고객에게 고유하고 개인화된 경험을 제공할 수 있습니다.
NVIDIA TensorRT 는 양자화, 융합, 커널 튜닝과 같은 다양한 기술을 사용하여 훈련된 딥 러닝 모델을 최적화하는 최적화 컴파일러 및 런타임입니다. NVIDIA TensorRT-LLM은 NVIDIA GPU의 최신 LLM에서 추론 성능을 가속화하고 최적화하는 오픈 소스 라이브러리입니다. NVIDIA Triton Inference Server ™를 사용하면 클라우드, 온프레미스 데이터 센터, 엣지 또는 임베디드 장치의 모든 주요 프레임워크에서 학습된 모델을 배포, 실행 및 확장할 수 있습니다. NVIDIA Triton 관리 서비스(TMS)는 GPU 및 CPU에서 리소스 효율적인 모델 오케스트레이션을 통해 Kubernetes에서 여러 Triton 추론 서버 인스턴스 배포를 자동화합니다.
이번에는 엔터프라이즈 AI 를 알아보자
일반 사용자는 어려울수 있지만
비즈니스를 하는 입장에서는 다소 유용한 AI 솔루션이 아닌가 싶다.
엔비디아는 과거 그래픽 카드 만드는 회사인 줄 알았는데
점점 AI 영역으로 영역을 확장하는 모습을 볼 수 있다.
아래 기사를 통해 어떻게 엔비디아가 AI 산업을 점령했는지 확인해보자.
인공지능(AI) 기술의 발전은 앞으로 얼마나 더 이뤄질까. 챗GPT 열풍이 계속되는 가운데 개발사 오픈AI가 더 창의적인 언어모델 GPT-4를 내는가 하면, 마이크로소프트는 자연어 명령만으로 문서 작업을 해주는 ‘마이크로소프트 365 코파일럿(Copilot)’을 공개했다. 이처럼 무서운 속도로 등장하는 AI 신기술은 인류에게 놀라움과 두려움을 함께 안겨주는 상황.
그런데 이 AI를 이야기하면서 빼놓을 수 없는 기업이 하나 있다. 바로 미국 실리콘밸리에 있는 엔비디아라는 반도체 설계업체다. 처음 엔비디아는 좀 더 실감나고 재미있게 게임을 하기 위한 그래픽 카드를 개발하면서 시작했다. 그 기술이 토대가 돼 지금은 거의 모든 AI 기술을 뒷받침하는 IT 기업으로 자리매김했다. 시장조사업체 딜로이트에 따르면, 엔비디아는 AI반도체 시장의 97%를 차지하고 있다.
김선욱 엔비디아 테크니컬마케팅 이사
쟁쟁한 AI 솔루션과 서비스 기업 사이에서 엔비디아가 목소리를 낸 것도 이 같은 이유에서다. 바이라인네트워크가 16일 서울 과학기술컨벤션센터에서 개최한 ‘챗GPT와 생성AI가 만드는 미래’ 콘퍼런스에서 김선욱 엔비디아 테크니컬마케팅 이사는 엔비디아가 어떻게 AI 세계를 점령해 왔는지 설명했다.
사실 컴퓨터가 돌아가는 구조 자체는 매우 단순하다. 그저 입력된 데이터는 메모리에 임시 저장하고, 중앙처리장치(CPU)는 메모리로부터 전송 받은 데이터를 순차적으로 처리하면 된다. CPU는 한 번에 데이터 하나만을 처리할 수 있다는 특징을 가지고 있다. 과거에는 이 데이터 규모가 매우 작았기 때문에 별도의 가속기 없이도 사용자가 수월하게 작업을 할 수 있었다.
하지만 기술이 발전하고 AI와 딥러닝이라는 개념이 등장하면서 CPU가 처리해야 할 데이터의 양은 기하급수적으로 늘어났다. CPU는 한 번에 하나의 데이터만 처리할 수 있기 때문에 병목현상을 피할 수 없었다. 이에 업계는 AI가속기, 즉 AI반도체를 찾기 시작했다. 이 때 주목받은 것이 바로 엔비디아의 그래픽처리장치(GPU)다.
GPU는 한 번에 다량의 데이터를 처리하는 병렬 처리 구조를 가졌다. 한 번에 많은 양의 데이터를 학습하고 처리해야 하는 AI를 구현하기에 적합하다. 과거에는 그저 대용량의 그래픽 처리를 수월하게 하기 위한 목적으로 GPU가 사용됐지만 AI가 발전하면서 새로운, 그것도 성장 가능성이 무한한 사용처를 찾게 된 것이다.
김선욱 이사는 “단순히 실감나는 게임에 사용됐던 GPU는 점차 과학 연구 알고리즘에 사용되기 시작했다”며 “인공지능과 딥러닝 기술의 발전으로 엔비디아도 주목받게 됐다”고 말했다.
그런데 GPU는 그간 사용되던 CPU 시스템과 구조가 다르기 때문에 사용하기가 까다롭다. 이를 해결하기 위해 엔비디아는 엔지니어가 자사 GPU를 사용해 더 많은 AI 솔루션을 개발할 수 있도록 소프트웨어 풀스택을 라이브러리로 지원한다. 김 이사는 “엔비디아는 GPU 프로그램을 사용하지 못해도 그저 데이터만 집어넣으면 될 정도로 풀스택의 라이브러리를 제공한다”며 “따라서 GPU를 이용해 쉽게 AI 서비스를 구현할 수 있다”고 말했다.
최근 제공하는 GPU는 트랜스포머에 좀 더 최적화했다. 여기서 트랜스포머는 문장 속 단어와 어순 간 관계를 추적해 맥락과 의미를 학습하는 신경 모델을 말한다. 엔비디아가 올해 1월 출시한 GPU H100은 트랜스포머 엔진 강화에 적합하다. 엔비디아 H100을 8개 붙인 엔터프라이즈용 가속기 DGX H100은 초거대 AI를 뒷받침하는 서버, 데이터센터에 잘 맞는다.
더 나아가 엔비디아는 그간 개발한 AI 솔루션, 데이터센터 인프라 기술 기반의 AI 가상 세계, 옴니버스(Omniverse) 플랫폼을 지원한다. 옴니버스는 엔비디아의 작업용 메타버스 플랫폼을 말한다. 3D 디자인 협업이나 시뮬레이션이 필요할 때 옴니버스 플랫폼을 사용할 수 있다. 김선욱 이사는 “옴니버스는 현실과 완벽하게 동기화되면서 물리적인 요소를 모두 반영한 AI 지원 가상 시뮬레이션”이라고 강조했다.
이어서 김 이사는 “옴니버스는 다른 데이터와 애플리케이션을 통합하고 완전한 호환을 지원한다”며 “최근 옴니버스를 사용하는 회사들이 늘어나고 있다”고 덧붙였다.
AI의 발전이 얼마나 더 이뤄질 지 묻는다면, 이는 아마 인간이 상상하는 만큼이라고 답할 수 있겠다. AI 기술 자체가 인간이 제공한 데이터를 재료 삼아 인프라 기술로 조리해 만들어진 것이기 때문이다. 하지만 기술이 발전할수록 사람들은 또 상상하고, 이는 또 기술 발전을 불러올 것이다. AI반도체 시장을 제패하고 있는 엔비디아가 이후에도 초거대 AI 시장에서 영향력을 가질 수 있는 이유다.
출처 : Byline Network
--------------------------------------------------------------------------------------------------------------------------------------
추가적으로 주식에 관심있는 분들은 이글을 보시기를 추천한다.
엔비디아의 주식 가치가 향후 10년 내에 5배까지 급증할 수 있다는 주장이 제기됐다. 엔비디아는 AI(인공지능)를 구현하는데 사용되는 가장 강력한 반도체를 생산하는 기업으로 평가받고 있다.
2015년부터 10억달러 규모의 노르웨이 스토어브랜드 글로벌 솔루션 지속 가능 펀드를 운용하고 있는 필립 립먼은 17일(현지시간) CNBC와 인터뷰에서 투자자들이 이제야 겨우 자동화가 무엇을 할 수 있고 여러 산업에 어떤 영향을 미칠 수 있는지 이해하기 시작했다며 증시를 부양시키는 AI 주도의 추세가 여전히 발전하고 있다고 밝혔다.
그는 엔비디아의 칩을 사용하는 AI 기업들이 성장하면서 에너지 생산과 디지털 서비스, 금융 서비스 등의 여러 분야가 파괴적 혁신을 맞을 수 있다고 전망했다.
이어 AI 산업에서 엔비디아의 주도권을 지적하며 제약회사들이 연구를 위해 사용하는 캠브리지-1 슈퍼컴퓨터를 예로 들었다.
립먼은 "기회는 정말 무한하다. 엔비디아가 이런 기회들을 어느 정도 활용할 수 있을지는 시간이 말해 줄 것"이라며 "하지만 나는 엔비디아가 할 수 있다는 것을 보여주는 좋은 과거 실적을 가지고 있다고 생각한다"고 밝혔다.
또 AI 시장의 규모와 수요를 감안할 때 엔비디아가 5배 성장할 수 있는 시나리오가 가능하다며 "요약하자면 우리는 지금 AI가 무엇을 할 수 있는지 이제 막 표면을 긁고 있는 상태"라고 말했다.
립먼은 자신의 펀드에서 엔비디아를 4000만달러, 약 4% 보유하고 있다.
AMD와 인텔, 아마존, 알파벳 등도 AI시장에 관심을 갖고 있지만 뱅크 오브 아메리카는 엔비디아가 AI시장에서 이미 확고한 거점을 마련해뒀기 때문에 주도권을 잃지 않을 것으로 보인다고 밝혔다.
다만 립먼은 엔비디아의 성장 잠재력에 리스크도 존재한다고 밝혔다. 미국과 중국의 긴장감이 높아지는 가운데 엔비디아의 반도체가 대만 TSMC 공장에서 생산되고 있다는 점이다.
한편, 엔비디아 주가는 챗GPT로 AI 열풍이 불면서 올들어 2배 급등했다. 하지만 여전히 2021년 11월29일에 기록한 사상최고치에 비해서는 12% 낮은 수준이다.
엔비디아는 AI 기술의 복잡한 알고리즘을 운영하는데 핵심적인 고성능 GPU(그래픽 프로세상 유닛)를 생산하고 있다.
https://news.mt.co.kr/mtview.php?no=2023051811414048035
"엔비디아, AI 호황으로 10년 내 주식 가치 5배 늘어날 것" - 머니투데이
엔비디아의 주식 가치가 향후 10년 내에 5배까지 급증할 수 있다는 주장이 제기됐다. 엔비디아는 AI(인공지능)를 구현하는데 사용되는 가장 강력한 반도체를 생산하는 기업으로 평가받고 있다. 20
news.mt.co.kr
오늘도 긴글 읽어주셔서 감사합니다.
제 개인적인 생각은 엔비디아가 AI반도체 시장에서 앞으로도 큰 역할을 하리라 본다.
초거대AI 가 점점 삶에 깊숙이 파고 들고 있어서 더욱 주목이 되는 기업이다.
감사합니다.
'인공지능' 카테고리의 다른 글
| [인공지능#12] 인공지능 무료 강의 듣는 방법~ (0) | 2023.11.05 |
|---|---|
| [인공지능#11] 인공지능으로 벌써 돈 버는 사람 (0) | 2023.11.05 |
| [인공지능#9] Tesla 테슬라 인공지능, 로봇에 대한 분석 (feat. 오뚝이정보) (2) | 2023.11.05 |
| [인공지능#8] 한국형 AI 육성에 진입하는 스타트업(Jaepa X) (0) | 2023.11.05 |
| [인공지능#7] 인공지능 혁신을 촉진하기 위한 미국 조치(23년) 및 AI 일자리 문제 (0) | 2023.11.05 |