마이크로서비스에서: NVIDIA, 기업의 제너레이티브 AI로의 여정을 원활하게 지원하다
모든 진보적인 기업이 이용할 수 있는 NVIDIA의 AI 플랫폼은 그 어느 때보다 사용이 간편하도록 설계되었습니다.
오늘 출시된 NVIDIA AI 엔터프라이즈 5.0 에는 NVIDIA 마이크로서비스 , 제너레이티브 AI 애플리케이션 및 가속 컴퓨팅 배포를 위한 다운로드 가능한 소프트웨어 컨테이너가 포함되어 있습니다. 주요 클라우드 서비스 제공업체, 시스템 빌더 및 소프트웨어 공급업체에서 사용할 수 있으며 Uber와 같은 고객사에서 사용 중입니다.
Uber의 플랫폼 엔지니어링 담당 부사장인 알버트 그린버그는 NVIDIA의 AI 엔터프라이즈 추론 소프트웨어를 채택하는 것이 우리의 존경받는 사용자들의 높은 기대치를 충족하는 데 매우 중요하다고 주장합니다. Uber는 최첨단 AI 기술을 서비스에 통합하여 업계에서 새로운 기준을 제시하는 탁월한 고객 서비스 플랫폼을 구축하기 위한 확고한 노력에 자부심을 가지고 있습니다.
마이크로서비스 앱 개발 속도 향상
최근 개발자들은 광범위한 범위의 최신 엔터프라이즈 애플리케이션을 효율적으로 구축하기 위한 수단으로 마이크로서비스를 사용하고 있습니다. 이러한 전문가들은 브라우저를 활용하여 다양한 플랫폼에서 작동하고 전 세계 고객에게 서비스를 제공할 수 있는 애플리케이션을 조립하기 위해 클라우드 API를 사용합니다.
NVIDIA AI 엔터프라이즈 5.0에는 이제 프로덕션에서 AI 모델을 배포하기 위한 NVIDIA NIM 과 NVIDIA cuOpt 을 포함하는 NVIDIA CUDA-X 마이크로서비스 컬렉션 등 광범위한 마이크로서비스가 포함되어 있습니다.
NIM(NVIDIA 추론 서버)은 고급 마이크로서비스 모음을 활용하여 NVIDIA 및 제휴 파트너가 개발한 모델을 비롯한 여러 인기 있는 AI 모델에서 효율적인 추론 처리를 용이하게 합니다.
NIM은 트리톤 추론 서버, TensorRT 및 TensorRT-LLM을 포함하는 NVIDIA의 고급 추론 소프트웨어 제품군을 활용하여 배포 시간을 몇 주에서 단 몇 분으로 대폭 단축합니다. 이 플랫폼은 업계 표준을 준수하는 강력한 보안 기능을 제공하는 동시에 엔터프라이즈급 관리 솔루션과 원활하게 통합됩니다.
NVIDIA cuOpt 은 경로 최적화 분야에서 세계 기록을 세운 GPU 가속 AI 마이크로서비스로, 비용, 시간, 탄소 발자국을 줄이는 동적 의사 결정을 지원할 수 있습니다. 업계에서 AI를 생산에 적용하는 데 도움을 주는 CUDA-X 마이크로서비스 중 하나입니다.
더 많은 기능이 개발 중입니다.예를 들어, 현재 얼리 액세스 중이며 여기 에서 자세히 설명된 NVIDIA RAG LLM 오퍼레이터 는 검색 증강 세대 을 사용하는 공동 파일럿 및 기타 생성 AI 애플리케이션을 코드 재작성 없이 파일럿에서 생산으로 전환할 수 있습니다.
크라우드스트라이크, SAP , ServiceNow 를 비롯한 주요 애플리케이션 및 사이버 보안 플랫폼 제공업체에서 엔비디아 마이크로서비스를 채택하고 있습니다.
더 많은 도구 및 기능
앞서 언급한 개선 사항 외에도 버전 5.0과 관련하여 언급해야 할 세 가지 추가 개선 사항이 있습니다.
이제 플랫폼에 NVIDIA AI 워크벤치 , 생성 AI 프로젝트를 빠르게 다운로드, 커스터마이징 및 실행하기 위한 개발자 툴킷이 포함되어 있습니다. 이 소프트웨어는 이제 정식 버전으로 제공되며 NVIDIA AI 엔터프라이즈 라이선스로 지원됩니다.
버전 5.0은 이제 대부분의 포춘 500대 기업이 프라이빗 및 퍼블릭 클라우드 서비스를 생성하는 데 사용하는 환경인 Red Hat OpenStack 플랫폼도 지원합니다. Red Hat에서 유지 관리하는 이 플랫폼은 개발자에게 가상 컴퓨팅 환경을 구축하는 데 익숙한 옵션을 제공합니다. IBM 컨설팅 은 고객이 이러한 새로운 기능을 배포하는 데 도움을 줍니다.
또한 이 업데이트 릴리스는 호환성을 확장하여 광범위한 최첨단 NVIDIA 그래픽 처리 장치, 네트워크 어댑터 및 가상화 솔루션을 포괄합니다.
어디서나 실행 가능
향상된 기능 덕분에 NVIDIA AI 플랫폼에 대한 접근성이 그 어느 때보다 높아졌습니다.
NIM 및 CUDA-X 마이크로서비스와 모든 5.0 기능은 AWS, Google Cloud , Microsoft Azure 및 Oracle Cloud 마켓플레이스에서 곧 제공될 예정입니다.
자체 데이터 센터에서 코드를 실행하는 것을 선호하는 경우 VMware Private AI Foundation with NVIDIA 가 소프트웨어를 지원하므로 Broadcom 고객의 가상화된 데이터 센터에 배포할 수 있습니다.
기업들은 레드햇 오픈시프트에서 엔비디아 AI 엔터프라이즈를 실행할 수 있는 옵션을 통해 베어메탈 또는 가상화 환경에 배포할 수 있습니다. 또한 캐노니컬 의 참된 쿠버네티스 및 우분투에서도 지원됩니다.
또한 AI 플랫폼은 Hewlett Packard Enterprise(HPE) 의 HPE ProLiant 서버에서 사용할 수 있는 소프트웨어의 일부가 될 것입니다.HPE의 생성 AI용 엔터프라이즈 컴퓨팅 솔루션 는 NVIDIA AI Enterprise를 사용하여 추론 및 모델 미세 조정을 처리합니다.
또한 머신 러닝 작업 을 관리하기 위한 소프트웨어의 3대 공급업체인 Anyscale, Dataiku 및 DataRobot이 자사 플랫폼에서 NIM을 지원할 예정입니다. 이들은 Microsoft Azure 머신 러닝, 데이터 루프 AI, 도미노 데이터 랩, 가중치 및 편향성 을 포함한 수백 개의 MLOps 파트너로 구성된 NVIDIA 에코시스템에 합류합니다.
액세스 방식에 관계없이 NVIDIA AI 엔터프라이즈 5.0 사용자는 안전하고 프로덕션용으로 맞춤화된 소프트웨어의 이점을 누릴 수 있습니다. 이 다용도 솔루션은 데이터센터, 클라우드 네트워크, 워크스테이션, 심지어 네트워크 주변부 등 다양한 플랫폼에서 원활하게 구현할 수 있습니다.
NVIDIA AI Enterprise는 Cisco, Dell Technologies , HP, HPE, Lenovo 및 Supermicro를 비롯한 주요 시스템 공급업체를 통해 이용할 수 있습니다.
GTC에서 성공 사례 듣기
3월 18일부터 21일까지 산호세 컨벤션 센터에서 열리는 글로벌 AI 컨퍼런스인 NVIDIA GTC 에서 사용자가 소프트웨어 사용 경험을 공유할 예정입니다.
예를 들어, ServiceNow 최고 디지털 정보 책임자 Chris Bedi는 패널 에서 제너레이티브 AI의 잠재력 활용에 대해 발표할 예정입니다. 별도의 강연 에서는 ServiceNow의 AI 제품 담당 부사장 제레미 반즈(Jeremy Barnes)가 NVIDIA AI 엔터프라이즈를 사용하여 개발자의 생산성을 극대화하는 방법에 대해 공유합니다.
블랙록, 메드트로닉, SAP, 우버의 경영진이 NVIDIA AI 플랫폼을 사용한 금융, 의료, 엔터프라이즈 소프트웨어 및 비즈니스 운영 작업에 대해 논의할 예정입니다.
또한 독일에 본사를 둔 자동차 보험사를 위한 글로벌 애플리케이션 제공업체인 ControlExpert의 경영진이 NVIDIA AI 엔터프라이즈 소프트웨어를 사용하여 AI 기반 보험금 청구 관리 솔루션을 개발한 방법을 공유할 예정입니다.
이 기업들은 강력한 보안 조치를 갖춘 응집력 있고 안정적인 패키지로 통합된 수많은 내부 및 외부 생성형 인공지능 이니셔티브에 대한 NVIDIA의 포괄적인 평가를 활용하는 확장 그룹의 일부입니다.
그리고 GTC 기조연설 에서 NVIDIA CEO 겸 창립자 젠슨 황의 전체 그림을 확인하세요.
소프트웨어 제품 정보에 관한 공지 를 참조하세요.