A NVIDIA anuncia que os principais fabricantes de sistemas do mundo fornecerão servidores prontos para IA que suportam o VMware Private AI Foundation com NVIDIA, anunciado separadamente, para ajudar as empresas a personalizar e implantar aplicações de IA generativas usando seus dados comerciais proprietários.
Os servidores NVIDIA AI-ready incluirão GPUs NVIDIA® L40S, NVIDIA BlueField®-3 DPUs e software NVIDIA AI Enterprise para permitir que as empresas ajustem os modelos de base de IA generativa e implementem aplicações de IA generativa, como chatbots inteligentes, ferramentas de pesquisa e sumarização. Esses servidores também fornecem infraestrutura e software acelerados pela NVIDIA para potencializar o VMware Private AI Foundation com NVIDIA.
Os servidores NVIDIA L40S dos principais fabricantes de sistemas globais – Dell Technologies, Hewlett Packard Enterprise e Lenovo – estarão disponíveis até o final do ano para acelerar a IA corporativa.
Impulsionando a transformação de IA generativa na empresa
Os servidores NVIDIA prontos para IA são projetados para fornecer infraestrutura e software acelerados full-stack para indústrias que desejam adotar IA generativa para uma ampla gama de aplicações, incluindo descoberta de medicamentos, descrições de produtos de varejo, assistentes virtuais inteligentes, simulação de fabricação e detecção de fraudes.
Os servidores possuem NVIDIA AI Enterprise, o sistema operacional da plataforma NVIDIA AI. O software fornece suporte empresarial pronto para produção e segurança para mais de 100 estruturas, modelos pré-treinados, kits de ferramentas e software, incluindo NVIDIA NeMo™ para LLMs, NVIDIA Modulus para simulações, NVIDIA RAPIDS™ para ciência de dados e servidor NVIDIA Triton™ Inference para produção de IA.
Construídas para lidar com cargas de trabalho de IA complexas com bilhões de parâmetros, as GPUs L40S incluem Tensor Cores de quarta geração e um FP8 Transformer Engine, oferecendo mais de 1,45 petaflops de poder de processamento tensor e desempenho de treinamento de até 1,7x em comparação com a GPU NVIDIA A100 Tensor Core.
Para aplicações de IA generativa, como chatbots inteligentes, assistentes, pesquisa e sumarização, a NVIDIA L40S permite até 1,2x mais desempenho de inferência de IA generativa do que a GPU NVIDIA A100.
A integração de DPUs NVIDIA BlueField aumenta ainda mais a velocidade ao acelerar, descarregar e isolar a enorme carga de computação de virtualização, rede, armazenamento, segurança e outros serviços de IA nativos da nuvem.
Amplo ecossistema para acelerar implantações empresariais de IA generativa
Os principais fabricantes de computadores do mundo estão construindo servidores preparados para NVIDIA AI, incluindo o Dell PowerEdge R760xa, servidores HPE ProLiant Gen11 para VMware Private AI Foundation com NVIDIA e Lenovo ThinkSystem SR675 V3.
“A IA generativa é um catalisador para a inovação, ajudando a resolver alguns dos desafios mais prementes do mundo”, destaca Michael Dell, presidente e diretor executivo da Dell Technologies. “As soluções Dell Generative AI com servidores NVIDIA AI-ready desempenharão um papel crítico no avanço do progresso humano, impulsionando níveis sem precedentes de produtividade e revolucionando a forma como as indústrias operam.”