A NVIDIA revelou hoje (7) o NVIDIA Project DIGITS, um supercomputador pessoal de IA que fornece aos pesquisadores de inteligência artificial, cientistas de dados e estudantes do mundo todo, acesso ao poder da plataforma NVIDIA Grace Blackwell.
O Projeto DIGITS apresenta o novo NVIDIA GB10 Grace Blackwell Superchip, oferecendo um petaflop de desempenho de computação de IA para prototipagem, ajuste fino e execução de grandes modelos de linguagem de inteligência artificial.
Com o Projeto DIGITS, os usuários podem desenvolver e executar inferências em modelos utilizando seu próprio computador e, então, implantá-los perfeitamente em uma nuvem acelerada ou uma infraestrutura de data center.
“A IA será a principal via em todas as aplicações para todos os setores da indústria. Por meio do Projeto DIGITS, o superchip Grace Blackwell chegará para milhões de desenvolvedores”, disse Jensen Huang, fundador e CEO da NVIDIA. “Colocar um supercomputador de IA nas mesas de cada cientista de dados, pesquisador de IA e estudante os capacita a se envolverem e moldarem a era da inteligência artificial.”
O Superchip GB10 fornece um petaflop de desempenho de IA com eficiência energética
O Superchip GB10 é um sistema de um chip (SoC) baseado na arquitetura NVIDIA Grace Blackwell e fornece até um petaflop de desempenho de IA com precisão FP4.
O GB10 traz uma GPU NVIDIA Blackwell com núcleos CUDA® de última geração e Tensor Cores de quinta geração, conectados via interconexão chip-to-chip NVLink-C2C a uma CPU NVIDIA Grace de alto desempenho, que inclui 20 núcleos com eficiência energética construídos com a arquitetura Arm. A MediaTek, líder de mercado no designs de sistemas de um chip (SoC) baseados em Arm, colaborou no design do GB10, contribuindo para uma melhor eficiência energética, desempenho e conectividade da categoria.
O superchip permite que o Projeto DIGITS entregue um desempenho poderoso usando apenas uma tomada elétrica padrão. Cada unidade do Projeto DIGITS possui 128 GB de memória unificada e até 4 TB de armazenamento NVMe. Com o supercomputador, os desenvolvedores podem executar modelos de linguagem grande de até 200 bilhões de parâmetros para turbinar inovações de IA. Além disso, utilizando a rede NVIDIA ConnectX®, dois supercomputadores de IA do Projeto DIGITS podem ser conectados para executar modelos de até 405 bilhões de parâmetros.
Supercomputação de IA Grace Blackwell ao seu alcance
Com a arquitetura Grace Blackwell, empresas e pesquisadores podem prototipar, ajustar e testar modelos de IA em sistemas locais do Projeto DIGITS, executando o sistema operacional NVIDIA DGX baseado em Linux e, em seguida, implantá-los perfeitamente no NVIDIA DGX Cloud, na nuvem ou em infraestruturas de data centers.
Isso permite que os desenvolvedores criem protótipos de IA no Projeto DIGITS e depois os dimensionem na infraestrutura de nuvem ou data center, usando a mesma arquitetura Grace Blackwell e a plataforma de software NVIDIA AI Enterprise.
Os usuários do Projeto DIGITS podem acessar uma extensa biblioteca de softwares de IA da NVIDIA para experimentação e prototipagem, incluindo kits de desenvolvimento de software, frameworks e modelos disponíveis no catálogo NVIDIA NGC e no portal NVIDIA Developer. Os desenvolvedores podem ajustar modelos com o framework NVIDIA NeMo, acelerar a ciência de dados com bibliotecas NVIDIA RAPIDS e executar estruturas de frameworks como PyTorch, Python e notebooks Jupyter.
Para criar aplicações de agentes de inteligência artificial, os usuários também podem aproveitar os microsserviços da NVIDIA Blueprints e NVIDIA NIM, que estão disponíveis para pesquisa, desenvolvimento e testes por meio do NVIDIA Developer Program. Quando os aplicativos de IA estiverem prontos para passar da experimentação para a produção, a licença NVIDIA AI Enterprise fornecerá segurança de nível empresarial, suporte e lançamentos de produtos do software NVIDIA AI.
