NVIDIA Ganha nos Novos Benchmarks de Inferência em AI

A NVIDIA publicou os resultados mais rápidos dos novos benchmarks que avaliam o desempenho das cargas de trabalho de inferência de AI em datacenters e edge — consolidando a mesma posição da empresa em recentes benchmarks de treinamento de AI.

Os resultados do primeiro pacote independente de benchmarks de AI do setor para inferência, chamado MLPerf Inference 0.5, demonstram o desempenho das GPUs NVIDIA Turing™ para datacenters e do sistema em um chip NVIDIA Jetson Xavier™ para a computação na edge.

Os cinco benchmarks de inferência do MLPerf — aplicados em diversos form factors e quatro cenários de inferência — abrangem os aplicativos de AI estabelecidos como: classificação de imagens, detecção e conversão de objetos.

A NVIDIA foi superior nos cinco benchmarks para os dois cenários de datacenter (servidor e off-line) com GPUs Turing que oferecem a melhor performance por processador entre os processadores comercialmente disponíveis. O Xavier teve o mais alto desempenho entre os SoCs móveis e de edge comercialmente disponíveis nos dois cenários focados na edge (stream único e vários streams).

"A AI está em um ponto de mudança, passando rapidamente da pesquisa para a implantação em grande escala em aplicativos reais", afirmou Ian Buck, gerente geral e vice-presidente de computação acelerada da NVIDIA. "A inferência de AI é um grande desafio computacional. Combinando o acelerador programável mais avançado do setor, a suíte CUDA-X de algoritmos de AI e nossa profunda experiência em computação de AI, a NVIDIA pode ajudar os datacenters a implantar sua quantidade cada vez maior de modelos complexos de AI."

Destacando a capacidade de programação e o desempenho de sua plataforma de computação em cargas de trabalho de AI diversas, a NVIDIA foi a única empresa a submeter resultados em todas as cinco comparações de MLPerf. Em julho, a NVIDIA ganhou vários resultados de benchmarks MLPerf 0,6 para o treinamento de AI, obtendo oito recordes em desempenho de treinamento.

As GPUs NVIDIA aceleram as cargas de trabalho de inferência em larga escala nas maiores infraestruturas de nuvem do mundo, incluindo Alibaba Cloud, AWS, Google Cloud Platform, Microsoft Azure e Tencent. Agora, a AI está passando para a edge no ponto de ação e criação de dados.Empresas e organizações líderes de todo o mundo, incluindo Walmart e Procter & Gamble, estão usando a plataforma de computação EGX edge da NVIDIA e os recursos de inferência de AI para executar cargas de trabalho de AI sofisticadas na edge.

Todos os resultados do MLPerf da NVIDIA foram alcançados usando o software de inferência de Deep Learning de alto desempenho NVIDIA TensorRT™ 6, que otimiza e implanta aplicações de AI facilmente na produção do datacenter à edge. Novas otimizações de TensorRT também estão disponíveis como código aberto no repositório Github.

Novo Jetson Xavier NX

Ao expandir sua plataforma de inferência, a NVIDIA apresentou o Jetson Xavier NX. O menor e mais potente supercomputador de AI do mundo para dispositivos de computação integrada e robótica na edge, o Jetson Xavier NX é uma versão de baixa potência do Xavier SoC usado nos benchmarks MLPerf Inference 0.5.

Sobre a NVIDIA

A invenção da GPU pela NVIDIA (NASDAQ: NVDA) em 1999 desencadeou o crescimento do mercado de games para PC, redefiniu os gráficos de computadores modernos e revolucionou a computação paralela. Mais recentemente, o deep learnin com base em GPU deu início à inteligência artificial moderna — a próxima era da computação — com a GPU atuando como o cérebro dos computadores, robôs e carros autônomos que podem perceber e compreender o mundo.