Lancement de l’accélérateur PCIe NVIDIA A100 80 Go

NVIDIA a annoncé le lancement aujourd’hui de ses tout nouveaux systèmes HGX A100 qui intègrent les accélérateurs GPU A100 PCIe mis à jour offrant deux fois plus de mémoire et une bande passante plus rapide pour les utilisateurs HPC.

NVIDIA met à niveau les systèmes HGX A100 avec des accélérateurs GPU A100 HPC phares basés sur l’ampère – 80 Go de mémoire HBM2e et 2 To/s de bande passante

L’accélérateur NVIDIA A100 HPC existant a été introduit l’année dernière en juin et il semble que l’équipe verte envisage de lui apporter une mise à niveau majeure des spécifications. La puce est basée sur le plus grand GPU Ampere de NVIDIA, l’A100, qui mesure 826 mm2 et abrite 54 milliards de transistors. NVIDIA donne à ses accélérateurs HPC un coup de pouce aux spécifications à mi-cycle, ce qui signifie que nous entendrons parler des accélérateurs de nouvelle génération au GTC 2022.

NVIDIA prépare le GPU Ampere A100 PCIe avec 80 Go de mémoire HBM2e et jusqu’à 2 To/s de bande passante

Les GPU NVIDIA A100 Tensor Core offrent une accélération HPC sans précédent pour résoudre les problèmes complexes d’IA, d’analyse de données, de formation de modèles et de simulation pertinents pour le HPC industriel. Les GPU PCIe A100 80 Go augmentent la bande passante de la mémoire GPU de 25 % par rapport au A100 40 Go, à 2 To/s, et fournissent 80 Go de mémoire à bande passante élevée HBM2e.

L’énorme capacité de mémoire de l’A100 80 Go PCIe et sa bande passante de mémoire élevée permettent de conserver plus de données et de plus grands réseaux de neurones en mémoire, minimisant la communication entre les nœuds et la consommation d’énergie. Combiné à une bande passante mémoire plus rapide, il permet aux chercheurs d’obtenir un débit plus élevé et des résultats plus rapides, maximisant ainsi la valeur de leurs investissements informatiques.

A100 80 Go PCIe est alimenté par l’architecture NVIDIA Ampere, qui intègre la technologie GPU multi-instance (MIG) pour fournir une accélération pour les charges de travail plus petites telles que l’inférence AI. MIG permet aux systèmes HPC de réduire le calcul et la mémoire avec une qualité de service garantie. En plus du PCIe, il existe des configurations NVIDIA HGX A100 à quatre et huit voies.

Le support des partenaires NVIDIA pour le PCIe A100 80 Go comprend Atos, Cisco, Dell Technologies, Fujitsu, H3C, HPE, Inspur, Lenovo, Penguin Computing, QCT et Supermicro. La plate-forme HGX comprenant des GPU basés sur A100 interconnectés via NVLink est également disponible via les services cloud d’Amazon Web Services, Microsoft Azure et Oracle Cloud Infrastructure.

En termes de spécifications, l’accélérateur GPU A100 PCIe ne change pas beaucoup en termes de configuration de base. Le GPU GA100 conserve les spécifications que nous avons pu voir sur la variante 250W avec 6912 cœurs CUDA disposés en 108 unités SM, 432 cœurs Tensor et 80 Go de mémoire HBM2e qui offre une bande passante plus élevée de 2,0 To/s par rapport à 1,55 To/s sur la variante 40 Go.

Une image en vedette de la matrice NVIDIA GA100.

La variante A100 SMX est déjà livrée avec une mémoire de 80 Go, mais elle ne comporte pas les matrices HBM2e plus rapides comme cette prochaine variante A100 PCIe. Il s’agit également de la plus grande quantité de mémoire jamais présentée sur une carte graphique basée sur PCIe, mais ne vous attendez pas à ce que les cartes graphiques grand public présentent des capacités aussi élevées de si tôt. Ce qui est intéressant, c’est que la puissance nominale reste inchangée, ce qui signifie que nous envisageons des puces à plus haute densité pour des cas d’utilisation hautes performances.

Spécifications de la carte graphique A100 PCIe 80 Go répertoriées sur la page Web de NVIDIA. (Crédits image : Videocardz)

Les performances du FP64 sont toujours évaluées à 9,7/19,5 TFLOP, les performances FP32 sont évaluées à 19,5/156/312 TFLOP (épaississement), les performances FP16 sont évaluées à 312/624 TFLOP (épaississement) et l’INT8 est évaluée à 624/1248 TOP parcimonie). NVIDIA prévoit de sortir son dernier accélérateur HPC la semaine prochaine et nous pouvons également nous attendre à un prix de plus de 20 000 $ US étant donné que la variante 40 Go A100 se vend environ 15 000 $ US.

En plus de ces annonces, NVIDIA a également annoncé sa nouvelle solution InfiniBand qui fournit des configurations jusqu’à 2048 points de NDR 400 Gb/s (ou 4096 ports de NDR 200) avec un débit bidirectionnel total de 1,64 Pb/s. Cela seul est une augmentation de 5 fois par rapport à la génération précédente et offre un accélérateur d’IA 32 fois plus élevé.

Spécifications Tesla A100 basées sur le GPU NVIDIA Ampere GA100 :