Accélérateurs : les GPUs, DPUs et autres architectures serveur en 2023

Introduction

Outre les processeurs, ce sont les GPUs, avec leur faculté d’accélérer les calculs matriciels, qui mobilisent l’attention de tous les projets basés sur l’IA ou la simulation. Nvidia remplace ainsi son GA100 par un GH100 capable de résoudre des équations 1,5 fois plus rapidement. Point intéressant, le GH100 ne sert plus qu’à faire des cartes H100 de supercalcul ; contrairement à son prédécesseur, il n’est plus déclinable en carte graphique. Selon Nvidia, il serait trop spécialisé pour être versatile. Cette spécialisation serait le secret de son optimisation.

Intel, qui entend redevenir la locomotive des puces ultra-performantes, est totalement d’accord avec l’analyse de son concurrent : pour atteindre les meilleurs scores sur une application, il faudrait proposer un design conçu exprès pour cette application. C’est ainsi qu’il se lance dans des architectures « en tuiles ». Désormais, ses produits interconnecteront dans la même puce certaines quantités de cœurs CPU, GPU, RAM, ou cache qui seront dosées au cas par cas. Pour parvenir à proposer autant de variantes sans que cela lui coûte cher en production, Intel mise sur un socle d’assemblage révolutionnaire, où les circuits communiquent entre eux aussi vite que s’ils avaient été gravés ensemble.

Pour autant, les nouvelles vedettes des puces électroniques sont les DPUs, c’est-à-dire des puces d’accélération pour les cartes réseau. Et, par extension, pour les opérations de stockage qui se font en réseau. Nvidia a mis au point les puces BlueField, notamment pour réduire la bande passante sur les réseaux Infiniband qui relient entre eux les modules d’un supercalculateur. Intel, AMD, le Français Kalray et même la fondation Linux mettent à présent toute l’énergie de leurs développeurs dans les DPUs. D’abord pour réduire la latence entre des serveurs. Et aussi pour augmenter la vitesse des baies de SSD connectées en NVMe/TCP, un réseau bien moins cher que le Fiber Channel.

Encore mieux que les DPUs, la nouvelle architecture CXL qui arrive avec les processeurs de 2023 promet de mettre en réseau des cartes GPUs et des barrettes de RAM ! L’intérêt est économique. CXL doit permettre aux hébergeurs et aux grands datacenters d’aménager des pools de composants électroniques partageables entre les serveurs. Plutôt que d’acheter des machines avec des caractéristiques haut de gamme, ils leur distribueront à tour de rôle la puissance dont elles ont de temps en temps besoin.

Ce guide fait donc un point sur les caractéristiques des composants électroniques qui doivent épauler en 2023 les processeurs pour accélérer les serveurs.

1GPUs-

De plus en plus de cœurs spécialisés

2DPUs-

Accélérer le réseau… et le stockage en réseau

3Interconnexions-

Des pools de RAM et de GPUs en réseau

4Glossaire-

Quelques définitions