Dossier puces pour l’IA : les alternatives à Nvidia

Introduction

LeMagIT a déjà consacré un guide à l’écosystème des infrastructures autour des solutions de Nvidia. Pour autant, il existe des alternatives à ses GPU à 40 000 dollars l’unité afin d’équiper les entreprises avec suffisamment de moyens techniques dans le but d’exécuter leurs traitements d’IA. Le concurrent le plus visible de Nvidia sur la fourniture des GPU est AMD. Après avoir lancé l’année dernière son MI300X, le fournisseur revient à la charge cette année avec un MI325X toujours deux fois moins cher que les H100 et H200 de Nvidia.

Moins visible, mais tout autant pressé de peser dans ce domaine, Intel a désormais lui aussi un GPU, le Gaudi3. Même si celui-ci ne semble pas atteindre, sur le papier, les mêmes performances que les puces de Nvidia, le mérite de l’approche d’Intel est qu’elle est liée à un kit de développement Open source. Il permet aux entreprises de mettre au point leurs chatbots d’IA générative sans devoir investir dans la suite logicielle de Nvidia. AMD, de son côté, s’efforce de développer ses propres logiciels, mais il est probable qu’il se range à l’initiative d’Intel.

Tous ces GPUs sont capables d’exécuter les tâches les plus demandeuses en performances dans le domaine de l’IA : l’entraînement des modèles. Mais la plupart des entreprises se contenteront surtout de faire de l’inférence, c’est-à-dire utiliser des modèles préentraînés pour leur soumettre leurs propres données et requêtes. Dans ce cas, il sera sans doute bien plus rentable d’investir dans des puces accélératrices d’un tout autre genre. Groq, Cerebras, Azure, Broadcom ou encore le Chinois XianShan ont des solutions pour accélérer l’IA générative sans dépenser des millions d’euros.

Cela dit, a-t-on réellement besoin de GPU pour faire de l’IA générative ? Les fabricants de processeurs répondent en chœur que non. Les derniers Xeon 6P d’Intel et Epyc 9005 de Nvidia ont été conçus pour accomplir ces tâches depuis des serveurs traditionnels. Tout comme les processeurs ARM qu’Ampere vend de plus en plus aux hébergeurs. Entre ces processeurs surpuissants ou des processeurs de génération précédente accompagnés de petits GPUs ou d’accélérateurs en carte PCIe, tout sera finalement une question de rentabilité énergétique. Les entreprises sont invitées à sortir leurs calculatrices pour évaluer la configuration qui, dans leurs datacenters, contribuera à limiter le mieux les dépenses en électricité.

Enfin, une compréhension de l’offre des semiconducteurs pour l’IA ne serait pas complète sans évoquer la question des mémoires HBM. Ces mémoires intégrées aux GPU et aux processeurs sont la raison pour laquelle toutes ces puces sont meilleures dans le calcul plus rapide des algorithmes de l’IA. Elles sont aussi la raison de leurs prix élevés. Ce dossier fait donc également un point sur le poids de ces mémoires dans l’actuelle économie de l’IA pour expliquer combien leur avenir, incertain, pérennisera ou non les actuels investissements des entreprises. D’autant qu’il existe déjà des moyens de s’en passer.

1GPU-

Des solutions existent pour dépenser moins de millions

2Processeurs-

Se contenter de serveurs traditionnels, mais plus chers en énergie

3HBM-

La mémoire magique qui rend les semiconducteurs meilleurs pour l’IA