Dell étend son AI Factory avec de nouveaux serveurs AMD
Dell complète son offre d’infrastructures pour l’IA avec des serveurs basés sur le dernier processeur Epyc 9005 et les conjugue avec des services pour accompagner les entreprises.
Dell ajoute cinq serveurs basés sur AMD à son AI Factory, un portefeuille d’infrastructures et de services pour les charges de travail d’IA.
Les nouveaux serveurs PowerEdge comprennent quatre modèles de processeurs AMD Epyc 9005 de cinquième génération : les modèles R6715 et R7715 à CPU unique ainsi que les modèles R6725 et R7725 à double CPU. Le cinquième serveur, qui utilise également les nouveaux processeurs AMD Epyc 9005, est le XE7745 qui peut héberger jusqu’à huit GPU double largeur ou 16 GPU simple largeur et qui est conçu pour l’inférence (utilisation de modèles d’IA préentraînés).
« L’usine Dell AI Factory fournit des blocs d’infrastructure à assembler et des modules pour l’IA, mais pas la manière de mettre tout cela en musique. »
Anurag AgrawalAnalyste, Techaisle
Outre le nouveau matériel, Dell a également lancé la version 10 de son logiciel de gestion de serveur intégré Dell Remote Access Controller, qui offre davantage de sécurité grâce à un chiffrement 256 bits. La nouvelle solution Dell Generative AI Solutions avec AMD, qui combine infrastructure, logiciels et services professionnels, fait également partie de l’expansion de l’AI Factory. Dell a également étendu son partenariat avec Hugging Face (une plateforme Open source pour l’entraînement des modèles), pour inclure du matériel basé sur AMD, de sorte que les clients puissent choisir l’infrastructure sur laquelle construire leurs modèles.
Selon l’analyste Anurag Agrawal, du cabinet d’études Techaisle, « l’investissement de Dell dans AMD se justifie par le fait qu’il offre des performances supérieures à celles des CPU Intel, à un coût inférieur. Il offre également de meilleures performances par watt que les processeurs Intel. »
« En revanche, si les nouveaux serveurs AMD élargissent les options matérielles de l’offre AI Factory de Dell, le fournisseur doit encore clarifier la manière dont les entreprises peuvent l’utiliser au mieux. L’usine Dell AI Factory fournit des blocs d’infrastructure à assembler et des modules pour l’IA, mais pas la manière de mettre tout cela en musique. Dans une usine, on devrait pouvoir injecter de la matière première et obtenir un produit final », pondère-t-il, en fustigeant le manque d’une approche clé en main.
Des serveurs surpuissants conçus pour les entreprises
Les quatre nouveaux serveurs de la série R basés sur des processeurs AMD sont conçus avec des systèmes matériels modulaires pour centres de données qui permettent un meilleur refroidissement de l’air, les deux processeurs dégageant 500 W de puissance énergétique.
« Les nouveaux serveurs ne se contentent pas de réduire les coûts de l’unité centrale, ils réduisent également les coûts énergétiques par performance. »
Camberley BatesAnalyste, Futurum Group
« Cette nouvelle architecture constitue une avancée significative pour les deux fournisseurs en termes d’efficacité énergétique et de densité. Les nouveaux serveurs ne se contentent pas de réduire les coûts de l’unité centrale, ils réduisent également les coûts énergétiques par performance », commente Camberley Bates, analyste pour le cabinet Futurum Group.
« Nous savons que les centres de données sont confrontés aux exigences en matière d’alimentation et de refroidissement pour les déploiements d’IA », ajoute-t-elle. « C’est donc devenu une position concurrentielle pour les fournisseurs de serveurs ».
Dell a déclaré que les nouveaux serveurs offrent des performances record dans les benchmarks VMmark 4, une mesure des performances de virtualisation, et TPCx-AI, une mesure des repères d’apprentissage automatique. Cela en ferait les machines idéales pour l’IA et l’analytique. Mais ces serveurs peuvent également être utilisés pour exécuter des bases de données.
Le PowerEdge XE7745 est conçu pour l’inférence et l’optimisation des modèles d’IA. La série XE, ou accélération extrême, est destinée aux charges de travail intenses en données, y compris l’IA et le calcul à haute performance. Cette série a démarré avec le XE9680, lancé au cours du second semestre 2023. Alors que le XE9680 s’appuie sur des CPU Intel, le XE7745 utilise des CPU et des accélérateurs AMD, et il comprend des emplacements GPU qui sont couplés à des emplacements PCIe 5.0 pour la connectivité réseau.
Le XE7745 est destiné aux charges de travail d’IA sur site. « Les secteurs réglementés, tels que les banques et la santé, ne peuvent pas aller en cloud pour faire de l’inférence. Dell veut être prêt lorsque les cas d’utilisation arriveront dans les datacenters sur site », dit Anurag Agrawal.
Les services professionnels s’étendent aux modèles AMD
Au-delà du matériel et des logiciels, Dell AI Factory propose des services professionnels tels que des configurations Kubernetes, des frameworks de déploiement de l’IA et des meilleures pratiques pour le retour sur investissement. Dell a désormais étendu cette offre aux environnements AMD.
« La stratégie globale de Dell c’est de satisfaire le choix du client. Son département dédié aux services organise un atelier d’accélération et donne ensuite le choix de l’équipement. Ce choix est basé sur le coût et le délai de disponibilité », dit encore Anurag Agrawal. Historiquement, les configurations AMD sont moins chères, tandis que les configurations Intel sont plus rapidement disponibles.
En ce qui le concerne, le PowerEdge XE9680 à base de processeurs Intel peut s’accompagner de GPU AMD depuis sa sortie. La nouveauté est qu’il inclut désormais Dell Generative AI Solutions with AMD, ainsi que le portal Dell Enterprise Hub on Hugging Face, pour installer des LLM. Plus précisément, le portail Hugging Face-Dell prendra désormais en charge le serveur avec les accélérateurs AMD Instinct MI300X pour le déploiement de modèles sur site.
