IA : AMD rachète Nod.ai pour tenter de rattraper Nvidia
Bien conscient que Nvidia domine sur le marché du hardware dédié à l’IA, AMD multiplie les rachats pour se doter de fonctionnalités équivalentes et renforcer ses équipes.
Après l’annonce du rachat du Français Mipsology, spécialiste de l’inférence de modèle de machine learning sur des FPGA, AMD met la main sur Nod.ai pour un montant inconnu. La transaction devrait être conclue ce trimestre.
Installée à Santa Clara, Nod.ai a été fondée en 2013 par un ancien de Google passé par l’équipe Chromebook et un docteur en ingénierie aérospatiale et en science computationnelle de l’Université de Stanford.
La startup, qui emploie une trentaine de salariés actuellement selon sa page LinkedIn, a totalement changé d’activité. À son lancement, elle développait une « plateforme technologique de contrôle de mouvement ». Alors appelée Nod Labs, elle avait lancé une bague connectée qui devait remplacer souris et pointeurs sur nos bureaux.
Le pivot remarqué de Nod.ai
Depuis 2020, elle se focalise sur le développement de solutions d’optimisation des traitements d’IA. Nod.ai a d’abord consacré ses recherches à l’inférence de modèles de vision par ordinateur sur des appareils basse consommation.
Dans ce cadre, elle a développé un runtime d’exécution distribuée d'algorithmes de machine learning et d’intelligence artificielle en se concentrant sur la prise en charge des DPU Xilinx, une entreprise rachetée par AMD, et les puces M1 Apple, base ARM.
Ce runtime s’accompagne d’une suite d’outils pour la compilation et l’exécution de modèles. SHARK Turbine est un compilateur/runtime qui s’interface avec Pytorch Dynamo, un autre compilateur « just in time » censé accélérer les programmes développés avec PyTorch.
Elle mène également le projet Torch MLIR, un compilateur pensé pour rendre PyTorch agnostique du hardware sous-jacent à l’aide du framework de compilation MLIR (Multi-Level Intermediate Representation).
Ce framework doit, comme TensorFlow, pouvoir représenter des graphes de flux de données (Data graph flows), réaliser des optimisations et des transformations pour ces flux de données, de prendre en charge des boucles de calcul « complexes », de diminuer la quantité de code nécessaire, de mieux gérer le cache et la mémoire ou même d’améliorer la quantisation (la compression) des modèles.
En 2022, elle a publié SHARK, une version open source sous licence Apache 2.0 de sa plateforme de distribution de modèle compatible avec les processeurs Apple M1, les puces graphiques Nvidia et AMD.
Celle-ci prend en charge différents modèles NLP et NLG établis sur PyTorch, TensorFlow et Jax, dont Bert, GPT-2, Bloom, Resnet50 ou encore Stable Diffusion.
SHARK s’appuie sur une mouture modifiée du projet OpenXLA IREE ( Intermediate Representation Execution Environment), un runtime dérivé de MLIR conçu pour dialoguer - entre autres - avec l’API graphique AMD Vulkan.
Un rachat pour mieux exécuter les charges de travail ML (et recruter plus rapidement)
C’est justement ce dont a besoin AMD. L’ensemble du secteur se concentre sur la prise en charge des modèles d’IA générative. Or, le concepteur de semiconducteurs ne dispose pas présentement d’un fort soutien de la part de l’écosystème logiciel.
Dans le domaine du NLP et du NLG, Nvidia a lui-même développé un ensemble de librairies open source, tandis qu’un lot de projets dont les frameworks TensorFlow et Pytorch s’appuient largement (voire exclusivement) sur la suite d’outils CUDA et le kernel Linux modifié par Nvidia.
Alors qu’AMD développe les architectures XDNA, RDNA3, CDNA2 et Zen 4, le concepteur sait qu’il doit offrir le support de technologies open source qui permettront d’accueillir davantage de charges de travail sur ces processeurs et puces. Par exemple, il prévoit le lancement et la commercialisation des accélérateurs pour data center Instinct MI300A et MI300X au quatrième trimestre 2023.
Le concepteur n’a pas attendu le rachat de Nod.ai pour se lancer dans cette stratégie. Il propose les librairies ROCm (RadeonOpenCompute) pour les charges de calcul GPU (notamment pour prendre en charge TensorFlow sur les cartes Radeon), Vivado pour les charges de calcul FPGA, Vitis pour l’embarqué et ZenDNN, un projet consacré à l’inférence de réseaux de neurones sur les CPU AMD.
Cela ne semble pas suffire.
« L'acquisition de Nod.ai devrait considérablement améliorer notre capacité à fournir aux clients de l'IA des logiciels ouverts qui leur permettent de déployer aisément des modèles d'IA très performants adaptés aux équipements AMD », assure Vamsi Boppana, vice-président senior, Artificial Intelligence Group chez AMD, dans un communiqué de presse.
« L'arrivée de l'équipe talentueuse de Nod.ai accélère nos capacités à faire progresser la technologie des compilateurs open source et à offrir des solutions d'IA portables et très performantes dans l'ensemble du portefeuille de produits AMD ».
Selon les propos recueillis par Reuters, les deux rachats successifs de Mipsology et de Nod.ai servent à recruter plus facilement des ingénieurs. Le groupe « prévoit de réaliser 300 embauches supplémentaires cette année et davantage en 2024 », toujours d'après l’agence.
Une tentative pour revenir au niveau du mastodonte Nvidia
L’ingénierie et la prise en charge de l’IA sont clés pour l’entreprise afin de revenir dans la course face à son concurrent historique Nvidia. AMD a fait état d’une perte de vitesse sur les marchés. Au 1er août 2023, le groupe a déclaré un déclin de 18 % de ses revenus entre le deuxième trimestre fiscal 2023 et la même période en 2022.
Ses revenus sur le segment data center ont chuté de 11 %, tandis que ceux du segment client sont passés de 2,1 milliards de dollars à 998 millions, soit une baisse de 56 %. Les segments embarqué et gaming, dont les revenus sont en hausse respectivement de 16 % et de 20 % sur la même période, n’ont pas permis de redresser la barre. In fine, AMD revendique un chiffre d’affaires de 5,4 milliards de dollars au Q2 2023, contre 6,6 milliards à la même période l’année précédente.
Sur la même période, Nvidia a réalisé un chiffre d’affaires de 13,5 milliards de dollars, en hausse de 101 % par rapport à l’année précédente. Clairement, le concurrent d’AMD est porté par son segment Data center, qui lui a rapporté 10,32 milliards de dollars.
