Projets IA : comment éviter de tomber dans des gouffres financiers (Gartner)

L’IA générative au-delà de son pic de Hype Cycle, mais un gouffre financier

Alicia Mullery, vice-présidente de la recherche chez Gartner, a évoqué deux grandes courses autour de l’IA : l’une concerne les progrès technologiques des fournisseurs, et l’autre vise à obtenir des résultats avec l’IA de manière sûre et sécurisée.

« Cette course, c’est la vôtre », a-t-elle lancé aux cadres informatiques présents.

Un des enseignements majeurs de cette session est la facilité avec laquelle l’IA générative peut engloutir des fonds. « Vous devez comprendre la facture et la surveiller en permanence », ont prévenu Alicia Mullery et Daryl Plummer, analyste en chef chez Gartner.

Deux approches pour minimiser les risques d’échec

Daryl Plummer souligne également que la plupart des organisations contactées par Gartner ne sont pas prêtes pour l’IA. « Elles ne sont pas prêtes émotionnellement, technologiquement, organisationnellement ou en matière de gestion », liste-t-il.

Pour minimiser les risques d’échec, Gartner recommande deux approches : l’une pour les entreprises qui visent à améliorer la productivité avec l’IA, l’autre pour celles qui cherchent une transformation plus radicale grâce à cette technologie.

Les coûts des PoC en IA

Les données de Gartner montrent qu’un projet pilote (PoC) peut coûter entre 300 000 $ et plus de 2 millions $.

Si les responsables IT ont bien en tête les coûts associés à la formation des modèles d’IA sur des unités de traitement graphique (GPU), Daryl Plummer avertit qu’il faut également prendre en compte les coûts liés à l’inférence de l’IA – des coûts qui peuvent rapidement exploser.

« Ces traitements sont très coûteux, car les modèles d’IA utilisent la multiplication matricielle pour traiter les paramètres nécessaires à une prédiction. Cela nécessite des GPU. Que vous les achetiez pour votre propre centre de données ou que vous les louiez à un fournisseur de cloud, dans les deux cas, c’est très coûteux », prévient-il.

Des acteurs de l’IA trop centrés sur leurs avancées

Daryl Plummer met par ailleurs en garde contre des fournisseurs de technologie qui se focaliseraient sur leurs propres avancées en matière d’IA, sans forcément accompagner les clients à atteindre les objectifs concrets fixés pour ces systèmes « avancés ».

« Microsoft, Google, Amazon, Oracle, Meta et OpenAI commettent une erreur majeure : ils nous montrent ce que nous pouvons faire [mais] pas ce que nous devrions faire », résume-t-il.

Conséquence, comme de nombreuses organisations ne sont pas prêtes pour les technologies très (trop ?) évoluées d’IA proposées par les fournisseurs, Daryl Plummer observe que 75 % des budgets de ces organisations sont alloués à des services de conseil IT. Le but est de comprendre comment l’IA peut réellement bénéficier à leur structure.

Définir des résultats clairs pour l’IA

« Pour arriver à l’étape du PoC, il faut plus de budget », ajoute-t-il. Les coûts continuent d’augmenter à chaque étape, jusqu’à la mise en production des systèmes d’IA.

Les analystes de Gartner insistent donc. Pour tirer un ROI de l’IA, il est très important de définir en amont le type de résultats attendus.

Les entreprises qui utilisent l’IA pour améliorer leur efficacité – des « organisations IA-stables », dixit Gartner – pilotent généralement une dizaine de PoC. Les organisations qui voient l’IA générative comme une technologie de transformation mènent généralement beaucoup plus de projets pilotes (organisations IA-accélérées », selon Gartner).

Pour assurer la conformité de ces systèmes IA plus complexes, le cabinet estime que ce type de sociétés devront s’appuyer sur des outils de gestion de la confiance, des risques et de la sécurité (TRiSM pour trust, risk and security management).