IA générative : SAP déploie Joule partout où il le peut

Joule partout (mais surtout dans le cloud)

Au début de l’année 2025 dans SAP Integrated Business Planning for Supply Chain, Joule identifiera les causes profondes d’un retard de livraison et proposera des mesures correctives à partir de scénarios What-If.

Au premier trimestre 2025 encore, Joule pourra expliquer en langage naturel des indicateurs en provenance des solutions analytiques de SAP dans Hana Cloud, mais aussi dans Datasphere et Analytics Cloud.

Évidemment, l’éditeur allemand prend le train de « l’innovation » et parle aussi « d’agents autonomes ».

Il présente deux cas d’usage « sur étagère ». Le premier est consacré à la gestion des litiges, dont « les factures incorrectes ou manquantes, les promotions non appliquées et les paiements refusés et dupliqués ».

Le second est dédié à la comptabilité, plus particulièrement à l’automatisation des paiements et le traitement de factures, les mises à jour du grand livre « tout en traitant rapidement les incohérences ou les erreurs ».

Chaque fois, SAP dit exploiter « des agents autonomes » sans en préciser la nature.

« Si vous considérez un agent comme un musicien dans un orchestre, vous avez différents agents qui jouent différents instruments, violon, alto, trombone, et puis vous avez Joule comme chef d’orchestre », vante Walter Sun, Head of AI chez SAP. « Vous pouvez donc constater que chacun de ces agents experts en IA peut effectuer des tâches qu’il connaît très bien et qu’il peut se coordonner avec d’autres agents experts pour travailler ensemble afin d’obtenir une meilleure réponse ».

La courte vidéo d’introduction implique l’intégration de ces agents dans un chatbot. Ils seraient capables de gérer des cas, de la documentation, de répondre à des prompts écrits par l’utilisateur et d’autres « prémâchés ».

Agents ou flux de travail motorisés à l’IA ?

SAP promet déjà de concevoir des agents pour couvrir l’ensemble de son portfolio : finance, achat, logistique, ventes et services. Ces agents ou fonctions pilotés en partie pilotés via un grand modèle de langage pourront interagir entre eux.

« D’ici à la fin de l’année, Joule prendra en charge 80 % des processus métier les plus répandus dans SAP », avance l’éditeur.

Les développeurs pourront concevoir leurs propres agents « collaboratifs et autonomes » depuis SAP Build à partir du premier trimestre 2025.

Pour cela, Joule Studio entrera en disponibilité générale dans SAP Build. Il intégrera un environnement « dédié aux métiers » pour concevoir et déployer des « compétences spécifiques » à la mode low-code/no-code. Il s’agit d’intégrer le copilote aux processus des entreprises.

En clair, SAP propose peu ou prou la même chose que Salesforce avec Flow et Agentforce. Il s’agit de confier à un LLM des actions qu’il peut déclencher suivant les instructions qu’il reçoit. Limiter le nombre de tâches accessibles et les prompts permet de mieux contrôler les hallucinations.

Cela veut aussi dire que SAP prendra en charge des LLM doués de capacités de « raisonnement » (ou entraînés/configurés pour effectuer des tâches dans un certain ordre), de planification et d’analyse. Dans cette catégorie, l’on peut déjà citer 01 preview d’OpenAI.

Par ailleurs, les éléments de la gamme Joule pourront être connectés avec des systèmes et des assistants tiers. SAP a présenté une démonstration où un utilisateur conçoit un template pour que Joule puisse manipuler des tickets ServiceNow à travers une API. Malgré l’aspect low-code/no-code, la configuration semble encore fastidieuse (un peu plus de quatre minutes pour ajouter deux champs : numéro de ticket et description). Un bouton « generate » suggère qu’il sera possible de créer ces flux à partir d’une instruction en langage naturel. L’éditeur le confirme : il sera possible d’automatiser des flux de travail ou de confirmer leur pertinence après « l’avis » du système d’IA générative.

Une intégration avec Copilot for Microsoft 365 permettra d’organiser des réunions virtuelles et physiques (via SAP Concur et Successfactors). Joule sera directement intégré dans Teams. Il peut déjà interroger des documents stockés dans Microsoft SharePoint. 

Des assistants pour les développeurs…et les consultants

Les métiers ne seront pas les seuls à bénéficier de l’IA générative. Pour les consultants des systèmes intégrateurs, Joule s’intégrera à un système RAG pouvant piocher dans la documentation liée à 50 certifications SAP et l’équivalent de plus de 2 téraoctets de contenus. Il sera également de charger des documents PDF.

Par ailleurs, les consultants et les développeurs demanderont à l’assistant de générer du code ABAP, Java et JavaScript, des tests unitaires et de les expliquer. SAP promet de faire gagner à ces deux rôles « jusqu’à deux heures par jour ».

Il faut dire que la documentation de l’éditeur allemand est foisonnante, souvent protéiforme, pour ne pas dire « éparpillée par petits bouts, façon puzzle » dans des PDF, dans SAP Community, Help ou le Discovery Center. L’intégration de Joule est un des efforts parmi d’autres pour rationaliser cet accès aux bonnes informations par les consultants, les métiers et les développeurs.

 Dans la même veine, l’éditeur est en train de mettre en place un wizard intégré dans S/4HANA Public Cloud pour préconfigurer les outils et les processus métiers les plus communs dans l’écosystème SAP.

Il s’agit, entre autres, d’accélérer les migrations vers S/4HANA Cloud et Hana Cloud.

Malgré toutes ces promesses, le spécialiste de l’ERP dit être en avance sur sa feuille de route.

« Aujourd’hui, avec un trimestre d’avance sur notre feuille de route, nous offrons plus de 100 fonctionnalités d’IA générative de grande valeur, prêtes à l’emploi dans l’ensemble des applications cloud de SAP », vante Philipp Herzig, Chief AI Officer chez SAP.

Parmi elle, le dirigeant liste une fonctionnalité pour générer le code d’une API et un modèle de données afin de connecter S4/HANA Cloud à des services tiers, un moyen de générer des expressions SQL dans SAP HANA Cloud, une application d’extraction d’information à partir de PDF disponibles depuis la BTP, la génération de rapports ESG dans SAP Sustainability Control Tower ou encore l’analyse et la recommandation d’actions au sujet de processus dans Signavio.

Cependant, il faut encore que le groupe modifie ou ajoute des pièces sous le capot afin de pleinement supporter les cas d’usage liés à l’IA générative.

Knowledge Graph et vectorisation dans SAP HANA Cloud

L’année dernière, SAP avait présenté son moteur vectoriel intégré dans la base de données multimodèle HANA Cloud afin de propulser des systèmes RAG. Ces vecteurs à manipuler en SQL ou en Python (via un client spécifique) et peuvent être combiné avec les autres types de données pris en charge par le SGBD en colonne et in-memory, dont les données relationnelles, les fichiers JSON ou les informations spatiales.

Dans sa documentation, l’éditeur précise qu’il peut prendre en charge des vecteurs contenant jusqu’à 65 000 dimensions (!). La plupart des gros vecteurs en compte environ 1500. Justement, avec 1 million de vecteurs de 1532 dimensions occuperaient environ 6 Go de mémoire vive, et SAP en réclame le double pour des sujets de performance et de robustesse. La technologie de stockage en colonne de l’éditeur est compatible avec les fonctions de recherche de similarité euclidienne et cosine. Comme la plupart de ses concurrents et partenaires, il exploite l’index Hierarchical Navigable Small World (HNSW), parfois remis en cause pour ses performances.

Avant la fin de l’année, SAP entend proposer son propre modèle d’embedding (l’algorithme qui génère les vecteurs) dans Hana Cloud. « Cela simplifie grandement la création de vecteurs », avance Michael Ameling, EVP et Chief Product Officer BTP chez SAP. Cela a un autre intérêt : l’éditeur peut faire apprendre au modèle d’embedding son vocabulaire. C’est aussi un moyen de ne pas dépendre d’acteurs tiers et plus spécifiquement de Salesforce, Nvidia, Google ou Alibaba dont les modèles « open weight » dominent le classement MTEB.

Enfin, au premier trimestre 2025, Hana Cloud bénéficiera de son propre moteur « Knowledge Graph ». Là encore, il pourra être intégré avec les autres moteurs de traitement du SGBD. Depuis 2016, SAP prend en charge les « primitives » graphes – nommées propriétés – permettant d’effectuer des analyses de relations entre des entités. « En comparaison, les graphes de connaissances se concentrent sur l’établissement de faits et de relations logiques entre ces faits. Ils utilisent une structure sujet-prédicat-objet (triples), où chaque fait est stocké sous la forme d’une relation », rappelle Shabana Samsudheen, Senior Product Specialist chez SAP. « Par exemple, dans le contexte d’une chaîne d’approvisionnement, un graphe de connaissances capture des faits tels que “Le produit A est fabriqué à partir de matériaux recyclés”, “Le fournisseur X suit des pratiques d’approvisionnement durables” et “Le magasin Y est situé dans une zone respectueuse de l’environnement” ».

SAP y ajoute des algorithmes de traitement spécifique et la prise en charge des instructions SPARQL, un langage de requêtes développées au sein du W3C consacré à Web sémantique. Un vrai Knowledge graph, donc.

Enfin, le fournisseur ajoute plusieurs LLM, dont Claude 3,5 Sonnet via AWS Bedrock, les modèles Granite d’IBM, Llama 3.1, Mistral Large 2 et Codestral à son Generative AI Hub.