Getty Images/iStockphoto

Actualites

IA générative : Orange Business sort une offre clef en main

Orange Business sort une IA générative, personnalisable et clef en main, sur son infrastructure « souveraine » Cloud Avenue, en partenariat avec l’éditeur français LightOn. Bien dans l’air du temps, elle vise à rendre les architectures RAG accessibles.

Philippe Ducellier
par
Publié le: 19 mars 2024

Lors de son évènement client, ce 19 mars au Palais des Congrès, Orange Business a lancé officiellement une offre SaaS, clef en main, d’Intelligence artificielle générative, « souveraine et sécurisée ».

Concrètement, Orange héberge un grand modèle de langage – un LLM de l’éditeur français LightOn. L’entreprise utilisatrice peut uploader sa base documentaire (PDF, Word, etc.). L’outil SaaS convertit ces fichiers (embeddings dans une architecture RAG). Et les employés de l’entreprise peuvent faire des demandes – des prompts – sur ces informations, au travers d’une interface qui ressemble à celle bien connue de ChatGPT.

L’UI de la GenAI d’Orange Business
L’UI de la GenAI d’Orange Business, motorisée par un LLM de LightOn

Les données des entreprises sont stockées physiquement dans Cloud Avenue (le IaaS d’Orange), dans un data center à Chartres. Elles ne sont pas partagées à l’extérieur ni mises en commun. Elles sont en revanche « redondées » – comme dans tout bon cloud.

Via des APIs, le LLM peut également aller chercher des informations dans des applications métiers tierces (comme un outil de gestion de compétences).

Schéma de l’architecture de l’outil d’IA générative d’Orange Business
Schéma de l’architecture de l’outil d’IA générative d’Orange Business

Les grands types de cas d’usage illustrés par Orange Business sont ceux actuellement explorés par à peu près tous les acteurs comme le résumé (par exemple de la charte éthique d’une entreprise), la synthèse (d’une fiche de poste) ou la création d’ébauches de document (rédaction d’une préannonce d’emploi).

À chaque réponse, l’interface (UI) précise les documents dans lesquels elle a puisé ses réponses avec, dans ces documents, les passages pertinents surlignés et mis en exergue.

Un accompagnement et des itérations possibles

Même si la solution est « prête à l’emploi » et intuitive, Orange Business propose plusieurs accompagnements. En amont, pour trouver les bons cas d’usage – avec « des ateliers d’acculturation et d’idéation » entreprise par entreprise. Et en aval, avec des formations pour les employés, notamment pour le prompt engineering.

Le modèle déployé est Alfred v2, avec 40 milliards de paramètres, précise Didier Gaultier, Head of AI at Orange Business Digital Services France. Mais la filiale d’Orange ne s’interdit pas d’utiliser d’autres LLM de LightOn.

Dans le cas général, Alfred n’est pas réentraîné. Mais cette option reste possible dans le cas d’une entreprise qui évolue dans un secteur aux vocabulaires très spécifiques (avec « une ontologie très particulière », dixit Didier Gaultier).

L’UI permet en revanche – tout comme celle de ChatGPT – de faire des remarques sur les réponses de l’IA générative, pouce haut ou bas, et dans ce second cas d’ajouter des commentaires.

Ces retours sont remontés à Orange Business qui, de son côté, décidera de fine tuner le modèle (ou pas) sur ses propres instances, LightOn (ou tout autre tiers) ne rentrant pas dans la boucle.

Vers une IA générative plus consommable

Cette offre s’inscrit bien dans l’air du temps : du RAG d’une part, et d’autre part des couches d’abstraction pour rendre ces outils accessibles – « consommables », diront certains – par le plus grand nombre. Orange Business cible d’ailleurs aussi bien les PME que les grands groupes.

Photo de Aliette Mousnier-Lompré et Igor Carron sur scèneAliette Mousnier-Lompré, CEO d’Orange Business,
et Igor Carron, Président et co-fondateur de LightOn,
annoncent leur partenariat sur la scène du Palais des Congrès.

OVHcloud, qui se positionne de plus en plus sur le PaaS et l’IA, a par exemple lui aussi promis une offre similaire pour déployer un bot motorisé par l’IA générative en quatre clics (choix du LLM, upload des données, paramétrage, et déploiement).

En choisissant LightOn, Orange Business joue également la carte d’une des technologies françaises les plus prometteuses dans ce domaine (avec le très médiatique Mistral AI) dans une optique résolument « locale » ou « souveraine », indépendante d’OpenAI et des hyperscalers, pour rassurer les entreprises sur la confidentialité de leurs données critiques.

« En nous associant à […] LightOn, nous renforçons notre engagement en matière de souveraineté des données », confirme Aliette Mousnier-Lompré, CEO d’Orange Business, qui insiste sur son « positionnement d’acteur de confiance dans l’intelligence artificielle ».

Pour approfondir sur Intelligence Artificielle et Data Science