Orange s’appuie sur Google Cloud pour dérouler sa stratégie d’IA « à large échelle »
Orange a annoncé « renforcer son partenariat » avec Google Cloud dans le but de favoriser le déploiement de l’IA et de l’IA générative dans les 26 pays où le groupe est installé. Outre la plateforme Vertex AI et son jardin de modèles, l’opérateur compte s’appuyer sur Google Distributed Cloud, une infrastructure de cloud hybride.
« Nos clients sont les 26 directions des entités locales d’Orange », affirme Steve Jarrett, Chief AI Officer chez l’opérateur télécom Orange, lors d’un point presse à l’occasion de Google Cloud Next’24. « Mon équipe fournit non seulement un soutien à la recherche, mais aussi une grande partie de la gouvernance technologique centralisée et nous soutenons également certains des cas d’usage à plus forte valeur ajoutée ».
Pour le directeur de l’IA, l’objectif est d’instaurer « une base technologique, de processus, de formations, de conformités éthiques uniformes dans tous les pays », liée aux domaines de l’intelligence artificielle, afin que les entités du groupe « puissent innover en fonction des besoins spécifiques et des cas d’usage propres à leur pays ».
Le bras armé de la stratégie IA d’Orange tente « d’améliorer considérablement l’efficience opérationnelle ainsi que de créer un centre d’excellence capable d’évaluer [ses] besoins commerciaux et les impacts environnementaux et éthiques de [ses] projets d’IA ».
L’entité dirigée par Steve Jarrett a pour mission de déployer l’IA à l’échelle dans trois domaines : les réseaux de télécommunication Orange, l’expérience client et le quotidien des employés. Le tout « de manière responsable ».
« Pour nous, être responsable signifie que nous utilisons le bon outil pour le bon problème », affirme-t-il. « Cela implique de comprendre quand nous devrions utiliser une approche très simple, statistique, parce qu’elle est très explicable, beaucoup moins coûteuse et qu’elle a beaucoup moins d’impact sur l’environnement », poursuit-il. « À l’autre bout du spectre, il faut comprendre quand nous sommes confrontés à un problème qui ne peut être résolu que par l’IA générative ».
Plus de 25 000 employés d’Orange ont déjà accès à des outils d’IA générative
Depuis le déploiement en production il y a trois mois, plus de 25 000 employés d’Orange sont équipés de ces modèles infusés dans des applications métiers. « Et nous ajoutons plus de 1 000 employés par semaine », signale Steve Jarrett. Près de 20 % des collaborateurs ont déjà utilisé ces outils. Pour rappel, Orange compte plus de 137 000 salariés.
Cette plateforme permet de charger des données qui sont stockées dans les instances européennes de Google Cloud. « Les données ne sont pas exploitées pour entraîner les modèles. Nous pouvons choisir des interfaces conversationnelles et les associer avec une combinaison de modèles », décrit Steve Jarrett. « Le fait qu’ils soient déjà très populaires montre clairement que ces outils aident les employés au quotidien ».
L’IA générative est également partiellement déployée en France pour mettre à jour la foire aux questions du site Web d’Orange. « Nous utilisons la technologie Infobot de Google. Un bot propulsé à l’IA générative “comprend” les questions posées le plus fréquemment et met à jour automatiquement le contenu de la FAQ en fonction de la fréquence de ces questions », assure le Chief AI Officer.
Voilà pour les cas d’usage de l’IA générative en production ou en passe de l’être. Selon le directeur, « de nombreux cas d’usage d’IA générative » ne sont pas encore à ce stade d’avancement. C’est le cas d’un système de transcription en temps réel et de recommandations de la prochaine bonne action à prendre dans les centres de contact.
Des cas d’usage emblématiques
« Premièrement, il s’agit de permettre aux agents des centres de contact d’être beaucoup plus efficaces dans leur travail, beaucoup plus rapidement, car leur formation prend beaucoup de temps », affirme Steve Jarrett. « Deuxièmement, si le LLM est en mesure de recommander au client des produits et des services ainsi que des solutions d’assistance à la clientèle, le centre de contact passe d’une simple infrastructure d’assistance à une opportunité de revenus pour l’entreprise ».
Orange pourrait alors apparaître comme « une entreprise qui comprend mieux les besoins de ses clients, plus réactive et qui répond mieux à leurs attentes ».
Toutefois, l’opérateur n’a pas encore décidé à quels fournisseurs de grands modèles de langage il ferait appel pour déployer ce cas d’usage lié à ses centres de contact.
Un autre cas d’usage concerne la traduction des langues dans les pays du groupe, dont les variantes régionales du français et de l’arabe, ainsi que les langues natives des pays d’Afrique de l’Ouest, là où Orange conserve une vaste présence.
Le dernier cas d’envergure envisagé par Steve Jarrett concerne l’usage d’une IA multimodale au service des techniciens de maintenance.
« Les services sur le terrain pour le réseau mobile, pour la ligne fixe et le réseau de fibre représente des coûts importants », signale Steve Jarrett. « Les techniciens sont confrontés à des environnements extrêmement complexes lorsqu’ils tentent de résoudre des problèmes sur les sites cellulaires. L’idée est donc d’utiliser l’IA générative, et en particulier des modèles multimodaux qui peuvent prendre en charge des images, des vidéos et du texte pour l’aider à résoudre ces problèmes très compliqués ».
En dehors de l’IA générative, il s’agit d’optimiser les trajets des fourgons de maintenance et les équipements/pièces détachées qu’ils embarquent afin de réduire les allers-retours. Là, des algorithmes et des outils de simulation sont plus adaptés.
« Ces allers-retours peuvent être dus au fait que nous n’avons pas envoyé le bon technicien ou que nous n’avons pas prévu suffisamment de temps pour qu’il résolve la panne, ou qu’il n’avait pas le bon équipement dans le camion », explique Steve Jarrett. « Si nous pouvons résoudre ce problème, cela a un impact énorme sur nos coûts, sur la résilience du réseau et sur notre budget CO2 ».
Une stratégie à long terme qui passe par des déploiements hybrides et « air-gapped »
Le Chief AI Officer ne cache pas que ces problèmes importants pour Orange « ne seront pas résolus avant des années ». « Notre vision c’est de déployer l’IA à l’échelle d’ici 2030 », indique-t-il.
« Notre vision c’est de déployer l’IA à l’échelle d’ici 2030. »
Steve JarrettChief AI Officer, Orange
Si certains de ces cas d’usage peuvent être déployés dans le cloud public, du fait des régulations locales, des coûts que peuvent impliquer certains projets ou pour des raisons de sécurité, Orange entend les déployer sur site. « Les données de télémétrie réseau émise représentent plus d’un pétaoctet de données par jour. Il est clair que nous n’allons pas les envoyer vers le cloud public. Ce serait bien trop cher », illustre le dirigeant. Dans d’autres cas, les données de télémétrie et les données vocales des clients ne peuvent pas quitter le pays couvert par Orange.
Pour rappel, le partenariat signé en 2020 entre Orange et GCP portait principalement sur la création de la plateforme de données analytique à l’échelle d’Orange. Quatre ans plus tard, le groupe y stocke 13 pétaoctets de données sur le cloud public GCP et y exécute de « nombreux cas d’usage » dans dix pays différents.
Actuellement, l’opérateur serait « en train de concrétiser la démocratisation des données », toujours selon le responsable.
Plus particulièrement, Orange a rendu accessible les données autrefois silotées, a mis en place un système de policy as code pour automatiser certains traitements et transferts de contrôle de données, le tout en utilisant GitLab, DBT, BigQuery, Pub/Sub, Dataplex, Looker, mais aussi Collibra afin d’adopter une approche Data Mesh.
L’un des ressorts de cet accord pluriannuel renouvelé est la conception d’offres d’Edge Computing. D’où le pari effectué par les deux entreprises sur Google Distributed Cloud (GDC), une offre permettant de déployer des infrastructures hybrides ou totalement on premise (« air-gapped ») et basée sur les technologies de Google.
« La raison pour laquelle GDC est si attrayante pour nous, c’est que nous pouvons déployer les infrastructures, les middlewares et les logiciels de GCP dans chacun des centres de données de nos 26 pays », vante Steve Jarrett.
Cela permettrait au groupe de bénéficier d’environnements techniques uniformes, « que ce soit en matière de traitement de données ou d’intelligence artificielle ». « Nous pouvons ainsi miser sur un ensemble uniforme de compétences nécessaires pour faire fonctionner ces équipements », anticipe-t-il.
« Nous ne trouvions aucune autre solution sur le marché pour répondre à nos besoins en matière de cloud hybride, d’IA et de réglementation. Le fait que l’équipe d’ingénieurs de Google ait été disposée à écouter nos besoins, à réagir et à proposer des solutions innovantes pour chacun de ces problèmes a également motivé ce partenariat prolongé », avance-t-il.
Pour autant, cette stratégie interne n’empêchera pas les entités du groupe, dont Orange Business, de proposer des offres avec des partenaires locaux, à l’instar de la solution lancée en mars en collaboration avec la startup française LightON.
Pour approfondir sur Intelligence Artificielle et Data Science
