BNP Paribas investit dans le potentiel de la GenAI

La GenAI, « un sujet de travail majeur »

À ce jour, le groupe bancaire se situe en phase d’expérimentation. Certes, des cas d’usage génératifs sont en production, « mais cela reste mineur par rapport au reste des IA » en service, indiquait son Chief Data Officer Hugues Even lors de l’évènement AI for Finance 2024.

BNP Paribas dispose d’un riche catalogue de cas d’usage de l’intelligence artificielle en production au sein de ses entités. Le 30 juin 2024, il en comptabilisait 780. L’ambition est d’atteindre les 1000 en 2025.

« Il va falloir orchestrer une suite de modèles spécialisés sur des tâches. Et ça, c’est beaucoup de travail. »

Une partie de ces cas exploitera le génératif, qui constitue « un sujet de travail majeur », déclare le CDO. Mais son déploiement hors des environnements de lab s’accompagnerait d’une forte complexité. Des fondamentaux sont en outre requis, comme la qualité des données.

Sur l’IA générative, BNP Paribas défend donc une stratégie axée sur l’expérimentation, le développement d’une expertise interne, la priorisation des usages et la sélection des modèles.

« Nous continuons à construire notre courbe d’apprentissage pour bien utiliser ces algorithmes en production », confie Hugues Even. « Un LLM est un spectre de connaissances et de compétences très large qu’on va devoir restreindre et approfondir sur certains domaines, mais qu’il est nécessaire aussi de contrôler », poursuit le Chief Data Officer.

La complexité réside aussi dans l’adéquation entre modèles et usages. Le grand modèle qui répond à tout ne serait donc pas un scénario envisageable. Résultat, « il va falloir orchestrer une suite de modèles spécialisés sur des tâches. Et ça, c’est beaucoup de travail. »

Se doter de la capacité à maîtriser et à contrôler ces modèles

Ingénierie, adaptation des projets, capacité à maîtriser et à contrôler les modèles, gouvernance (tant de la qualité des données que de la performance des modèles), scalabilité de l’environnement IT, mais aussi formation des utilisateurs. Autant de chantiers, listés par le CDO, qu’il faut mener pour l’adoption de la GenAI.

L’IA générative « requiert beaucoup d’investissement et d’ingénierie pour passer à l’échelle et franchir des caps », insiste Hugues Even tout en reconnaissant que la technologie « libère un potentiel important de création de valeur. »

Sur l’IA générative, BNP Paribas entend donc rationaliser, industrialiser, lutter efficacement contre les hallucinations inhérentes à ces outils. Mais également en maîtriser l’impact environnemental.

Ces externalités négatives de l’IA seraient directement prises en compte dans le choix des modèles. « La consommation de ressources fait partie des études de base que nous menons en Data Science ».

Le groupe bancaire prévoit donc de se concentrer sur des domaines prioritaires. L’un d’entre eux est l’interaction client. Les premiers projets ont été mis en œuvre dans ce secteur, par exemple dans le traitement des emails. « Nous utilisons des modèles de langage pour comprendre les intentions du client, pour être capables de les catégoriser » et de définir des niveaux de priorité, indique Hugues Even. Cet usage complète les modèles de classification utilisés pour router les messages vers les bons interlocuteurs en interne.

Les LLM interviennent aussi pour suggérer des réponses.

Les interactions client (voix et mails) domaine prioritaire

Réunions et rendez-vous composent le quotidien d’un banquier. L’IA générative intervient aussi chez BNP Paribas pour synthétiser des échanges et collecter « les éléments de connaissance du client » afin d’alimenter les systèmes de gestion.

L’IA intervient aussi à la suite des appels pour proposer des actions clés à entreprendre, mais également dans la préparation de rendez-vous grâce, par exemple, à une synthèse des échanges des précédents appels.

Pour Hugues Even, la GenAI présente aussi un intérêt dans l’analyse de la « voix du client », c’est-à-dire la compréhension des motifs de satisfaction ou d’insatisfaction. Études et enquêtes permettent déjà de collecter des informations. L’ambition avec l’IA est de systématiser l’analyse de la qualité de cette relation pour en tirer des actions et d’améliorer la qualité globale du service.

« Lorsque vous avez de l’IA dans votre système, vous pouvez automatiquement, systématiquement, et plus précisément, comprendre la qualité du dialogue entre vos équipes et votre client, comprendre dans quelle mesure vous saisissez les intentions », résume-t-il.

Le traitement de la voix peut en outre être exploité pour contrôler le respect d’obligations réglementaires, comme l’information fournie aux clients sur les risques associés aux produits financiers souscrits.

Un assistant conversationnel en beta-testing chez Hello bank

BNP Paribas explore aussi le potentiel de l’IA pour des processus critiques comme le montage d’un dossier de crédit immobilier ou l’onboarding client. Ces opérations font intervenir de très nombreux documents et justificatifs, dont il faut extraire des informations, et les contrôler. Différentes formes d’IA - LLM et computer vision – permettent d’accélérer ces processus.

Le CDO cite enfin « l’assistance conversationnelle ». La promesse du génératif est, ici, de relancer l’expérience fournie par des chatbots, souvent jugée décevante par le passé. Le conversationnel constitue même selon lui « l’endroit idéal pour l’IA générative et les grands modèles de langage ».

Pour autant, l’IA générative ne fonctionne pas encore en plug & play et « un certain nombre d’adaptations » sont requises. L’approche RAG constitue une réponse, comme l’intégration d’agents spécifiques conçus pour prendre en charge des tâches précises.

Mais le conversationnel nécessite « qu’on puisse parfois fine-tuner un peu les modèles, avec ce qu’on appelle le low-range adaptation, des techniques qui permettent de mieux maîtriser le comportement du modèle et d’obtenir un message précis. »

« Nous travaillons beaucoup avec des partenaires [avec Mistral et Giskar, N.D.L.R.] pour mettre en place ce type de projet », déclare Hugues Even, qui ajoute que le groupe dispose « déjà d’une solution ». Un chatbot est actuellement en phase de beta-testing au sein de Hello bank.

BNP Paribas mène en parallèle d’autres développements sur des assistants conversationnels à base de LLM.

Pas d’adoption réussie sans mesure de l’impact de l’IA

Afin de prioriser ses cas d’usage en IA, et d’en mesurer l’impact, le groupe bancaire s’appuie sur trois métriques principales, listées par Su Yang, directeur IA et innovation IT : les gains financiers directs (économies de coûts notamment), les gains perçus (satisfaction utilisateur via le NPS) et l’usage.

« L’adoption n’est pas le dernier kilomètre, c’est la moitié des kilomètres que vous devez parcourir pour être sûr que votre solution produit de la valeur. »

« Il est très important d’impliquer tout le monde dans le suivi de l’impact de l’IA, car c’est la seule façon de mesurer correctement et en toute sécurité l’impact réel de l’IA sur votre entreprise », justifie l’expert et ex-responsable Data de la DGFiP.

La mesure de la valeur réelle de la GenAI se révèle souvent complexe. Pour y parvenir, la banque entend capitaliser sur l’expérience acquise dans le suivi de l’impact de l’IA classique. « Nous avons acquis les bases nécessaires sur l’IA classique qui nous permettent de passer à la mesure de l’IA générative », juge Su Yang.

BNP Paribas estime cependant que, d’ores et déjà, l’IA générative appliquée au développement informatique présente des bénéfices significatifs. « Nous croyons qu’elle contribuera à améliorer l’efficacité opérationnelle de nos développeurs en les aidant à livrer des logiciels plus rapidement, et de qualité. »

Plus globalement, Su Yang estime « impossible de parler d’impact sans parler d’investissement ». Le directeur IA revendique une approche qu’il résume ainsi : « vous devez être ambitieux et vous devez être conscient de l’investissement que vous faites. »

Ambition et investissement doivent en outre englober la formation des collaborateurs et l’amélioration de leurs compétences. Cet upskilling joue un rôle central, qui constitue « l’une des priorités » pour le cadre de la banque. « Car l’adoption n’est pas le dernier kilomètre, c’est la moitié des kilomètres que vous devez parcourir pour vous assurer que votre solution a été utilisée et qu’elle a produit de la valeur », prévient-il.