Einstein GPT : Salesforce entre dans la danse de l’IA générative

Einstein GPT, une gamme de services NLG

Einstein GPT for Service vise à générer des FAQ en s’appuyant sur les données historiques du service client. Les réponses produites peuvent être utilisées comme base par les responsables du support en ligne dans le cadre de leur conversation en ligne. Einstein GPT For Sales doit automatiser « la rédaction d’emails, la planification des rendez-vous clients et des “Next best Action” », les prochaines actions à prendre en bon français. Les usagers peuvent aussi générer des résumés de leur rendez-vous avec les clients.

Einstein GPT for Marketing vise à créer des contenus personnalisés suivant les canaux de diffusion et les clients ciblés.

Einstein GPT for Slack Customer 360 apps est une collection d’application permettant d’obtenir des résumés d’opportunités ou d’obtenir directement dans Slack des mentions de la base de connaissances constituée par le département vente d’une entreprise.

De leur côté, OpenAI et Slack ont annoncé la bêta de l’application ChatGPT for Slack, une proposition effectuée directement par OpenAI, un fervent utilisateur de la plateforme collaborative. « Beaucoup d’entreprises tentent de collaborer avec OpenAI. Nous, ils nous ont contactés en se présentant comme de gros utilisateurs de notre plateforme », se réjouit Noah Desai Weiss, Chief Product Officer chez Slack auprès du MagIT. « Ils nous ont montré une démonstration qui s’avérait être l’application ChatGPT intégrée dans Slack. Nous avons collaboré afin de peaufiner une première version que nous proposons en bêta ».

Ainsi, ChatGPT for Slack permet « de réaliser des résumés des conversations qui se déroulent dans les canaux et les fils de discussion ». L’application « trouve également des réponses à propos d’un projet ou d’un sujet se basant sur le corpus Slack, le tout alimenté par la recherche Slack ». Et le troisième cas d’usage consiste « à rédiger en quelques secondes des messages qui auraient pu prendre des heures auparavant ».

Enfin, Einstein for Developers doit aider à générer du code Apex – et en apprendre plus sur celui-ci –, le langage de programmation orienté objet spécifique à la plateforme de développement Salesforce.

Un pont entre le « buzz » et des investissements de longue date

Comme souvent, chez Salesforce, il y a d’abord l’intention de surfer sur une vague de buzz, même si les porte-parole de l’entreprise n’en démordent pas. Non, l’annonce d’Einstein GPT n’a pas été précipitée pour tenter de raccrocher à l’actualité d’OpenAI.

« Ce que nous constatons chez nos clients, c’est un véritable intérêt, non pas pour l’IA générative perçue comme une tendance, mais pour l’obtention de résultats commerciaux », déclare Clara Shih, directrice générale, Service Cloud chez Salesforce. « Et je pense que c’est la raison pour laquelle ils s’adressent à nous, parce que nous disposons de leurs données où leurs employés se connectent chaque jour pour effectuer des flux de travail de vente, de service, de marketing, de commerce, de technologie de l’information, etc. Nous répondons donc à la demande du marché et nos clients sont très enthousiastes et demandeurs ».

Salesforce aurait tort de ne pas s’y pencher de plus près. Hubspot, Pegasystems, et évidemment Microsoft ont annoncé qu’ils intégreraient les capacités des modèles de langages (LLM) dans leurs solutions.

Ce n’est pas une nouvelle pratique chez l’éditeur, mais elle n’est pas forcément porteuse de résultats. Qui se souvient d’Einstein Voice Assistant, présenté en grande pompe comme le prochain Alexa du commercial, puis discrètement passé au silence ?

« Les clients pourront apporter leurs propres modèles d’IA générative ou choisir l’une de nos options prêtes à l’emploi auprès de partenaires approuvés. »

Il y a toutefois une différence notable concernant Einstein GPT. Salesforce s’est rapproché d’OpenAI pour assister ces algorithmes et espère convaincre d’autres partenaires de compléter l’offre. Ainsi, les porte-parole de Salesforce précisent que plusieurs modèles de machine learning et de deep learning, dont GPT 3.5 seront convoqués pour propulser les services sous-jacents.

« Les clients pourront apporter leurs propres modèles d’IA générative ou choisir l’une de nos options prêtes à l’emploi auprès de partenaires approuvés », affirme Clara Shih.

Aussi, Salesforce investit dans la recherche. Le département Salesforce Research, à l’instar de ceux de Google, Meta et Microsoft, travaille sur plusieurs projets. Le développement développe son propre langage de génération de code : CodeGen. Les chercheurs semblent en premier lieu spécialisés dans le traitement des données time series et des prédictions que l’on peut en tirer, mais certains chercheurs ont développé Warpdrive, un accélérateur d’entraînement par renforcement sur GPU et CodeT5, un encodeur-décodeur préentraîné pour générer et comprendre du code écrit dans huit langages de programmation différents (Python, Java, JavaScript, PHP, Ruby, Go, C, et C#).

La branche investissement du géant du CRM est également de la partie. Salesforce Ventures a annoncé l’ouverture d’un fonds de 250 millions de dollars pour financer des startups œuvrant dans le domaine de l’IA générative. Le montant est bien loin de la somme prétendument mise sur la table par Microsoft pour soutenir OpenAI : 10 milliards de dollars.

Transparence, explicabilité et citation des sources

Toutefois, bien conscient que le lancement de Bard et que l’intégration de GPT 3.5 dans Bing n’a pas été sans heurts, Salesforce prend des gants et des pincettes.

« Nous pensons que la valeur que l’IA générative peut apporter aux entreprises est énorme. Mais comme toute nouvelle technologie, l’IA générative n’est pas sans risque, une approche de confiance ancrée dans les résultats commerciaux et dans la conception éthique est nécessaire », déclare Clara Shih.

Et à Jayesh Govindarajan, SVP Data Science chez Salesforce de rappeler que les clients bénéficieront d’une solution avec un « humain dans la boucle ». « Nous permettons aux clients d’apporter des données dans notre Data Cloud et, grâce à cela, d’effectuer un réglage à la fin de leur requête et de l’entraînement du modèle », indique-t-il. « Nous allons commencer par l’ingénierie d’invite (prompt engineering en VO) et être en mesure de tirer parti des données des clients dans leur organisation pour répondre à leurs cas d’usage ».

Concrètement, il s’agit de bâtir avec les partenaires des couches par-dessus les modèles cœur – GPT 3.5 et CodeGen par exemple – pour superviser l’apprentissage des modèles sur les données des clients. En clair, les clients d’Einstein GPT profiteront sur étagère des modèles fine-tunés dans quelques segments du CRM et pourront affiner les entraînements en s’appuyant sur leurs propres données. Un aspect qui ne serait pas évident pour tous les clients de Salesforce.

« Salesforce doit être prudent, car les entreprises clientes sont généralement très sensibles aux données de leurs clients ».

Pour sa part, Slack prend également en compte l’explicabilité et les notions éthiques. « Vous devez pouvoir citer vos sources », illustre Noah Desai Weiss. « L’application répondra donc à la question en se basant sur les données disponibles. Elle le fera en citant les messages présents dans les fils de discussion et dans les archives. Vous pourrez cliquer sur tous les messages spécifiques auxquels ChatGPT for Slack fait référence », promet-il. Par ailleurs, Salesforce assure que les données extraites de Slack ne seront pas utilisées pour entraîner le modèle sous-jacent de ChatGPT (une variante d’InstructGPT, pour rappel).

 « Salesforce doit être prudent, car les entreprises clientes sont généralement très sensibles aux données de leurs clients », prévient Jason Wong, analyste chez Gartner. « Ils doivent être clairs sur les données qui entraînent Einstein GPT et sur la manière de les sécuriser et de les rendre conformes ».

Pour Rebecca Wettemann, analyste chez Valoir, « Salesforce a beaucoup investi dans son bureau éthique et dans la réflexion sur l’utilisation de l’IA ». « Je pense qu’ils maintiendront avec Einstein GPT une approche réfléchie », anticipe-t-elle.

Comme d’habitude, Salesforce prendra son temps

Actuellement, il s’agit d’abord d’un argument pour justifier, à nouveau, le flou autour de la date de disponibilité d’Einstein GPT.

« Nous n’en sommes qu’au tout début et, compte tenu de notre approche de conception éthique, nous voulons être sûrs de tester, de valider et d’itérer avant de lancer ces produits sur le marché », avance Clara Shih. « Je dirais donc que nous sommes tous très enthousiastes. Nous avons beaucoup de projets pilotes dans tous les Cloud Salesforce et beaucoup d’entre eux sont sur liste d’attente ».

ChatGPT for Slack devrait faire l’objet de la même prudence. « Nous allons déployer l’application prudemment, parce qu’avec OpenAI nous voulons nous assurer que les clients bénéficient d’une expérience fiable, de haute qualité et digne de confiance, donc nous prendrons le temps qu’il faudra », déclare Noah Desai Weiss.

Mais OpenAI a davantage son mot à dire : c’est lui qui proposera l’application sur la place de marché Slack Connect. Le modèle tarifaire devrait similaire à celui de ChatGPT Plus, aujourd’hui facturé 20 dollars par mois par personne. « Je pense qu’à l’avenir, nous pourrions potentiellement proposer des forfaits en direction des entreprises et des particuliers. Mais ce n’est pas quelque chose sur lequel nous travaillons actuellement ou sur lequel nous sommes en train d’avancer. Nous devons d’abord nous assurer du bon lancement de la bêta », renseigne le chief product officer de Slack.

En tout cas, Noah Desai Weiss note l’intérêt pour l’annonce. « J’ai vu ce matin que l’article de blog qui annonce ChatGPT for Slack était la deuxième page la plus visitée sur le site de Salesforce.com, en dehors de la page d’accueil. L’engouement est certain ».