Pour l’instant, Slack AI est un service de génération de résumés de conversations propulsé par une architecture d’IA générative. Slack et Salesforce espèrent se servir de cette architecture sous-jacente pour rapprocher les données contenues dans le CRM et la plateforme de collaboration.
Il y a un peu plus d’un mois, Slack annonçait la disponibilité générale de Slack AI. Jusqu’à récemment, ce service s’appelait Slack GPT, mais Salesforce, propriétaire de la plateforme de collaboration, a changé la dénomination de l’ensemble de ses produits infusés à l’IA générative.
Slack AI est, pour l’heure, un service consacré à la recherche et à la récapitulation d’informations disséminées dans les canaux, les messages directs et les fils de discussion. Il y a matière : Slack gère 4,7 milliards de messages par semaine. Ce module supplémentaire payant est accessible en anglais pour tous les membres d’une organisation utilisant le forfait Enterprise Grid et sera disponible plus tard pour les clients des services Pro et Business+.
Selon Slack, ces récapitulatifs permettent de gagner du temps (environ 1 h 30 par jour, selon une enquête interne) dans l’accomplissement de tâches et de suivi de projets. Se renseigner sur les événements lors de ses absences, suivre les dernières décisions prises dans la conduite d’un projet, résumer les événements d’un incident IT, etc. Voilà quelques possibilités mises en avant par la filiale de Salesforce.
« Je suis souvent d’astreinte. Quand je reçois une notification émise par PagerDuty, je me rends sur Slack et je constate qu’il y a déjà eu plusieurs échanges pour identifier un problème et le résoudre », illustre Peter Secor, SVP Engineering chez Slack, lors d’un entretien mené dans le cadre de Salesforce World Tour Paris 2024. « Les petits résumés du canal associé sont très utiles dans cette situation », vante-t-il.
Pour les organisations ayant activé Slack AI, la barre de recherche doit permettre d’obtenir des réponses plus précises aux requêtes en s’appuyant sur les fonctions de résumés.
Déjà accessible en pilote pour les clients de Slack et les usagers internes de l’éditeur, un canal « Digest » permettra prochainement de produire des résumés d’informations clés à partir de différents canaux présélectionnés.
Sous le capot de Slack AI
Slack avait déjà présenté trois de ces fonctionnalités au MagIT sans donner d’aperçu de l’architecture sous-jacente. « Pour produire ces résumés, nous avons quelques contraintes à prendre en compte. D’abord, nous exploitons une architecture RAG (Retrieval Augmented Generation) afin d’obtenir des résultats les plus précis possibles », explique Peter Secor.
« Nous exploitons une architecture RAG (Retrieval Augmented Generation) afin d’obtenir des résultats les plus précis possibles ».
Peter SecorSVP Engineering, Slack
Pour des raisons de sécurité et de sûreté, Slack héberge de grands modèles de langage « tiers » dans son périmètre cloud (AWS), derrière un VPS. Si pour l’heure, « il n’est pas possible de limiter les résultats à des données issues d’espaces de travail spécifiques », les LLM exploités par Slack ne peuvent générer leurs résultats qu’à partir de ces données. L’éditeur assure que les données de ses clients ne sont pas utilisées pour entraîner les modèles et les règles de gestion des rôles et des accès de la plateforme sont respectées. « En clair, les réponses et les résumés générés par Slack AI ne sont accessibles que par les utilisateurs à l’origine des requêtes. Il n’est pas possible d’accéder aux messages privés d’un autre utilisateur », indique Peter Secor.
Slack exploite déjà diverses technologies de machine learning pour ses fonctions de suggestions et de recommandations. En ce sens, son équipe ML entraîne, déploie et teste différents algorithmes, dont plusieurs modèles d’embeddings, de représentations vectorielles des contenus ou des collaborateurs à ajouter à un projet.
Le sujet de la recherche d’information n’est pas non plus nouveau pour l’éditeur. En 2017, des ingénieurs de Slack évoquaient l’usage du moteur Solr pour propulser la recherche dans l’application et le développement de « rerankers », des systèmes permettant d’afficher les résultats les plus pertinents. Cette même technologie est utilisée pour recherche de documents envoyés entre des organisations externes dans les canaux partagés (Slack Connect). Plus récemment, des ingénieurs de l’entreprise ont relaté l’usage en interne d’OpenSearch pour motoriser la recherche de documents, de données et de tableaux de bord analytiques.
« Nous avons le sentiment d’avoir déployé un bon système de recherche sémantique dans Slack. Certains résultats de recherche sont vectorisés, d’autres non. Mais cela permet d’obtenir un bon niveau de contexte au moment d’interroger un LLM », assure Peter Secor. De ce côté-là, le Senior Vice-Président de l’ingénierie chez Slack pense qu’il y a des optimisations possibles pour améliorer les sorties des LLMs, sachant que Slack AI n’est disponible que depuis le 14 février. « Nous avons tout de même un degré de confiance élevé dans les réponses et les résumés de Slack AI », ajoute-t-il.
Le responsable cite notamment le fait que les sources ayant servi à produire les résumés des conversations sont explicitement citées, et l’outil donne la possibilité de les consulter.
Slack voué à devenir un « portail d’accès à toutes les données Salesforce »
Des optimisations seront toutefois nécessaires quand Slack AI ne traitera plus seulement les données contenues dans Slack. « Pour propulser Slack AI, nous nous appuyons sur les données non structurées et semi-structurées des entreprises dans les messages et les notifications, mais à l’avenir, nous prendrons en charge des données structurées en provenance de l’écosystème Salesforce, dont Sales Cloud, Marketing Cloud et l’architecture/produit Data Cloud », renseigne Peter Secor. « Nous souhaitons que Slack devienne le portail ou la fenêtre d’accès à toutes les données de Salesforce ».
« Nous souhaitons que Slack devienne le portail ou la fenêtre d’accès à toutes les données de Salesforce ».
Peter SecorSVP Engineering, Slack
Cette interaction entre Slack et le CRM se jouera dans un premier temps par l’intégration d’Einstein Copilot dans l’outil de communication. Dans ce cas-là, ce sont les LLM déployés par les équipes de Salesforce qui seront appelés.
Il n’est pas exclu que l’architecture d’IA générative de Slack soit mise au service des acteurs tiers pour traiter des données stockées dans la plateforme, mais qui ne proviennent pas de l’écosystème Salesforce élargi, selon Peter Secor. Pour l’heure, plus de 13 400 applications « customs » bâties sur la plateforme Slack exploitent des technologies d’IA. Certaines, dont PagerDuty Copilot, Notion et bientôt Perplexity font appel à de grands modèles de langage.
Slack n’est pas le seul à infuser l’IA générative dans ses outils collaboratifs. Avec Copilot dans Teams (via un abonnement Copilot pour Microsoft 365), Microsoft propose des fonctionnalités de résumés similaires en anglais, espagnol, japonais, français, allemand, portugais, italien et en chinois simplifié. Le géant du cloud a également intégré une fonction de résumés des réunions préalablement enregistrées ou transcrites depuis Teams. En préversion depuis Teams, Microsoft Copilot peut s’intégrer à une petite vingtaine d’applications, dont Viva, Copilot for Sales, mais aussi les outils de l’écosystème Jira, à savoir Trello, Jira Cloud et Confluence Cloud.
Pour approfondir sur Outils collaboratifs (messagerie, visio, communication unifiée)
