ServiceNow met de l’IA générative dans tous les workflows

IA générative à tous les étages de ServiceNow

La stratégie de ServiceNow qui consiste à infuser l’IA générative dans tous les workloads diffère de celle des autres éditeurs qui se concentrent sur un ou deux domaines, estime Keith Kirkpatrick, analyste chez Futurum Group.

« Si vous regardez bien, ils déploient cette technologie dans tout ce qu’ils proposent, du service client à la création d’application ».

Par exemple, Now Assist for ITSM aide les professionnels de l’IT en leur fournissant des résumés de l’historique des incidents. Un agent virtuel les aide également à apporter des réponses complètes aux problèmes et aux demandes.

Now Assist for CSM génère des résumés des cases ouverts, ce qui permet aux agents du SAV et du support de résoudre les problèmes plus rapidement, avance ServiceNow.

Now Assist for HRSD résume les sujets et le contexte d’un dossier pour les professionnels des RH. Et Now Assist for Creators propose des fonctions de text-to-code (pour convertir le langage naturel en suggestions de code).

LLMs fait maison et LLMs tiers

Les LLMs « domain specific » – au cœur de la plateforme de ServiceNow – sont le fruit de développements maisons. Ils montrent comment l’éditeur tente de tirer parti de son expertise technologique et de la puissance de ses partenariats. Par exemple, Now Assist for Search est alimenté par un grand modèle de langage (LLM) interne qui s’appuie sur le framework NeMo de Nvidia.

Ces LLMs sont dits « domain specific », car ils sont spécifiquement conçus pour les workflows de ServiceNow et qu’ils s’adressent spécifiquement aux utilisateurs de l’éditeur.

Mais celui-ci en propose également d’autres. Par exemple, pour les « usages génériques », ServiceNow s’ouvre à des services tiers comme Azure OpenAI (Microsoft) ou aux APIs d’OpenAI.

« Il est logique pour eux d’exploiter cette expertise et d’ajouter des modèles faits maison à leur plateforme », résume Keith Kirkpatrick. « Mais, bien sûr, le cas échéant, il est tout aussi logique d’incorporer d’autres modèles pour d’autres cas d’utilisation ».

L’IA générative en vaut-elle le « coût »

Pour Lara Greden d’IDC, la question se pose néanmoins de savoir si les LLMs « domain specific » seront couronnés de succès, ou pas.

« Nous en sommes aujourd’hui au tout début. Et les domaines choisis pour ces LLMs spécifiques sont ceux qui permettent de concrétiser des bénéfices le plus facilement possible », estime-t-elle. « Ce sera un tout autre défi avec la prochaine vague de cas d’usage. Nous assisterons en plus à une multiplication du nombre de LLMs et à la nécessité de les gérer de manière cohérente. »

Un autre défi déjà bien d’actualité est celui du prix. Comme d’autres, ServiceNow facture ses services d’IA générative en option, avec un surcoût.

« Il va donc falloir en démontrer la valeur réelle », conclut Keith Kirkpatrick. « La question est de savoir si les entreprises y trouveront suffisamment de valeur – en particulier lorsqu’il s’agit d’un cas d’utilisation particulier et simple (NDR : comme résumer un texte) ». Et combien elles seront prêtes à payer.