Ignite 2024 : Microsoft remplace AI Studio par Azure AI Foundry

Azure AI Foundry, un peu plus qu’un renommage

Le renommage serait justifié. Azure AI Foundry serait prêt à répondre à ce changement avec diverses fonctionnalités.

La principale nouveauté tient dans la disponibilité en préversion du SDK Azure AI Foundry. Il fournit aux entreprises des outils pour personnaliser, tester, déployer et gérer les applications et les agents d’IA. Le SDK fournit aux développeurs 25 modèles d’applications prédéfinis, leur permettant d’intégrer Azure AI dans leurs applications en Python, C# et bientôt JavaScript.

Microsoft a également réintroduit le portail Azure AI Foundry, qui faisait partie de l’ancien Azure AI Studio. Disponible en préversion, le portail est une interface visuelle qui aide les développeurs à découvrir et à évaluer les modèles, services et outils d’IA. Le portail comprend un nouveau centre de gestion et permet aux équipes de gérer et d’optimiser les applications d’IA à grande échelle.

Azure AI Foundry propose également Azure AI Agent Service, disponible en préversion le mois prochain. Le service aidera les développeurs professionnels à orchestrer, déployer et faire évoluer des agents adaptés à l’entreprise pour automatiser les processus métier. Le service comprend des fonctionnalités telles que le stockage personnalisé et la mise en réseau privé, afin que les organisations puissent protéger leurs données.

Agent Service pourra se connecter à différentes sources en passant par Bing, SharePoint, Microsoft Fabric, ou bien Azure AI Search. Il sera possible d’utiliser plus de 1 400 connecteurs « d’actions » depuis Azure App Logic.

Pour les développeurs, le SDK Azure AI Foundry permet d’orchestrer les services Azure Machine learning, OpenAI Service, AI Search, AI Agent Service, AI Content Safety en partant de GitHub, en utilisant Visual Studio ou Copilot Studio. Le SDK est accompagné de templates de prompts, d’évaluation des modèles, d’observabilité (via Azure Monitor OpenTelemetry) et applicatifs. Il s’intègre à un « kernel sémantique » afin d’intégrer diverses applications et orchestrer les flux de travail.

« La base de Foundry est de construire toutes les applications, agents, assistants et applications intelligentes qui fonctionneront dessus », déclare Jason Wong, analyste chez Gartner.

Accompagner les entreprises

Azure AI Foundry intervient alors que certains constatent une désillusion vis-à-vis de l’IA générative.

L’enthousiasme initial suscité par les outils associés est aujourd’hui remplacé par un besoin d’aller de l’avant et de créer des choses avec cette technologie relativement nouvelle. C’est pourquoi Microsoft et ses concurrents, dont AWS et Google, tentent d’aider les entreprises qui ne savent pas comment utiliser leur technologie.

« Les entreprises tâtonnent », explique Mark Beccue, analyste chez Enterprise Strategy Group chez TechTarget, propriétaire du MagIT. « Elles ne savent pas ce dont elles ont besoin. Elles ont tendance à vouloir un endroit où elles peuvent faire l’intégration. »

Azure AI Foundry est un point de départ que les entreprises peuvent utiliser pour progresser avec la technologie d’IA générative.

À titre de comparaison, AWS a introduit en juillet, et rendu disponible au public le 18 novembre, AWS App Studio. La plateforme AWS est un service de développement d’applications basé sur l’IA générative que les utilisateurs peuvent utiliser pour créer des applications en langage naturel. Il est davantage tourné vers une logique low-code/no-code. Chez Microsoft, la même approche est incarnée par Agent Builder dans Power Apps, une des plateformes de la suite Power Platform.

Des services comme Azure AI Foundry et AWS App Studio sont des étapes fondamentales qui aideront les entreprises à construire leur parcours d’IA générative, déclare Mark Beccue.

« Je pense que l’on assiste à une évolution vers l’accompagnement », avance-t-il. « Les gens ont besoin de plus d’accompagnement. Il ne s’agit pas seulement de faire les choses soi-même. »

Agents d’IA et préoccupations

Microsoft est revenu plus en détail sur les moyens permettant aux utilisateurs de créer des agents d’IA – des assistants autonomes et semi-autonomes capables d’effectuer des tâches en limitant les interventions humaines.

Intégré à Agent Service – la préversion du SDK Microsoft 365 Agents – un package open source (sous licence MIT) permet de créer des agents pouvant être déployés et s’intégrant dans plusieurs canaux, dont M365, Teams, Copilot Studio et WebChat. Des intégrations tierces avec Facebook Messenger, Slack ou Twilio sont également possibles. En revanche, ce package n’est disponible qu’en C#/.NET et JavaScript. Python sera prochainement pris en charge.

Les intégrations Azure AI Foundry connectent Copilot Studio et Azure AI Foundry, permettant aux agents intégrés à Copilot Studio d’accéder aux plus de 1 800 modèles d’IA du catalogue Azure.

Avec Agent SDK, Microsoft fournit aux utilisateurs un framework pour contrôler les applications Copilot.

« Ces applications pourront prendre des décisions basées sur des données détenues au sein de l’entreprise, elles seront donc autonomes », affirme Keith Kirkpatrick, analyste chez Futurum Group.

Toutefois, cette approche pourrait ne pas fonctionner pour certaines entreprises, ajoute-t-il.

« Si je décide de mettre en place un groupe d’agents pour effectuer certaines tâches, il pourrait y avoir des questions sur les données auxquelles je peux accéder et les contrôles qui seront mis en place », considère Keith Kirkpatrick.

Les entreprises sont toujours préoccupées par la sécurité, en particulier lorsque les agents se tournent vers l’exécution de tâches administratives et de transactions, renchérit Jason Wong de Gartner.

« Les gens veulent de la visibilité », note-t-il « Ils veulent pouvoir contrôler plus précisément ce à quoi l’IA peut accéder. »

Il ajoute que les hallucinations pourraient être un problème encore plus grave avec les agents d’IA qu’avec les modèles d’IA standard, qui ont tendance à produire des informations aussi incorrectes ou trompeuses.

« C’est quelque chose que Microsoft a peut-être manqué l’occasion de vraiment mettre en valeur et d’élever en matière de nouvelles fonctionnalités et capacités », poursuit Jason Wong.

Bien que Microsoft ait introduit de nouvelles fonctionnalités de gouvernance dans différents produits et fonctionnalités, tels que Power Automate, il n’existe pas de centre de gouvernance central, signale-t-il.

Le géant du cloud a plutôt présenté Azure AI Content Understanding, un nouveau service visant à faire comprendre aux développeurs comment créer des applications d’IA multimodales.

Le fournisseur de cloud prévoit aussi d’introduire de nouvelles options de fine-tuning en préversion le mois prochain dans Azure OpenAI Service, pour permettre aux développeurs et aux data scientists de personnaliser les modèles en fonction des besoins métiers à couvrir.

Se rapprocher de partenaires (et se distinguer d’OpenAI)

Microsoft a également révélé avoir élargi son partenariat avec l’éditeur d’applications d’IA d’entreprise C3 AI.

 La suite complète de logiciels d’application d’IA d’entreprise de C3 AI sera désormais facilement disponible sur le portail Microsoft Commercial Cloud.

« Il s’agit d’un point d’inflexion sur le marché mondial de l’IA d’entreprise, qui va modifier de manière durable la dynamique concurrentielle de ce marché », avance Tom Siebel, PDG de C3 AI, dans une interview accordée à l’équipe éditoriale de Techtarget. Il ajoute que les clients communs, comme le géant de l’énergie Shell, souhaitent que les fournisseurs travaillent ensemble.

« Ce qu’ils souhaitent, c’est que leurs fournisseurs stratégiques coopèrent pour garantir que leurs produits fonctionnent de concert et répondent à leurs besoins », poursuit Tom Siebel. « C’est ce à quoi nous nous engageons. »

Microsoft étend également son partenariat avec ServiceNow, le spécialiste de l’ITSM et de l’orchestration de processus métiers. Ce partenariat étendu comprend une collaboration entre Microsoft Copilot et les agents IA de ServiceNow. Les agents ServiceNow visent à résoudre les problèmes des clients dans Copilot pour faciliter les flux de travail en arrière-plan.

Dans un même temps, dans sa documentation, Microsoft précise bien qu’Azure OpenAI est une brique distincte dans Azure AI Foundry et qu’il est possible d’accéder à d’autres grands modèles de langage à travers le catalogue Azure AI, dont ceux de Meta, Mistral AI, Cohere, AI21 Labs et les SLM industriels développés par Siemens, Bayer, Rockwell Automation ou Saifr.