il-fede - Fotolia
GenAI : Box ajoute Azure OpenAI dans sa boîte à IA
Box, le spécialiste du stockage et de la gestion des documents, intègre Azure OpenAI Service à sa gamme d’outils d’IA générative. Ses clients peuvent désormais choisir entre Microsoft, Vertex de Google et les LLM d’OpenAI.
Box a annoncé qu’il proposait désormais des fonctionnalités d’Intelligence artificielle générative faisant appel à Azure OpenAI.
Les fonctionnalités permettent de générer des résumés, des articles de blog et des réponses aux questions des utilisateurs à partir de la base documentaire d’une entreprise stockée dans Box.
Box proposait déjà – via Box AI – des fonctionnalités de ce type en utilisant Vertex de Google et les LLM d’OpenAI. Avec Microsoft, Box étend donc les options parmi lesquelles ses utilisateurs peuvent choisir.
Donner accès à différents grands modèles de langage (LLM) est un moyen de maintenir la plateforme ouverte et de donner le choix aux clients, justifie Ben Kus, directeur technique (CTO) de Box.
« La plupart des fournisseurs d’IA ont des technologies qui se ressemblent. Beaucoup d’entre elles sont hébergées par une société de confiance – Azure OpenAI en est un bon exemple – et en plus de cela, ils ont tous ces modèles qui sont tous assez performants », continue le CTO.
Laisser le choix au client et prendre du recul
Au cours des premiers bêta-tests et du déploiement de Box AI, Ben Kus a observé que les clients choisissaient les LLM en fonction de leurs performances pour chaque tâche différente. Certains peuvent trouver qu’un LLM a de meilleurs résultats que d’autres pour répondre à une question allant chercher dans la base de contenus de l’entreprise, quand un autre LLM sera peut-être plus performant pour faire des résumés.
Offrir aux utilisateurs l’accès à différents LLM est aussi un moyen de prendre du recul par rapport au marché de l’IA générative – un marché très mouvant et en devenir, ajoute Alan Pelz-Sharpe, fondateur de Deep Analysis.
Dans certains cas, les entreprises peuvent même souhaiter apporter leur propre modèle, plus adapté à la terminologie de leur secteur d’activité. C’est ce que l’on commence déjà à appeler le Bring Your Own AI (BYOAI) ou le Bring Your Own LLM. Bien que le Bring your own AI soit encore plus l’exception que la règle, les besoins pourraient évoluer vers ce genre d’option, entrevoit l’expert. Tout comme ils vont certainement évoluer vers des modèles plus petits (les Small Language Models ou SML).
« Que ce soit dans le domaine juridique, de la santé ou dans d’autres secteurs sensibles, l’avenir est très certainement aux plus petits modèles linguistiques, hautement pré-adaptés, et hébergés directement dans les référentiels des entreprises », entrevoit Alan Pelz-Sharpe. « Mais ce n’est pas encore le cas. Alors en attendant, pourquoi ne pas jouer un peu avec tout ? »
Box AI, y compris l’intégration avec Azure OpenAI Service, est disponible. Elle est incluse dans tous les plans Enterprise Plus. Les utilisateurs individuels ont accès à 20 requêtes par mois, et 2 000 requêtes supplémentaires sont disponibles au niveau de toute l’entreprise.
La GenAI génère aussi des coûts
Le cofondateur et PDG de Box, Aaron Levie, ne le cache pas. L’IA générative a un coût. Et donc un prix.
Lors du BoxWorks 2023, il a milité auprès de son ami de longue date de la Silicon Valley et PDG d’OpenAI, Sam Altman, pour que celui baisse la tarification de l’utilisation de ses LLMs.
Mais en attendant que la prophétie de ce même Sam Altman sur une « intelligence » quasiment gratuite se réalise, Pelz-Sharpe estime que la tarification de l’IA par Box est « intelligente et réaliste ».
Pour l’expert, elle rappelle aux clients qu’ils ne doivent pas utiliser l’IA générative pour tout et n’importe quoi, avec. L’IA, dit-il, est très utile pour certaines tâches, mais elle a aussi un coût. Qui peut très vite monter.