Transparence de l’IA : IBM confie ses outils à la Fondation Linux
IBM a fait don lundi de trois projets open source dédiés à l’explicabilité de l’IA, à la LF AI Foundation, une structure imbriquée dans la Fondation Linux.
Le fournisseur cloud a confié à l’ONG ses boîtes à outils sous l’étiquette Trusted AI : AI Fairness 360, Adverserial Robustness 360 et AI Explainability 360, consacrée à la transparence et l’explicabilité de l’IA. Cette décision s’inscrit dans une forme d’ouverture de la part de Big Blue qui cherche à réaffirmer son influence dans la sphère IT et quitter son image de mastodonte lourd et lent.
Les boîtes à outils, lancées au cours des deux dernières années, doivent permettre aux utilisateurs de créer et d’utiliser des modèles algorithmiques plus transparents et plus responsables.
AI Fairness 360 est une collection d’algorithmes (11 au total, associés à 70 métriques) de codes et de tutoriels qui permet aux développeurs de détecter et de corriger les biais dans les données d’entraînement. AI Explicability 360 contient des algorithmes et d’autres ressources pour aider les développeurs à décortiquer les particularités de l’IA. Adversarial Robustness 360, quant à elle, est une bibliothèque Python facilitant la lutte contre les menaces contradictoires.
Une gouvernance « ouverte » pour légitimer la pertinence des solutions IBM
Les projets open source hors fondation sont plus souvent contrôlés par une entreprise et sa communauté.
Avec cette nouvelle initiative, IBM cède le contrôle des trois boîtes à outils d’IA à la LF AI Foundation, qui affiche une forme de neutralité vis-à-vis des éditeurs. Le modèle de gouvernance ouvert – en théorie – élimine le contrôle des projets à source ouverte par un seul fournisseur, élargit la communauté qui y travaille et contribue à accélérer leur croissance.
Ce passage de main de projet à la Fondation Linux, ne veut pas dire qu’IBM abandonne ses trois solutions. Généralement, quelques contributeurs chapeautent les projets et nous ne doutons pas qu’IBM, coutumier du fait, continuera à participer très activement au développement de ses projets.
« Notre objectif en tant que fondation est de soutenir ces projets, afin d’accroître leur base d’utilisateurs et de contributeurs et de les aider à se maintenir en tant que communautés de développeurs provenant de diverses organisations et entreprises dans un environnement neutre et sans éditeur », assure Ibrahim Haddad, directeur général de la LF AI Foundation.
La Fondation LF AI prévoit d’intégrer les projets à ses propres efforts internes et de les soutenir avec une variété de ressources en provenance de l’IT et l’infrastructure, des créateurs, des événements et du marketing, selon Ibrahim Haddad.
L’éthique dans l’IA s’impose comme sujet majeur
L’organisation considère l’explicabilité comme « un sujet et un sous-domaine très important au sein de le l’IA. Cela a un grand intérêt pour nos membres » vante son directeur.
« Les nouveaux projets d’IBM nous donneront une impulsion majeure, non seulement en tant que projets techniques, mais nous aideront également à nous établir dans les sous-catégories de l’équité, de l’explicabilité et de l’IA contradictoire », poursuit-il.
L’autre motivation d’IBM pour libérer ses solutions provient du fait que les entreprises et les éditeurs réclament une IA plus responsable et plus de réglementations autour de la technologie.
« Nous avons prévu de faire évoluer ces projets vers un modèle de gouvernance ouvert, et des événements récents dans le monde entier ont affirmé que c’est la bonne façon de faire progresser l’IA de confiance, en déplaçant ces projets dans un espace neutre, sans que les utilisateurs finaux se préoccupent de la propriété intellectuelle ou des marques déposées », conclut Animesh Singh, STSM et architecte en chef de la plateforme Open Source IA et Data, chez IBM.
Les trois kits d’outils seront disponibles au sein de la fondation LF AI dans trois semaines, le temps de terminer les démarches liées à la donation. Les outils sont d’ores et déjà disponibles sur les pages GitHub associées. Pour rappel, IBM a rejoint la branche IA de l’ONG comme Tencent, Baidu, AT&T, Nokia ou encore Huawei.
