Machine learning : les clés pour contrôler les biais

Introduction

Les initiatives consacrées à l’IA de confiance et l’éthique des applications de machine learning se multiplient. Les grands groupes y vont de leur charte et de leurs méthodologies pour lutter contre les possibles déviations des modèles en production. Il est vrai, les algorithmes assistent de plus en plus les métiers, qu’ils le sachent ou non.

Les éditeurs et les chercheurs mettent en avant la nécessité d’obtenir une IA explicable, par l’entremise de méthodes, d’outils et de calibrations afin que les algorithmes produisent eux-mêmes des scores de confiance. Cette prise de conscience atteint les sphères gouvernementales nationales et fédérales. Les États-Unis et l’Union européenne sont les premiers à vouloir légiférer sur la question de l’IA de confiance.

Mais il existe un autre pendant de cette approche qui fait souvent l’objet de confusion : la sous-thématique des biais.

Dans le domaine de la data science, le terme biais est plus communément employé pour désigner les erreurs ou les simplifications statistiques. Or, il revêt plusieurs réalités. Un biais peut être une ligne oblique qui traverse un espace. Il peut découler de la qualité des données, de leur inexactitude, d’un mauvais paramétrage d’un modèle ou encore des résultats qu’il affiche aux utilisateurs. Il est statistique, social, éthique, et si certaines conséquences peuvent prêter à sourire, d’autres impactent largement les processus de décision humaine.
Dans une ère où l’on souhaite automatiser une partie des processus de recrutement, d’attribution de crédit, d’analyse des textes de loi, les campagnes marketing, générer des contenus, voire de pilotage d’équipements à distance, la notion de risques prend tout son sens.

Malgré les qualités et l’efficience attribuées au machine learning et le deep learning, les biais font figure de risques qu’il faut minimiser.

Mais au-delà des discours et des cadres plus ou moins délimités, comment les équipes de data science peuvent au quotidien lutter contre ces biais qui, s’ils demeurent, influeront sur l’activité de leur entreprise ? C’est tout le sujet de ce guide essentiel qui aborde la question sous un angle pratique et didactique en tentant de cartographier les types de biais et plusieurs méthodologies pour les corriger ou les éviter.

Soyons claires, la tâche paraît impossible et demande finalement de se pencher sur des cas d’usage spécifiques. Un cadre général ne peut que tracer les grandes lignes d’une méthodologie qu’il faut adapter suivant la technique d’IA (NLP, NLG, Computer vision, classification, etc.) et l’objectif associé. Cependant, prendre conscience de l’existence de ces éléments permet d’en mesurer l’impact et prioriser les risques.

En clair, les pratiques issues de la cybersécurité comme la supervision, l’identification des risques, la mesure de périmètres et des sphères d’attaque peuvent s’appliquer, en principe. Mais certaines techniques, quoique très efficaces, manquent de clarté pour le commun des mortels, ici, les mortels étant les data scientists. Là encore, la traque des biais ne peut se faire sans avoir les notions d’explicabilité en tête.

1Contexte-

Les biais au cœur des problématiques de transparence

2Exemples-

La COVID fait surgir les biais

3Conseils-

Cartographier et corriger les biais

4Glossaire-

Quelques définitions