Les villes du monde entier s’associent pour prôner un usage éthique de l’IA

Le CC4RD, un espace collaboratif pour les responsables des métropoles

Outre les villes participantes, l’Observatoire fonctionne en partenariat avec UN-Habitat, une initiative des Nations unies visant à améliorer la qualité de la vie dans les zones urbaines, ainsi qu’avec le groupe de recherche CIDOB-Barcelona Centre for International Affairs.

Michael Donaldson, directeur technique de la ville de Barcelone, explique que l’Observatoire est conçu comme un « espace de collaboration et d’échange de connaissances » au sein duquel les villes peuvent partager leurs expériences, tant positives que négatives, du développement et du déploiement de l’IA. Selon lui, le partage de bonnes pratiques permet en particulier aux villes d’éviter de reproduire les erreurs du passé dans le cadre du déploiement de systèmes d’intelligence artificielle.

« Nous connaissons les avantages que confère l’IA – une administration plus proactive et de meilleurs services publics numériques – mais nous devons également introduire une dimension éthique quand nous utilisons ces technologies », affirme Michael Donaldson. Il ajoute que Barcelone a entrepris des consultations publiques visant à définir précisément ce qui est ou non éthique, lorsqu’il est question d’IA. Ce travail, une fois achevé, sera partagé avec l’Observatoire.

Le responsable du numérique de la ville de Londres, Theo Blackwell, a adopté une approche similaire en mettant en place la « charte des technologies émergentes de la ville de Londres » ; charte qui sera, elle aussi, réinjectée dans l’observatoire « afin que nous n’œuvrions pas de manière isolée, et que nous puissions apprendre les uns des autres ».

Vu de son poste, Theo Blackwell considère l’opportunité d’apprendre de ses homologues d’autres villes, et de pouvoir dialoguer avec eux, comme étant « la source d’informations la plus précieuse qui soit ». Pour lui, l’expérience de terrain de déploiement d’IA dans un contexte urbain se révèle plus pertinente qu’une approche juridique menée par des groupes de réflexion et des comités gouvernementaux.

« Nous n’avons ici aucun pouvoir pour légiférer, mais nous avons celui d’influencer », poursuit-il. « Les villes engrangent une véritable expérience de terrain, leur personnel traite directement avec les fournisseurs de technologies ; elles sont donc très éloignées des considérations du législateur. Et c’est cette expérience concrète qui nous permet d’aborder le sujet, et de tenter d’influencer les choses à notre manière, pour garantir la protection des citadins d’une part, et pour promouvoir l’innovation au cœur de notre économie d’autre part. »

Pour Guillem Ramirez, conseiller politique pour les droits numériques et la diplomatie urbaine au conseil municipal de Barcelone, cette approche aide les villes à collaborer à l’international en vue de définir ce que signifie le terme « éthique » dans différents contextes culturels, et à établir une compréhension commune des enjeux d’un développement éthique de l’IA. « Il convient d’identifier d’abord les principes régissant ce qui doit être considéré comme éthique lorsqu’il s’agit d’IA », explique Guillem Ramirez. Et il ajoute que l’Observatoire ambitionne de finaliser un rapport sur ce thème en septembre 2021.

« Avec les villes qui participent à la Coalition, nous avons mené des débats et identifié certains de ces principes tels que la non-discrimination et l’équité ; mais il est également question de cybersécurité, de transparence, de responsabilité, etc. », poursuit-il. « Ensuite, nous orchestrons tout cela, non pas à l’aide d’indicateurs extrêmement concrets, mais par de grands axes directeurs. En effet, à ce stade, les villes n’en sont même pas au développement de systèmes d’IA complexes. L’idée est donc de bâtir le socle sur lequel s’appuiera une évolutivité éthique. » Michael Donaldson et Theo Blackwell insistent tous deux sur le fait que nombre de villes participant à l’Observatoire en sont à des stades très différents de leur « cheminement IA », et que tout ce que produit l’Observatoire est destiné à les guider sur une voie plus éthique.

Aujourd’hui, beaucoup de technologies et d’outils fondés sur l’IA et utilisés dans des centres urbains ne sont pas les produits d’efforts de développement propres aux villes, mais bien ceux du secteur privé, avant d’être vendus ou transférés au secteur public. Par exemple, au Royaume-Uni, le système de reconnaissance faciale qu’utilisent les services de la police métropolitaine, MPS (Metropolitan Police Service) et de la police du pays de Galles du Sud, SWP (South Wales Police), baptisé NeoFace, a été développé par l’entreprise japonaise NEC Corporation.

« Nous n’avons ici aucun pouvoir de légiférer, mais nous avons celui d’influencer. »

Toutefois, en 2020, la Cour d’appel a jugé que l’usage de cette technologie par le SWP était illégal, car non conforme au devoir d’équité de service public dans le cadre de ses pratiques et des politiques de cette unité de police, et donc potentiellement discriminatoire. Le jugement rendu spécifie que « pour des raisons de confidentialité commerciale, le constructeur n’est pas prêt à divulguer les détails nécessaires pour effectuer des tests. Cela peut se comprendre, mais, de notre point de vue, cet aspect ne permet pas à une autorité publique de se décharger de ses obligations propres et intransmissibles. »

Trouver un juste milieu

Interrogé sur la manière dont les villes gèrent le développement croissant des collaborations public-privé, Guillem Ramirez (Barcelone) répond que, parallèlement à la recherche d’un équilibre entre informations sensibles et intérêt public, « les villes doivent comprendre le fonctionnement du code, et bénéficier d’une transparence procédurale pour comprendre comment sont prises les décisions » [par les algorithmes]. Et d’ajouter : « Ces systèmes doivent pouvoir être expliqués, afin que les citoyens puissent les comprendre. »

En cela, Michael Donaldson juge nécessaire que les villes doivent mettre en place un système de pouvoirs et de contre-pouvoirs afin de déterminer comment évoluer de manière sûre, au sein de partenariats IA entre secteurs public et privé, d’une manière également bénéfique pour le citoyen. « Nous pouvons ne pas réellement savoir comment fonctionne votre technologie, car elle dépasse de loin nos connaissances ; mais nous savons, en revanche, comment administrer des services publics et garantir les droits de nos citoyens. Si votre technologie va à l’encontre de ces principes, nous vous demandons d’y renoncer », explique-t-il.

Cas d’usage restreints

Interrogé sur le même sujet, Theo Blackwell explique que l’application de l’IA aux villes interviendra dans des contextes aussi nombreux que différents, mais qu’au vu des exemples qu’il a observés, les mises en œuvre les plus utiles reposent sur les usages très restreints.

« Côté autorités municipales, le défi tient à ce que ces technologies soient extrêmement utiles dans le cadre de cas d’usage restreints », explique-t-il. « Parfois, de grandes entreprises nous contactent en expliquant que “cette technologie autorise un large panel d’utilisations”. Selon moi, tout l’art consiste à répondre essentiellement “non, nous avons juste besoin de tel et tel élément”. En outre, il ne s’agit pas d’évoluer vers un système universel couvrant tous les aspects, et qui, selon moi, correspond au positionnement par défaut de nombreux grands acteurs technologiques. »

D’après Theo Blackwell, Londres envisage de permettre aux organisations de publier des évaluations d’impact concernant la protection des données sur le portail London Data Store. L’objectif est qu’elles puissent « constituer un outil de responsabilité pour expliquer comment gérer les questions posées sur cette technologie, plutôt qu’un outil de gestion des risques pour les professionnels de la gouvernance des données. Cette approche sera un élément clef de la charte technologique émergente. »