Sécurité de l’IA : optimistes, les autorités américaines alertent tout de même sur les risques

Les représentants du gouvernement fédéral américain présents à la RSA Conference 2024 en ont profité pour vanter les énormes mérites de l’intelligence artificielle, mais ont également souligné la nécessité de se protéger contre les risques de cette vague technologique qui s’avance à vive allure.

L’intelligence artificielle, et plus particulièrement l’IA générative, a dominé – avec le concept de sécurité by-design – la grande conférence mondiale sur la cybersécurité. Tout au long de la semaine, les dirigeants américains se sont donc exprimés sur l’IA et ce qu’elle signifie, tant pour le secteur public que privé. Dans son discours d’ouverture de la RSA Conference 2024 lundi, le secrétaire d’État, Antony Blinken, a dévoilé la stratégie internationale du département d’État (le ministère des Affaires étrangères des États-Unis) en matière de cyberespace et de numérique. Cette stratégie décrit comment le gouvernement américain prévoit de s’engager et de s’associer avec d’autres nations sur une série de questions technologiques, y compris l’IA.

« En ce qui concerne l’IA, aussi confiants que nous soyons dans son potentiel, nous sommes profondément conscients des risques qu’elle comporte : suppression et transfert d’emplois, production de fausses informations, promotion des préjugés et de la discrimination, utilisation déstabilisante d’armes autonomes », a déclaré Antony Blinken lors de son discours d’ouverture. « Nous travaillons donc avec nos partenaires pour prévenir et résoudre ces problèmes. »

Il a également mis en avant le décret pris par le président Joe Biden à l’automne dernier en vue de créer des normes pour un développement sûr et sécurisé de l’IA, ainsi que la création récente du Consortium américain de l’Institut de sécurité de l’IA, qui comprend plus de 200 entreprises privées telles que Google, Microsoft, Nvidia et OpenAI.

« Le secteur privé est un partenaire essentiel dans cet effort, c’est pourquoi nous avons travaillé avec les principales entreprises d’IA sur une série d’engagements volontaires, comme la promesse de tests de sécurité avant de lancer de nouveaux produits, le développement d’outils pour aider les utilisateurs à reconnaître le contenu généré par l’IA », a déclaré Antony Blinken.

Le département d’État a également commencé à piloter des projets GenAI cette année pour aider à la recherche, au résumé, à la traduction et même à la composition de documents. Ce qui, selon Antony Blinken, libère les membres du personnel pour qu’ils passent plus de temps en discussion plutôt qu’en traitement de documents.

Alejandro Mayorkas, secrétaire à la sécurité intérieure (DHS, en anglais, Department of Homeland Security), a également évoqué les applications de la technologie de l’IA dans les projets pilotes du ministère. Par exemple, un projet combine tous les rapports d’enquête criminelle et utilise l’IA « pour identifier des connexions dont nous n’aurions pas eu connaissance autrement », a-t-il déclaré.

Ce que j’aimerais, c’est que les administrés jettent un coup d’œil au ministère de la Sécurité intérieure dans cinq ans et disent : « Je n’arrive pas à croire qu’ils utilisent l’IA pour faire avancer leur mission ». C’est une redéfinition de la perception du gouvernement, non pas comme paresseux et labyrinthique, mais comme agile, dynamique et repoussant vraiment les limites », a déclaré Alejandro Mayorkas.

Toutefois, l’utilisation interne et externe de l’IA présente des risques importants. À cette fin, le DHS a publié le mois dernier des lignes directrices en matière de sûreté et de sécurité à l’intention des organisations d’infrastructures critiques américaines concernant l’utilisation de l’IA, ainsi que les menaces extérieures potentielles. Ces menaces comprennent les attaques d’ingénierie sociale renforcées par l’IA, telles que les faux sons et les fausses vidéos.

Toutefois, Alejandro Mayorkas a également souligné que les organisations doivent tenir compte des risques associés à la conception et à la mise en œuvre de l’IA. Une chose a été clairement établie lors de la réunion inaugurale du nouveau conseil consultatif du DHS (son ministère) sur la sûreté et la sécurité de l’IA, a-t-il déclaré, à savoir que le développement d’une technologie sécurisée va de pair avec celui d’une technologie responsable. « Par exemple, nous ne pouvons pas accepter qu’une mise en œuvre sûre de l’IA implique la perpétuation de préjugés ».