Blog

Aug 19, 2023

Biden

Technologie Pour l’administration Biden, une question plane sur le plus grand développement technologique depuis des années : quelle est l’ampleur de cette menace pour la sécurité ? Alors que le Congrès s'efforce de déterminer quelles nouvelles lois adopter sur l'IA,

Technologie

Pour l’administration Biden, une question plane sur le plus grand développement technologique depuis des années : quelle est l’ampleur de cette menace pour la sécurité ?

Alors que le Congrès s’efforce de définir les nouvelles lois à adopter sur l’IA et que les agences fédérales font preuve de flexibilité dans leurs autorités existantes face à une technologie émergente, la Maison Blanche de Biden est devenue l’acteur le plus actif en matière de politique en matière d’IA. | Olivier Douliery/AFP/Getty Images

Par Mohar Chatterjee

10/08/2023 16h45 HAE

Mise à jour : 11/08/2023 08h24 HAE

Lien copié

Vendredi, dans les hôtels de Las Vegas, certains des systèmes d'intelligence artificielle les plus puissants au monde seront attaqués simultanément par une petite armée de pirates informatiques essayant de découvrir leurs failles cachées.

La Maison Blanche n’est pas seulement consciente de l’agression publique, elle l’approuve.

En mai, l’administration Biden a apporté son soutien à une attaque test délibérée et coordonnée contre les systèmes d’IA, appelée red-teaming, qui se déroulera sur trois jours lors d’une convention annuelle de hackers ce week-end. Plusieurs grandes sociétés d’IA, dont OpenAI, Google et Meta, ont accepté que certains de leurs systèmes d’IA les plus récents et les plus puissants soient attaqués dans le cadre de cet exercice.

L'attaque de pirate informatique met en lumière ce qui est devenu l'une des principales préoccupations de la Maison Blanche concernant les nouveaux modèles d'IA puissants et en croissance rapide : dans quelle mesure ils sont réellement sécurisés et s'ils pourraient constituer une menace soit pour les citoyens américains, soit pour la sécurité nationale à l'échelle mondiale. scène.

"Notre conception - et cela vient du président - est que pour exploiter les opportunités de l'IA, nous devons d'abord gérer les risques également", a déclaré Alan Mislove, haut responsable du Bureau de la politique scientifique et technologique de la Maison Blanche. a aidé les organisateurs du hacking challenge à développer les exercices d'équipe rouge de ce week-end. « Pour des choses comme les grands modèles linguistiques, ces risques sont assez larges, dans de nombreux cas peuvent être moins clairs que pour d’autres systèmes » et « couvrent notre société, notre économie, notre sécurité nationale », a-t-il déclaré.

Alors que le Congrès s’efforce de définir les nouvelles lois à adopter sur l’IA et que les agences fédérales font preuve de flexibilité dans leurs autorités existantes face à une technologie émergente, la Maison Blanche de Biden est devenue l’acteur le plus actif en matière de politique en matière d’IA. Il a rédigé un cadre pour la Déclaration des droits de l’IA, convoqué des PDG du secteur technologique et tenu une série de conférences de presse sur le large éventail de menaces et d’opportunités présentées par la technologie.

Même si ces menaces touchent l’ensemble de la société, allant de la perte d’emploi à la discrimination en passant par la désinformation, bon nombre des mesures les plus concrètes prises par la Maison Blanche se sont concentrées sur la question de la sécurité. Son nouveau conseiller spécial pour l'IA, Ben Buchanan, a une formation en matière de sécurité nationale plutôt que technique. Lorsque la Maison Blanche a convoqué les dirigeants d’IA pour annoncer une série d’engagements volontaires le mois dernier, la « sécurité » était en tête de liste, et la sécurité a joué un rôle clé à travers le document.

La haute priorité accordée à la sécurité reflète l'inquiétude — parmi les experts, les régulateurs et l'industrie elle-même — que les nouveaux systèmes complexes d'IA présentent une série de nouveaux problèmes qui ne sont pas entièrement compris, depuis leur potentiel d'être piratés et mal orientés par un adversaire, jusqu'à l'idée que ils pourraient exposer les données des utilisateurs à des utilisations plus sombres comme la fabrication d’armes biologiques.

« Il est possible d'amener ces modèles à faire des choses que leurs concepteurs et leurs fournisseurs n'ont pas prévu ou qu'ils ne souhaitent pas qu'ils soient capables de faire. Alors oui, je pense qu'il y a de réelles considérations de sécurité », a déclaré Arati Prabhakar, directeur du Bureau de la politique scientifique et technologique de la Maison Blanche.

L’IA peut également être un outil pour améliorer la sécurité : cette semaine, le Pentagone a annoncé un défi de deux ans pour que les développeurs utilisent l’IA pour renforcer la cybersécurité américaine critique.

Pour le défi de l'équipe rouge de ce week-end, la Maison Blanche s'est associée au AI Village lors de la DEF CON, une convention annuelle où les organisateurs organisent des wargames de piratage et où les professionnels de la cybersécurité révèlent les dernières failles des technologies omniprésentes. Des agences gouvernementales comme le Pentagone se sont déjà tournées vers la communauté des hackers pour trouver des vulnérabilités en matière de cybersécurité : lors d'un défi de piratage DEF CON l'année dernière, un participant a découvert une faille invalidante dans le micro-réseau électrique de l'armée après lui avoir fourni de fausses données météorologiques.