Biden exhorté à nommer des agents de l’IA pour réglementer la technologie

Le Comité consultatif national américain sur l’intelligence artificielle a exhorté le président Joe Biden à pourvoir des postes clés et à créer de nouvelles organisations pour répondre aux préoccupations sociétales croissantes concernant les modèles d’IA, dans son premier rapport à venir.

Le gouvernement américain a été critiqué pour sa lenteur à réglementer la technologie et a pris du retard sur l’Union européenne et la Chine dans l’élaboration de politiques et de lois pour lutter contre les risques de sécurité.

Mais des actions récentes – telles que le département américain du Commerce qui a publié une demande formelle de commentaires publics sur la manière d’auditer les algorithmes de ML ; la Federal Trade Commission menaçant de punir les entreprises qui utilisent l’IA pour duper les citoyens ou permettre aux préjugés des réseaux neuronaux de bafouer leurs droits civils ; et parler de législation bipartite de sénateurs de premier plan – suggèrent que le vent tourne.

Alors que les dirigeants déterminent quelles nouvelles règles doivent être mises en place pour résoudre les problèmes croissants de préjugés, de confidentialité, de discrimination, de déplacement de main-d’œuvre, etc., le gouvernement doit restructurer sa propre main-d’œuvre pour mieux relever ces défis.

Plus précisément, la NAIAC a recommandé au président de nommer immédiatement un directeur du National AI Initiative Office, conçu pour coordonner toutes les questions liées à l’IA entre les différentes agences, et un directeur de la technologie à la Maison Blanche, dans son projet de rapport. [PDF].

Le rôle de responsable en chef de l’IA devrait également être créé, afin de trouver un leader capable de mettre en œuvre et de faire progresser des stratégies pour développer une IA digne de confiance, selon le rapport. Biden a également été conseillé de lancer le Conseil des technologies émergentes – un groupe composé de hauts responsables de la Maison Blanche – pour conduire une politique technologique axée sur les droits civils et l’équité, l’économie et la sécurité nationale.

Enfin, un groupe de travail multi-agences est également nécessaire pour aider les petites et moyennes organisations, qui pourraient avoir moins de ressources que les grandes entreprises, à concevoir et déployer l’IA en toute sécurité.

Mercredi, lors d’une discussion en direct organisée par le Brookings Institute, Miriam Vogel, membre du NAIAC et présidente-directrice générale de l’organisation à but non lucratif EqualAI, a déclaré que pourvoir ces postes stimulerait les efforts de réglementation de l’IA.

“Soutenir les parties du gouvernement qui sont en charge de cette application, en s’assurant qu’elles disposent de ressources suffisantes, que les postes de direction dans ce domaine sont pourvus et dotés de ressources appropriées… Je pense que c’est un premier pas dans cette direction”, a-t-elle déclaré. Vogel a également noté que les États-Unis ont déjà mis en place des lois qui peuvent résoudre certains problèmes tels que les droits civils qui pourraient être violés par des algorithmes perpétuant les préjugés et la discrimination dans des domaines tels que l’emploi ou la finance.

“Nous avons commencé à voir des litiges”, a-t-elle ajouté. “Nous avons vu plusieurs organismes de réglementation parler du fait qu’il y aura plus de réglementation, plus de litiges dans l’espace.” Elle a souligné les déclarations conjointes publiées par “l’EEOC et le DOJ, le ministère du Travail, le Consumer Financial Protection Bureau, etc. – toute la soupe à l’alphabet des États-Unis” menaçant de sévir contre les entreprises utilisant des logiciels biaisés pour prendre des décisions.

Une nouvelle législation doit cependant être introduite pour atténuer les dangers et les risques potentiels. Des modèles d’IA plus puissants sont en cours de construction et de déploiement dans des domaines tels que l’éducation et la santé. Le projet de rapport de la NAIAC a été publié cette semaine, mais est toujours en cours de finalisation.

“Je pense que l’application de la loi jouera un rôle à un moment donné”, a déclaré Reggie Townsend, membre du NAIAC et vice-président de la pratique d’éthique des données chez analytics biz SAS, lors de l’événement du Brookings Institute. “Mais d’abord, tu dois commencer par les règles.”

“Il y a beaucoup de gens dans le monde qui essaient littéralement de comprendre ce truc pour la première fois. Nous devons donc faire preuve d’un peu de grâce alors que nous essayons de comprendre certains de ces trucs. ne mettons pas en place des structures qui ont des conséquences inattendues qui sont tout aussi nocives que celles que nous essayons d’éviter », a-t-il conclu. ®