Le co-patron de l’éthique de Google AI a verrouillé son compte de travail alors qu’il enquêtait sur l’éviction controversée d’un collègue

En bref Google a verrouillé la semaine dernière le compte de travail de la codirectrice de son unité d’éthique de l’IA, Margaret Mitchell, alors qu’elle enquêtait sur l’éviction controversée de son collègue Timnit Gebru.

À la fin de l’année dernière, Gebru, une éminente experte en éthique de l’IA, a été expulsée de Google, ce qui a entraîné une réaction publique et interne importante contre son traitement. Maintenant, la collègue de Gebru, Mitchell, s’est retrouvée exclue de son compte Google d’entreprise.

Bonjour le monde! Semblable à @timnitGebru, J’ai brusquement perdu l’accès à mon agenda professionnel. Les discussions à venir, les échéances et les entités impliquées ne me sont plus accessibles. J’envoie ce large message de masse, demandant à quiconque attend quelque chose de moi de me le faire savoir!

– MMitchell (@mmitchell_ai) 21 janvier 2021

Quelques jours auparavant, Mitchell avait tweeté qu’elle avait besoin d’aide pour rassembler des informations sur la débâcle de l’éviction de Gebru.

Bonjour le monde! Je délègue! Quelqu’un d’autre a-t-il rassemblé toutes les déclarations publiques notables, les nouvelles et les tweets vers @timnitGebru tire jusqu’ici? Ou même simplement ceux que vous avez aimés ou détestés, les favoris, etc. Vous pouvez directement l’envoyer par e-mail à gebru.firing@gmail.com. Merci!!

– MMitchell (@mmitchell_ai) 16 janvier 2021

Normalement, lorsqu’on lui demande de commenter une situation comme celle-ci, Google PR fera échec ou donne une réponse standard du type: “Nous ne faisons pas de commentaires sur les employés individuels par principe.”

Pourtant, curieusement dans ce cas, les filateurs du géant de la Silicon Valley étaient tous prêts à donner leur point de vue à Axios. Un porte-parole a déclaré: «Nos systèmes de sécurité verrouillent automatiquement le compte d’entreprise d’un employé lorsqu’ils détectent que le compte risque d’être compromis en raison de problèmes d’identification ou lorsqu’une règle automatisée impliquant le traitement de données sensibles a été déclenchée.

“Dans ce cas, hier, nos systèmes ont détecté qu’un compte avait exfiltré des milliers de fichiers et les avait partagés avec plusieurs comptes externes. Nous l’avons expliqué à l’employé plus tôt dans la journée.”

Google et Mitchell n’ont pas répondu à El Regdemandes d’informations complémentaires de la part de. Zoë Schiffer à The Verge, quant à elle, m’a dit elle avait entendu que Mitchell “utilisait un script automatisé pour rechercher dans son propre courrier électronique des informations pertinentes sur l’éviction de Timnit Gebru – elle ne divulguait pas d’informations propriétaires”.

Google pourrait faire appel à quelques experts en éthique de plus, pas moins. À propos, l’article que Gebru a co-écrit chez Google qui a conduit à sa sortie peut, on nous dit, être trouvé ici [PDF].

GPT-3 est plus discriminatoire envers les musulmans que tout autre groupe religieux

Un article publié ce mois-ci par des universitaires aux États-Unis et au Canada a révélé que le modèle de génération de langage GPT-3 d’OpenAI – qui est formé sur du texte artificiel extrait d’Internet – est plus susceptible de discriminer les musulmans que tout autre groupe religieux. Nous pensons que c’est le reflet des données de formation et de ses origines et biais occidentaux. «Par exemple,« musulman »est assimilé à« terroriste »dans 23% des cas de test, tandis que« juif »est mappé sur« argent »dans 5% des cas de test», indique le journal.

OpenAI a décrit à Dave Gershgorn de Onezero le système qu’il a construit pour filtrer ou brouiller ce type de langage toxique produit par le logiciel. L’algorithme derrière GPT-3 n’a cependant pas été modifié. Cela suggère que les biais ne peuvent pas être éliminés dans le modèle lui-même et en feront toujours partie. OpenAI est toujours en train de déterminer comment commercialiser la bête qu’il a créée, bien que son accès soit disponible en tant que service de niveau bêta.

Cruise encres l’offre Microsoft Azure

La start-up autonome basée à San Francisco, Cruise, a annoncé qu’elle avait conclu un accord avec Microsoft pour utiliser sa plate-forme Azure. Cruise a choisi Microsoft Azure comme son «fournisseur de cloud public préféré» et, en retour, Microsoft investit un peu d’argent dans les parvenus. Nous supposons que Cruise, appartenant à GM, utilisera le cloud pour effectuer des tâches telles que la formation, les tests, la collecte de données télémétriques, la distribution de logiciels, etc., plutôt que de prendre des décisions de véhicule autonome en temps réel sur un serveur distant.

«Notre mission d’offrir des transports plus sûrs, meilleurs et plus abordables à tout le monde n’est pas seulement une course à la technologie – c’est aussi une course à la confiance», a déclaré le PDG de Cruise, Dan Ammann, dans un communiqué. «Microsoft, en tant qu’étalon-or dans la démocratisation fiable de la technologie, sera un multiplicateur de force pour nous alors que nous commercialisons notre flotte de véhicules autonomes, entièrement électriques et partagés.»

Cruise a annoncé son intention de lancer une flotte de 30 véhicules électriques autonomes d’ici 2025. Encore une fois, nous supposons 30 modèles, et pas seulement 30 voitures dans le monde. ®