Je suis viré: l’IA de Google s’effondre alors que le co-responsable de l’unité d’éthique a été expulsé quelques semaines seulement après l’éviction d’un collègue

En bref Google a terminé son enquête sur l’éviction controversée de Timnit Gebru, co-leader de son unité Ethical AI. Le géant de la publicité a promis de mettre en œuvre de nouvelles procédures concernant les «départs d’employés potentiellement sensibles», bien qu’il n’ait pas rendu ses conclusions publiques.

Gebru a déclaré qu’elle avait été licenciée pour avoir averti ses collègues dans une note interne que, en raison de l’apathie de la direction, c’était un gaspillage d’énergie en essayant de favoriser la diversité, l’égalité et l’inclusion au sein du goliath de la Silicon Valley. Google a affirmé qu’elle avait effectivement démissionné.

Les patrons lui avaient dit de retirer son nom d’un document de recherche sur les effets environnementaux et sociaux négatifs des réseaux de neurones de traitement du langage massifs, gourmands en énergie et biaisés, comme ceux utilisés par Google. À la suite de cet affrontement, Gebru a déclaré qu’elle avait dit aux dirigeants qu’elle serait à l’aise de rester au super-corp Internet si certaines conditions étaient remplies. Cela a été traité comme une note de démission par les gestionnaires qui ont refusé ses demandes. De nombreux chercheurs au sein de Google et de la communauté de l’IA au sens large se sont ralliés à son soutien.

“J’ai entendu et je reconnais ce que la sortie du Dr Gebru signifiait pour les femmes technologues, pour les membres de la communauté noire et d’autres groupes sous-représentés qui poursuivent une carrière dans la technologie, et pour beaucoup de gens qui se soucient profondément de l’utilisation responsable de l’IA par Google”, a déclaré Jeff Dean, chef de file de l’IA de Google. dit dans une note interne qui a été rapidement divulguée. «Cela a conduit certains à remettre en question leur place ici, ce que je regrette.

Pendant ce temps, Margaret Mitchell, qui a également codirigé l’unité de l’IA éthique aux côtés de Gebru, a déclaré vendredi qu’elle avait été licenciée. Mitchell avait été exclue de son compte d’entreprise pendant des semaines.

Je suis renvoyé.

– MMitchell (@mmitchell_ai) 19 février 2021

Mitchell a déclaré qu’elle s’était vu refuser l’accès à son courrier électronique professionnel et à d’autres services d’entreprise après avoir tenté de rassembler des preuves lors de l’enquête sur l’éviction de son collègue. Google a sa propre vision. «Après avoir examiné la conduite de ce responsable, nous avons confirmé qu’il y avait eu de multiples violations de notre code de conduite, ainsi que de nos politiques de sécurité, qui incluaient l’exfiltration de documents confidentiels sensibles et de données privées d’autres employés», a porte-parole a dit El Reg dans un rapport.

Tout cela s’est produit juste un jour après que Google ait sollicité Marian Croak, un ingénieur chevronné, pour gérer l’IA responsable, une nouvelle unité qui supervise l’IA éthique ainsi que neuf autres équipes. Pour un résumé de la façon dont Google a géré à moitié tout cela, consultez le fil ci-dessous.

Rétrospectivement, c’est * incroyable * à quel point Google a gâché sa gestion @timnitGebru et son équipe.

Il y a un autre monde où Google a laissé le journal sortir, l’a félicité de la lune, a parlé des atténuations existantes et a promis d’en faire plus. 1/

– Rich Harang (@rharang) 20 février 2021

IBM a déclaré qu’il envisageait de vendre son aile de santé AI

Big Blue est peut-être en train de se débarrasser de son unité IBM Watson Health après que ses services d’apprentissage automatique commercialisés dans les hôpitaux n’ont pas réussi à générer des bénéfices. Il envisage de vendre l’entreprise à une autre entreprise ou à une société de capital-investissement, selon le Wall Street Journal.

La division a souffert de nombreux problèmes au fil des ans. Les analystes se sont plaints du fait que le logiciel utilisé pour analyser les données médicales est difficile à utiliser et qu’IBM a constamment sur-promis et sous-livré – ou tout simplement pas du tout clairement sur ce qu’est exactement Watson et comment il se rapporte aux soins de santé. Big Blue a également licencié du personnel qui y travaillait l’année dernière.

La santé de l’IA est une activité difficile à pénétrer. Il est chargé de réglementations strictes, et le chien de garde américain n’a pas approuvé autant d’algorithmes d’IA novateurs pour les soins médicaux. Il semble également que les médecins ne tiennent tout simplement pas à Watson.

Waymo déploie des taxis entièrement autonomes à Cali en utilisant le personnel comme des cobayes

Waymo a commencé à tester son service de robot-taxi autonome à San Francisco, a annoncé ce mois-ci la filiale d’Alphabet.

«Nous accélérons maintenant le développement et les tests de notre technologie dans les villes, afin que nous puissions un jour apporter les avantages de la conduite entièrement autonome à plus de gens», a déclaré le collaborateur de Google. Auparavant, seuls les résidents faisant des promenades dans le centre-ville de Phoenix, en Arizona, pouvaient essayer le service. Maintenant, il a été élargi pour inclure San Francisco, Californie.

Cependant, n’espérez pas un tour de robot pour le moment. Waymo ne transporte que des employés qui font du bénévolat pour le moment, même si – avouons-le – si vous travaillez dans le business et que vous refusez, ce n’est pas une bonne idée.

Waymo a déclaré avoir amélioré les capacités de son logiciel pour s’adapter aux villes animées comme SF, notamment en détectant les jaywalkers et en repérant des objets tels que des cônes de signalisation qui signalent les travaux routiers afin de pouvoir rediriger ses voitures.

Les États-Unis investissent 15 millions de dollars dans le boffinry théorique d’apprentissage profond

La National Science Foundation américaine a lancé un nouveau programme dédié au financement de la recherche sur la compréhension des fondements théoriques des réseaux de neurones.

Le programme Stimulating Collaborative Advances en tirant parti de l’expertise dans les fondements mathématiques et scientifiques de l’apprentissage profond (SCALE MoDL) cherche à distribuer de 15 à 20 subventions d’une valeur maximale de 1,2 million de dollars chacune. Il prévoit d’investir un total de 15 millions de dollars dans le programme.

«L’apprentissage automatique est devenu un moteur clé des progrès majeurs dans tous les domaines de la science et de la technologie», a déclaré la NSF. «L’apprentissage profond, en particulier, a rencontré un succès empirique impressionnant qui a alimenté des découvertes scientifiques fondamentales et transformé de nombreux domaines d’application de l’intelligence artificielle.

«Notre compréhension théorique incomplète du domaine, cependant, entrave l’accessibilité à la technologie d’apprentissage en profondeur par un plus large éventail de participants, faute de ressources importantes actuellement nécessaires à la formation fiable de ces algorithmes, à la fois en termes d’infrastructure de calcul et de très grands ensembles de des données étiquetées. »

Les chercheurs peuvent soumettre des propositions de recherche au programme jusqu’au 12 mai. ®