Microsoft met fin à l’équipe d’éthique de l’IA tout en se rapprochant d’OpenAI

Microsoft a éliminé toute son équipe chargée d’assurer l’utilisation éthique des logiciels d’IA à un moment où le géant Windows intensifie son utilisation de la technologie d’apprentissage automatique.

La décision d’abandonner l’équipe éthique et société au sein de son organisation d’intelligence artificielle fait partie des 10 000 suppressions d’emplois annoncées par Microsoft en janvier, qui se poursuivront jusqu’à l’année prochaine.

Le coup porté à cette unité particulière pourrait supprimer certaines barrières de sécurité destinées à garantir que les produits de Microsoft qui intègrent des fonctionnalités d’apprentissage automatique respectent les normes de la méga-corporation en matière d’utilisation éthique de l’IA. Et cela survient alors que la discussion fait rage sur les effets des modèles controversés d’intelligence artificielle sur la société dans son ensemble.

Intégrer l’éthique de l’IA dans l’ensemble de l’entreprise – comme quelque chose que tous les employés doivent considérer – ressemble un peu à ce que Bill Gates a dit à ses ingénieurs en 2002 de faire de la sécurité une priorité à l’échelle de l’organisation, ce qui s’est évidemment très bien passé. Vous pourriez penser qu’une équipe dédiée supervisant cela en interne serait utile.

Platformer a signalé pour la première fois les licenciements dans le groupe éthique et société et a cité des employés actuels et anciens anonymes. Le groupe était censé conseiller les équipes alors que Redmond accélérait l’intégration des technologies d’intelligence artificielle dans une gamme de produits – d’Edge et Bing aux services cloud Teams, Skype et Azure.

Microsoft a toujours en place son bureau de l’IA responsable, qui travaille avec le comité Aether et la stratégie d’IA responsable en ingénierie (RAISE) de l’entreprise pour diffuser des pratiques responsables dans toutes les opérations dans le travail quotidien. Cela dit, les employés ont déclaré à la newsletter que l’équipe éthique et société jouait un rôle crucial en veillant à ce que ces principes soient directement reflétés dans la conception des produits.

Un porte-parole de Microsoft a déclaré Le registre que l’impression que les licenciements signifiaient que le géant de la technologie réduisait ses investissements dans l’IA responsable est fausse. L’unité a été essentielle pour aider à incuber une culture d’innovation responsable alors que Microsoft a lancé ses efforts d’IA il y a plusieurs années, nous a-t-on dit, et maintenant les dirigeants de Microsoft ont adopté cette culture et l’ont semée dans toute l’entreprise.

“Ce travail initial a contribué à stimuler la manière interdisciplinaire dont nous travaillons dans la recherche, la politique et l’ingénierie au sein de Microsoft”, a déclaré le porte-parole.

“Depuis 2017, nous avons travaillé dur pour institutionnaliser ce travail et adopter des structures organisationnelles et des processus de gouvernance que nous savons efficaces pour intégrer des considérations d’IA responsable dans nos systèmes et processus d’ingénierie.”

Des centaines de personnes travaillent sur ces problèmes au sein de Microsoft “y compris de nouvelles équipes d’IA responsables dédiées qui ont depuis été créées et se sont considérablement développées au cours de cette période, y compris le Bureau de l’IA responsable et une équipe d’IA responsable connue sous le nom de RAIL qui est intégrée dans l’équipe d’ingénierie responsable de notre service Azure OpenAI », ont-ils ajouté.

En revanche, moins de dix personnes de l’équipe éthique et société ont été affectées, et certaines ont été déplacées vers d’autres parties du business – avec le Bureau de l’IA responsable et l’unité RAIL.

Mort par de nombreuses coupures

Selon le rapport de Platformer, l’équipe avait été réduite d’environ 30 personnes à sept grâce à une réorganisation au sein de Microsoft en octobre 2022.

Les membres de l’équipe ont récemment enquêté sur les risques potentiels liés à l’intégration par Microsoft des technologies OpenAI dans l’ensemble de l’organisation. Des sources anonymes auraient déclaré que le PDG Satya Nadella et le directeur technique Kevin Scott étaient impatients d’intégrer ces technologies dans les produits et de les diffuser aux utilisateurs le plus rapidement possible.

Microsoft investit des milliards de dollars dans OpenAI – une startup dont les produits incluent Dall-E2 pour générer des images, GPT pour le texte (OpenAI a présenté cette semaine sa dernière itération, GPT-4) et Codex pour les développeurs. Pendant ce temps, le ChatGPT d’OpenAI est un chatbot formé sur des montagnes de données provenant d’Internet et d’autres sources qui accepte les invites des humains – “Écrivez une histoire en deux paragraphes de l’Empire romain”, par exemple – et crache une réponse écrite.

Microsoft intègre également un nouveau grand modèle de langage dans son navigateur Edge et son moteur de recherche Bing dans l’espoir de réduire la position dominante de Google dans la recherche.

Depuis son ouverture au public en novembre 2022, ChatGPT est devenue l’application la plus rapide à atteindre 100 millions d’utilisateurs, franchissant ce cap en février. Cependant, des problèmes avec la technologie – et avec des applications d’IA similaires comme Google’s Bard – sont apparus assez rapidement, allant de mauvaises réponses à un langage offensant et à l’éclairage au gaz.

L’innovation et l’intégration rapides de ces grands systèmes d’IA de modèles linguistiques alimentent un débat plus large sur leur impact sur la société.

Redmond apportera plus de lumière sur sa stratégie d’IA en cours lors d’un événement le 16 mars organisé par Nadella et intitulé “L’avenir du travail avec l’IA”, qui Le registre couvrira. ®