La fuite des cerveaux de l’IA vers Google et ses amis menace la capacité du secteur public à modérer les biais d’apprentissage automatique

Boffins du Danemark et du Royaume-Uni ont mesuré la fuite des cerveaux de l’IA et constaté que le secteur privé absorbe réellement les talents technologiques au détriment des universités et des organisations publiques.

Dans un papier [PDF] distribués via ArXiv, les auteurs Roman Jurowetzki et Daniel Hain, de l’Aalborg University Business School, et Juan Mateos-Garcia et Konstantinos Stathoulopoulos, de l’organisation caritative britannique Nesta, décrivent comment ils ont analysé plus de 786000 études de recherche sur l’IA publiées entre 2000 et 2020 pour retracer les changements de carrière de université vers l’industrie et des migrations inverses moins fréquentes.

«Dans l’ensemble, nos résultats basés sur une analyse complète des données bibliographiques soutiennent l’idée d’un flux croissant de talents du monde universitaire vers l’industrie, ce qui peut exiger l’attention des décideurs politiques», concluent les quatre chercheurs.

La raison pour laquelle les décideurs politiques pourraient s’inquiéter de ces changements est que les entreprises privées peuvent ne pas donner la priorité aux préoccupations éthiques et sociales découlant de l’intelligence artificielle et des systèmes d’apprentissage automatique.

Prophètes ou profits?

À titre d’exemple des problèmes associés aux systèmes d’IA, les auteurs de l’article soulignent le licenciement controversé par Google de la chercheuse en IA Timnit Gebru de son poste de co-responsable de l’éthique chez Google Brain, l’unité de recherche sur l’IA de Google, en décembre 2020.

Gebru était en désaccord avec les responsables de Google au sujet d’un document de conférence qu’elle a écrit avec des collègues sur les problèmes environnementaux et éthiques associés aux grands modèles de langage basés sur l’IA sur lesquels Google est devenu dépendant pour ses principaux services.

Le co-patron de l’éthique de Google AI a verrouillé son compte de travail alors qu’il enquêtait sur l’éviction controversée d’un collègue

LIRE LA SUITE

La décision du géant du Web d’évincer Gebru, qui a suscité de nombreuses critiques dans la communauté universitaire, “souligne le risque que ces laboratoires découragent les employés de poursuivre des programmes de recherche qui ne correspondent pas à leurs intérêts commerciaux, ce qui pourrait entraîner le développement de technologies d’IA qui sont inéquitables, dangereux ou inadaptés au-delà des cas d’utilisation des entreprises qui les construisent », affirment les auteurs de l’article.

L’exode des cerveaux de l’IA a été documenté par d’autres chercheurs. Dans un article de 2019, par exemple, les boffins d’affaires de l’Université de Rochester, Michael Gofman et Zhao Jin, ont rapporté que «l’exode des cerveaux des professeurs d’IA vers l’industrie est sans précédent». Ils ont même mis en place le Brain Drain Index pour illustrer leurs résultats.

Les auteurs observent que le flux de chercheurs a tendance à favoriser l’industrie mais reflète un certain mouvement dans l’autre sens. Ils suggèrent qu’une explication à cela pourrait être que certains chercheurs universitaires peuvent ne pas se soucier de l’environnement du secteur privé – et à en juger par l’expérience de Gebru, il y a des inconvénients évidents.

Ils notent également que lorsque tous les changements de carrière parmi les types d’IA sont pris en compte, la plupart des mouvements restent dans le milieu universitaire.

À partir du papier … un graphique montrant le mouvement des boffins vers et depuis l’industrie et le monde universitaire. Cliquez pour agrandir

Le passage du milieu universitaire à l’industrie est plus prononcé, ont-ils constaté, parmi les chercheurs affiliés à des institutions prestigieuses, comme Carnegie Mellon, Stanford, Princeton et le MIT. Et le principal attrait de ceux qui effectuent une migration a été Google, en particulier après 2015.

Chomps de la chocolaterie

“Dans de nombreux cas, Google représente plus de 10% de toutes les transitions de chercheurs vers l’industrie à partir des principales institutions”, indique le journal, notant que Facebook est également devenu une destination populaire au cours des cinq dernières années.

Le document aborde certaines des différences entre la recherche du secteur privé et du secteur public. Les chercheurs en IA travaillant dans l’industrie ont tendance à être cités deux fois plus souvent et à publier moins que ceux qui travaillent dans le milieu universitaire. Dans le même temps, ces chercheurs de l’industrie en IA montrent des signes de stagnation académique, ce qui suggère que leurs employeurs pourraient être plus intéressés par la mise en œuvre d’idées établies que par de nouvelles techniques.

Mais les quatre chercheurs laissent de côté l’exploration des effets de la fuite des cerveaux de l’IA pour se concentrer sur les implications politiques de l’IA principalement pour le commerce, avec des considérations telles que l’éthique, la durabilité et le bien public dépriorisées.

<< Une sphère d'intérêt public en plein essor menant cette recherche sans avoir à équilibrer l'intégrité académique avec les intérêts commerciaux est, comme l'affaire Timnit Gebru avec laquelle nous avons commencé cet article, une exigence critique pour cet espace, et qui pourrait être menacée par le flux soutenu chercheurs universitaires et industriels que nous avons mis en évidence dans cet article », affirment les auteurs. ®