L’algorithme des offres d’emploi de Facebook discrimine toujours le sexe, LinkedIn pas tellement

Deux ans après le règlement de cinq poursuites par Facebook, affirmant que ses annonces d’emploi, de logement et de crédit étaient illégalement discriminatoires, des chercheurs de l’Université de Californie du Sud ont constaté que l’entreprise sert toujours des offres d’emploi de manière injuste, en fonction du sexe.

Dans un article intitulé “Auditing for Discrimination in Algorithms Delivering Job Ads”, qui devrait paraître à la conférence Web plus tard ce mois-ci, Basileal Imana, doctorante à l’USC, Aleksandra Korolova, professeur adjoint d’informatique à l’USC, et John Heidemann, USC professeur de recherche en informatique, explorez les biais dans la diffusion d’annonces d’emploi algorithmiques sur Facebook et LinkedIn.

Korolova, dans un e-mail à Le registre, a expliqué que puisque la loi américaine autorise la différenciation de la diffusion des annonces sur la base des qualifications, elle et ses collègues ont développé un moyen de tester le biais tout en éliminant les biais légaux basés sur les qualifications.

“Même en contrôlant les qualifications professionnelles, Facebook introduit un biais de livraison par sexe pour les offres d’emploi avec un ciblage équilibré”, a déclaré Korolova, notant que cela avance l’argument selon lequel “les algorithmes de diffusion d’annonces de Facebook ne sont pas simplement biaisés mais en fait discriminatoires”.

“Fait intéressant, nous n’avons pas trouvé un tel effet lors de l’audit des algorithmes de LinkedIn”, a-t-elle ajouté.

En 2019, Korolova faisait partie d’un groupe différent d’universitaires qui, peu de temps après que Facebook ait réglé les poursuites pour droits civils susmentionnées et annoncé des changements pour lutter contre la publicité discriminatoire, ont trouvé un comportement biaisé dans la diffusion des publicités de Facebook attribuable aux budgets publicitaires et au contenu publicitaire.

Il est temps de vérifier à nouveau

Cette fois, Korolova et ses collègues ont examiné comment les plates-formes publicitaires algorithmiques de Facebook et de LinkedIn faussent les offres d’emploi en les diffusant aux téléspectateurs identifiés comme hommes et femmes – lorsque ces données sont disponibles – dans un rapport qui diffère de la répartition par sexe attendue pour le poste. .

Ils ont réussi cela en comparant les performances de deux annonces dans trois catégories d’emploi différentes – livreur, ingénieur logiciel et associé aux ventes – avec des différences connues dans la répartition par sexe. Ils ont ensuite pesé le ratio attendu par rapport au ratio réel entre les sexes parmi les destinataires des publicités Facebook et LinkedIn.

Une de ces paires d’annonces consistait en une annonce pour être un chauffeur-livreur pour Domino’s Pizza (98 pour cent d’hommes) et une annonce pour être un chauffeur-livreur faisant la navette d’épicerie pour Instacart (plus de 50 pour cent de femmes).

Quatre femmes demandent à être libérées de l’arbitrage forcé pour poursuivre Infosys pour discrimination sexuelle généralisée

LIRE LA SUITE

«La répartition de facto entre les sexes parmi les conducteurs de ces services est asymétrique pour les hommes pour Domino et pour les femmes pour Instacart», explique le journal.

«Si une plateforme montre l’annonce Instacart à relativement plus de femmes qu’une annonce Domino, nous concluons que l’algorithme de la plateforme est discriminatoire, car les deux emplois ont des exigences de qualification similaires et donc un biais de genre ne peut pas être attribué aux différences de qualifications entre les sexes représentés dans le public.”

Les chercheurs ont trouvé «un biais de genre statistiquement significatif sur Facebook, et ne montrent aucun biais de genre sur LinkedIn».

Pour les offres d’emploi en génie logiciel, les chercheurs choisissent des terrains de recrutement pour Netflix (35% de femmes) et Nvidia (19% de femmes). Ils s’attendaient à ce qu’une plate-forme publicitaire utilisant un algorithme qui apprend et intègre les différences existantes dans les données démographiques des employés montre l’offre d’emploi Netflix à plus de femmes que l’annonce d’emploi Nvidia et ils n’ont pas été surpris.

Facebook a de nouveau faussé sa distribution publicitaire par sexe; LinkedIn ne l’a pas fait.

Pour les postes d’associé aux ventes, les offres d’emploi pour Reed Jewelers (les ventes de bijoux étant de 62% de femmes selon les statistiques fédérales sur l’emploi) et Leith Automotive (les ventes d’automobiles étant de 17,9% de femmes) ont été comparées.

Encore une fois, cette catégorie d’offres d’emploi a produit des résultats similaires aux précédents: il y avait «un décalage de livraison statistiquement significatif entre tous les emplois sur Facebook, mais pas pour deux des trois cas sur LinkedIn».

La distorsion des publicités de Facebook par le genre ne peut pas être expliquée par des différences de qualifications, affirment les chercheurs, notant que leurs résultats suggèrent «que les algorithmes de Facebook peuvent être responsables de résultats discriminatoires illégaux».

Selon Korolova, Facebook a été informé des résultats des chercheurs et n’a pas répondu. Le registre a demandé un commentaire à Facebook, mais nous n’avons pas eu de réponse.

Quelque chose se passe

Interrogé sur les raisons pour lesquelles l’algorithme de Facebook se comporte différemment de celui de LinkedIn, Korolova a proposé plusieurs possibilités.

“Facebook peut avoir plus de sources de données sur les utilisateurs que LinkedIn, ce qui leur permet de mieux saisir les biais existants dans le monde réel”, a-t-elle suggéré. “Facebook peut accorder plus de poids aux estimations d’engagement dans ses algorithmes de diffusion d’annonces que LinkedIn. LinkedIn peut faire un effort délibéré dans ses algorithmes pour garantir l’équité.”

Elle a également admis que la méthodologie de recherche utilisée pourrait être insuffisante pour analyser l’algorithme de LinkedIn, mais a noté que LinkedIn semble avoir fait un effort concerté pour aborder l’équité algorithmique.

Korolova a déclaré qu’elle et ses collègues ne prétendraient pas proposer une manière optimale de présenter des offres d’emploi. “Je pense que notre hypothèse est que le sexe des destinataires des annonces doit refléter le sexe de la population cible, comme cela se produirait à partir d’un algorithme naïf de diffusion d’annonces à tous les visiteurs”, a-t-elle déclaré.

Les annonceurs intéressés à accroître la diversité des employés, a-t-elle déclaré, “devraient être en mesure de faire de la publicité auprès d’un public équilibré, plutôt que d’avoir des décisions sur les destinataires de leurs publicités qui seront” annulées “par Facebook.”

Tout en reconnaissant que des caractéristiques extérieurement neutres peuvent refléter un biais, citant l’exemple de la façon dont les données de localisation du domicile capturent le biais de la redlining historique, Korolova a déclaré qu’il n’est pas inévitable que la diffusion d’annonces de Facebook soit discriminatoire.

“Le fait que leurs résultats soient discriminatoires dans nos données est particulièrement surprenant étant donné les multiples observations antérieures selon lesquelles les algorithmes de Facebook conduisent à une livraison biaisée et leurs déclarations selon lesquelles ils y répondaient”, a-t-elle déclaré.

«Avec Facebook, ces résultats s’alignent sur leur modèle commercial d’optimisation de la« valeur »(ou de l’engagement) de l’annonceur et de l’utilisateur, ce qui suggère l’importance de l’évaluation externe et de la réglementation potentielle.»

Citant des coûts de recherche approchant 5000 $ en frais publicitaires et un investissement en temps de plusieurs mois, les chercheurs affirment que les plates-formes publicitaires comme Facebook et LinkedIn devraient permettre de vérifier plus facilement et plus abordable que les publicités sont conformes aux lois anti-discrimination. Et comme il est peu probable que ces plates-formes prennent de telles mesures par elles-mêmes, elles suggèrent que les législateurs devraient adopter une législation pour rendre obligatoire l’accès.

“Nous aimerions rendre possible l’audit par des chercheurs d’intérêt public des algorithmes de diffusion d’annonces de Facebook, car nous pensons que cela conduira à une plus grande transparence sur le biais et encouragera à résoudre le problème”, a déclaré Korolova. “Les efforts de transparence actuels de Facebook sont loin d’atteindre les objectifs de faisabilité.” ®