Les patrons qui utilisent l’IA pour embaucher des candidats risquent de discriminer les candidats handicapés

L’administration Biden et le ministère de la Justice ont averti les employeurs utilisant des logiciels d’IA à des fins de recrutement de prendre des mesures supplémentaires pour soutenir les candidats handicapés, sinon ils risqueraient de violer l’Americans with Disabilities Act (ADA).

En vertu de l’ADA, les employeurs doivent fournir des aménagements adéquats à tous les demandeurs d’emploi handicapés qualifiés afin qu’ils puissent participer équitablement au processus de candidature. Mais le déploiement croissant d’algorithmes d’apprentissage automatique par les entreprises dans leurs processus d’embauche ouvre de nouvelles possibilités qui peuvent défavoriser les candidats en situation de handicap.

La Commission pour l’égalité des chances en matière d’emploi (EEOC) et le DoJ ont publié cette semaine un nouveau document, fournissant des conseils techniques pour garantir que les entreprises ne violent pas l’ADA lorsqu’elles utilisent la technologie de l’IA à des fins de recrutement.

“Les nouvelles technologies ne doivent pas devenir de nouveaux moyens de discrimination. Si les employeurs sont conscients de la manière dont l’IA et d’autres technologies peuvent discriminer les personnes handicapées, ils peuvent prendre des mesures pour l’empêcher”, a déclaré la présidente de l’EEOC, Charlotte Burrows.

“En tant que nation, nous pouvons nous unir pour créer des lieux de travail où tous les employés sont traités équitablement. Ce nouveau document d’assistance technique aidera à garantir que les personnes handicapées seront incluses dans les opportunités d’emploi de l’avenir.”

Les entreprises qui utilisent des outils automatisés de traitement du langage naturel pour filtrer les CV, par exemple, peuvent rejeter les candidats qui présentent des lacunes dans leurs antécédents professionnels. Les personnes handicapées peuvent avoir dû s’absenter du travail pour des raisons de santé et risquent donc d’être automatiquement refusées au début du processus d’embauche malgré leur bonne qualification.

L’IA peut discriminer les personnes handicapées d’autres manières. Un logiciel de vision par ordinateur analysant le regard, les expressions faciales ou le ton d’un candidat n’est pas approprié pour ceux qui ont des troubles de la parole, sont aveugles ou paralysés. Les employeurs doivent prendre des précautions supplémentaires lorsqu’ils utilisent l’IA dans leurs décisions d’embauche, indique le document.

Les entreprises devraient demander aux éditeurs de logiciels fournissant les outils s’ils les ont conçus en pensant aux personnes handicapées. “Le fournisseur a-t-il tenté de déterminer si l’utilisation de l’algorithme désavantage les personnes handicapées ? Par exemple, le fournisseur a-t-il déterminé si l’un des traits ou caractéristiques mesurés par l’outil est corrélé à certains handicaps ?” Ça disait.

Les employeurs devraient réfléchir aux moyens de soutenir au mieux les personnes handicapées, par exemple en les informant de la manière dont ses algorithmes évaluent les candidats ou en leur donnant plus de temps pour passer les tests.

Si des algorithmes sont utilisés pour classer les candidats, ils pourraient envisager d’ajuster les scores pour les personnes handicapées. “Si les résultats moyens d’un groupe démographique sont moins favorables que ceux d’un autre (par exemple, si les résultats moyens des individus d’une race particulière sont moins favorables que les résultats moyens des individus d’une race différente), l’outil peut être modifié pour réduire ou éliminer la différence », selon le document.

“Les outils algorithmiques ne doivent pas constituer un obstacle pour les personnes handicapées cherchant à accéder à des emplois”, a conclu Kristen Clarke, procureure générale adjointe de la division des droits civils du ministère de la Justice. “Ces conseils aideront le public à comprendre comment l’utilisation de ces outils par un employeur peut enfreindre l’Americans with Disabilities Act, afin que les personnes handicapées connaissent leurs droits et que les employeurs puissent prendre des mesures pour éviter la discrimination.” ®