Une nouvelle recherche montre que les gens sont plus susceptibles de s’appuyer sur des algorithmes –
Français
Malgré l’inquiétude croissante suscitée par l’intrusion d’algorithmes dans la vie quotidienne, les gens peuvent être plus disposés à faire confiance à un programme informatique que leurs semblables, surtout si une tâche devient trop difficile, selon une nouvelle recherche menée par des scientifiques des données de l’Université de Géorgie.
Du choix de la chanson suivante de votre liste de lecture au choix du pantalon de la bonne taille, les gens se fient davantage aux conseils d’algorithmes pour les aider à prendre des décisions quotidiennes et à rationaliser leur vie.
«Les algorithmes sont capables d’accomplir un grand nombre de tâches, et le nombre de tâches qu’ils sont capables d’accomplir augmente pratiquement chaque jour», a déclaré Eric Bogert, Ph.D. étudiant au département des systèmes d’information de gestion du Terry College of Business. “Il semble qu’il y ait un biais en faveur de s’appuyer davantage sur les algorithmes, car une tâche devient plus difficile et cet effet est plus fort que le biais consistant à se fier aux conseils d’autres personnes.”
Bogert a travaillé avec le professeur des systèmes d’information de gestion Rick Watson et le professeur assistant Aaron Schecter sur le papier, “Les humains comptent plus sur les algorithmes que l’influence sociale comme une tâche devient plus difficile”, qui a été publié le 13 avril dans Nature’s Rapports scientifiques journal.
Leur étude, qui a impliqué 1 500 personnes évaluant des photographies, fait partie d’un ensemble plus large de travaux analysant comment et quand les gens travaillent avec des algorithmes pour traiter l’information et prendre des décisions.
Pour cette étude, l’équipe a demandé à des volontaires de compter le nombre de personnes sur une photo d’une foule et a fourni des suggestions générées par un groupe d’autres personnes et des suggestions générées par un algorithme.
Au fur et à mesure que le nombre de personnes sur la photo augmentait, le comptage devenait plus difficile et les gens étaient plus susceptibles de suivre la suggestion générée par un algorithme plutôt que de se compter eux-mêmes ou de suivre la «sagesse de la foule», a déclaré Schecter.
Schecter a expliqué que le choix de compter comme tâche d’essai était important car le nombre de personnes sur la photo rend la tâche objectivement plus difficile à mesure qu’elle augmente. C’est aussi le type de tâche pour laquelle les profanes s’attendent à ce que les ordinateurs soient performants.
“C’est une tâche pour laquelle les gens perçoivent qu’un ordinateur sera bon, même s’il peut être plus sujet à des préjugés que de compter des objets”, a déclaré Schecter. “L’un des problèmes courants de l’IA est lorsqu’elle est utilisée pour octroyer des crédits ou pour approuver des prêts à quelqu’un. Bien que ce soit une décision subjective, il y a beaucoup de chiffres là-dedans – comme le revenu et la cote de crédit – donc les gens se sentent comme c’est un bon travail pour un algorithme. Mais nous savons que la dépendance conduit à des pratiques discriminatoires dans de nombreux cas en raison de facteurs sociaux qui ne sont pas pris en compte. “
La reconnaissance faciale et les algorithmes de recrutement ont également fait l’objet d’un examen minutieux ces dernières années, car leur utilisation a révélé des préjugés culturels dans la façon dont ils ont été construits, ce qui peut entraîner des inexactitudes lors de la mise en correspondance des visages avec les identités ou de la sélection de candidats qualifiés, a déclaré Schecter.
Ces biais peuvent ne pas être présents dans une tâche simple comme le comptage, mais leur présence dans d’autres algorithmes de confiance est une raison pour laquelle il est important de comprendre comment les gens s’appuient sur les algorithmes lorsqu’ils prennent des décisions, a-t-il ajouté.
Cette étude faisait partie du programme de recherche plus vaste de Schecter sur la collaboration homme-machine, qui est financé par une subvention de 300 000 dollars du US Army Research Office.
“Le but final est d’examiner des groupes d’humains et de machines qui prennent des décisions et de trouver comment nous pouvons les amener à se faire confiance et comment cela change leur comportement”, a déclaré Schecter. “Parce qu’il y a très peu de recherches dans ce contexte, nous commençons par les fondamentaux.”
Schecter, Watson et Bogert étudient actuellement comment les gens s’appuient sur des algorithmes lorsqu’ils émettent des jugements créatifs et des jugements moraux, comme l’écriture de passages descriptifs et la mise en liberté sous caution des prisonniers.
Source de l’histoire:
Matériaux fourni par Université de Géorgie. Original écrit par J. Merritt Melancon. Remarque: le contenu peut être modifié pour le style et la longueur.
