Plus de 1 000 visages LinkedIn générés par l’IA découverts

  • FrançaisFrançais



  • Deux chercheurs de Stanford sont tombés dans un trou de lapin LinkedIn, trouvant plus de 1 000 faux profils utilisant des visages générés par l’IA en bas.

    Renée DiResta et Josh Goldstein de l’Observatoire Internet de Stanford ont fait la découverte après que DiResta ait reçu un message d’un profil signalé comme appartenant à un “Keenan Ramsey”. Cela ressemblait à un argumentaire de vente de logiciels normal à première vue, mais après une enquête plus approfondie, il est devenu évident que Ramsey était une personne entièrement fictive.

    Alors que l’image semblait être une photo d’entreprise standard, elle comprenait également plusieurs drapeaux rouges indiquant qu’il s’agissait d’un visage généré par l’IA comme ceux générés par des sites Web comme Cette personne n’existe pas. DiResta a été spécifiquement avertie par l’alignement des yeux de Ramsey (le point mort de la photo), ses boucles d’oreilles (elle n’en portait qu’une) et ses cheveux, dont plusieurs mèches se sont estompées en arrière-plan.

    Ce n’est pas la première fois qu’un cercle de bots face à l’IA se lance sur les réseaux sociaux. En 2021, plusieurs comptes appartenant ostensiblement aux employés des entrepôts d’Amazon ont été bannis de Twitter, bon nombre de leurs photos de profil semblant provenir du même type d’IA que les dernières LinkedIn. Amazon a nié tout lien ou responsabilité pour les profils et leurs tweets.

    L’incident de Twitter est différent et sans doute pire : au lieu d’essayer de faire une vente d’une manière moins directe, les bots Twitter d’Amazon et d’autres sources poussent généralement la désinformation et la propagande, à la fois pour les entreprises et les gouvernements.

    “Ce n’est pas une histoire de mésinformation ou de désinformation, mais plutôt l’intersection d’un cas d’utilisation commerciale assez banal avec la technologie de l’IA, et les questions d’éthique et d’attentes qui en résultent. Quelles sont nos hypothèses lorsque nous rencontrons d’autres personnes sur les réseaux sociaux ? Quelles actions traversent la ligne de la manipulation”, DiRestra mentionné sur Twitter.

    NPR a examiné les affirmations de DiRestra et Goldstein et a trouvé plus de 70 entreprises liées aux faux profils. Plusieurs entreprises ont déclaré avoir embauché des spécialistes du marketing externes, mais ont exprimé leur surprise lorsqu’elles ont été informées des faux profils LinkedIn. Les entreprises ont également nié avoir autorisé les campagnes.

    Des comptes comme celui de Ramsey sont utilisés par les entreprises pour proposer des logiciels à de nouveaux clients potentiels, et chaque fois qu’une cible répond, elle est redirigée vers une personne réelle. Grâce à cette technique, les entreprises sont en mesure d’élargir considérablement leur portée sans avoir à embaucher de nouvelles personnes, a déclaré NPR.

    Qu’y a-t-il dans un visage d’IA ?

    Les faux visages utilisés par Ramsey et l’innombrable armée de bots comme elle sont générés par des réseaux antagonistes généraux, ou GAN. Un GAN utilise deux bots, un pour générer de faux visages et un autre pour les détecter, afin de produire les meilleurs résultats possibles : ce n’est que lorsque le bot de détection ne peut pas faire la distinction entre un vrai et un faux visage que l’image est transmise.

    Il peut être difficile de distinguer un visage généré par GAN d’un vrai, mais il y a quelques signes avant-coureurs:

    • Les arrière-plans sont souvent indistincts, flous ou irréguliers
    • Les vêtements semblent souvent irréguliers, avec des cols incohérents, des lignes imprécises et d’autres artefacts similaires
    • Les dents peuvent apparaître irrégulières ou se fondre dans les lèvres
    • Les cheveux semblent avoir des mèches rebelles en excès, qui peuvent disparaître et réapparaître, tandis que les cheveux plus longs peuvent sembler imprécis
    • Les reflets et l’éclairage peuvent être irréguliers
    • Pépins dans la peau
    • Accessoires manquants ou irréguliers
    • Les yeux de la personne sont parfaitement centrés dans l’image

    Une étude récente a révélé que la personne moyenne n’a pas plus de chance que de chance de distinguer un vrai visage d’un visage généré par l’IA. Vous pensez pouvoir faire mieux ? Testez-vous sur ce site. ®

    L'équipe de Comparaland

    L'équipe rédactionnnelle du site

    Pour contacter personnellement le taulier :

    Laisser un commentaire

    Votre adresse e-mail ne sera pas publiée.