Projet de pillage de la vie privée sanctionné par une pénalité de purge FTC: un parvenu de l’IA a reçu l’ordre de supprimer les données et les algorithmes

Une entreprise de reconnaissance faciale basée en Californie a été chargée par la Federal Trade Commission des États-Unis de supprimer les modèles et les algorithmes d’intelligence artificielle qu’elle a développés en récoltant les photos et les vidéos des personnes sans autorisation, un remède qui suggère que les contrevenants à la vie privée pourraient ne plus être autorisés à bénéficier de -des données obtenues.

Everalbum, un créateur d’applications photo grand public qui a fermé ses portes le 31 août 2020 et a depuis relancé en tant que fournisseur de reconnaissance faciale sous le nom de Paravision, a conclu lundi un accord avec la FTC sur l’introduction en 2017 d’une fonctionnalité appelée “Amis” dans son application Ever abandonnée. L’agence de surveillance affirme que l’application a déployé un code de reconnaissance faciale pour organiser les photos des utilisateurs par défaut, sans autorisation.

Selon la FTC, entre juillet 2018 et avril 2019, Everalbum a déclaré aux gens qu’il n’utiliserait pas la reconnaissance faciale sur le contenu des utilisateurs sans leur consentement. La société aurait laissé les utilisateurs de certaines régions – l’Illinois, le Texas, Washington et l’UE – faire ce choix, mais a automatiquement activé la fonctionnalité pour ceux situés ailleurs.

L’agence affirme en outre que l’utilisation de la reconnaissance faciale par Everalbum va au-delà du soutien de la fonction Friends. La société aurait combiné les visages des utilisateurs avec des images faciales d’autres informations pour créer quatre ensembles de données qui ont informé sa technologie de reconnaissance faciale, qui est devenue la base d’un service de détection de visage pour les entreprises clientes.

La société aurait également dit aux consommateurs utilisant son application qu’elle supprimerait leurs données s’ils désactivaient leurs comptes, mais ne l’a fait qu’au moins avant octobre 2019.

Il n’y a rien que l’IA et l’automatisation ne peuvent résoudre – sauf les préjugés et les inégalités sur le lieu de travail, selon le rapport

LIRE LA SUITE

La FTC, en annonçant l’affaire et son règlement, a déclaré qu’Everalbum / Paravision serait tenu de supprimer: les photos et vidéos appartenant aux utilisateurs de l’application Ever qui ont désactivé leurs comptes; tous les imbrications de visage – représentations vectorielles des traits du visage – d’utilisateurs n’ayant pas donné leur consentement; et “tout modèle ou algorithme de reconnaissance faciale développé avec les photos ou vidéos des utilisateurs Ever”.

La FTC n’a pas fait cela dans des affaires de confidentialité antérieures avec des entreprises technologiques. Selon le commissaire de la FTC, Rohit Chopra, lorsque Google et YouTube ont accepté de payer 170 millions de dollars pour des allégations selon lesquelles les entreprises avaient collecté des données auprès d’enfants sans le consentement des parents, le règlement FTC “a permis à Google et YouTube de tirer profit de sa conduite, même après avoir payé une sanction civile. “

De même, lorsque la FTC a voté pour approuver un règlement avec Facebook au sujet des allégations selon lesquelles elle avait violé son accord de règlement sur la confidentialité de 2012, a-t-il déclaré, Facebook n’a pas eu à abandonner sa technologie ou ses données de reconnaissance faciale.

“Les commissaires ont précédemment voté pour permettre aux contrevenants à la loi sur la protection des données de conserver des algorithmes et des technologies qui tirent une grande partie de leur valeur de données mal obtenues”, a déclaré Chopra dans un communiqué [PDF]. “C’est une correction de cap importante.”

En réponse à une demande de Le registre, a déclaré un porte-parole de la FTC, alors que l’agence avait déjà émis des ordonnances exigeant que les entreprises suppriment des données, “il s’agit du premier cas de la FTC qui se concentre exclusivement sur la technologie de reconnaissance faciale, et les exigences particulières de suppression des données sont adaptées aux allégations factuelles de l’affaire. “

Ils ont dit aux consommateurs qu’ils feraient une chose avec leur photographie et se sont retournés et l’ont utilisé pour une technologie de surveillance faciale.

Lors d’un entretien téléphonique avec Le registre, Adam Schwartz, avocat principal de l’Electronic Frontier Foundation, a déclaré que l’EFF soutient généralement ce remède FTC.

“Nous pensons que ce que l’entreprise a fait ici était très mauvais”, a-t-il déclaré. “Ils ont dit aux consommateurs qu’ils feraient une chose avec leur photographie et se sont retournés et l’ont utilisé pour une technologie de surveillance faciale”, a-t-il déclaré.

“Une partie de la façon dont la FTC devrait résoudre ces problèmes consiste à faire en sorte que la société qui commet des actes répréhensibles dégage tous les avantages qu’elle a obtenus. Si elle construit un algorithme de reconnaissance faciale illégalement, alors le remède est de supprimer le système.”

Un porte-parole de Paravision AI a déclaré Le registre dans un e-mail indiquant que l’ordre de consentement FTC reflète les changements déjà mis en œuvre par l’entreprise

“Le service Ever a été fermé en août 2020 et la société n’a pas l’intention de gérer une entreprise de consommation à l’avenir”, a déclaré le porte-parole. “En septembre 2020, Paravision a publié son modèle de reconnaissance faciale de dernière génération qui n’utilise aucune des données des utilisateurs d’Ever. L’ordre de consentement reflète le cap que nous avions déjà fixé et renforce un ton attentif alors que nous nous tournons vers l’avenir, et nous le ferons bien sûr pleinement. respectez-le. ” ®