La FTC est invitée à geler le GPT-4 “biaisé et trompeur” d’OpenAI

Le Center for AI and Digital Policy, une organisation de recherche à but non lucratif, a exhorté la Federal Trade Commission américaine à enquêter sur OpenAI, affirmant que le parvenu a violé les lois sur le commerce en publiant GPT-4, un produit qui, selon le centre, trompe et met les gens en danger.

Dans une plainte [PDF] au chien de garde des consommateurs, déposé jeudi, le CAIDP a appelé les responsables à examiner et peut-être à réglementer la technologie d’IA générative d’OpenAI, en particulier son dernier modèle GPT-4.

“La Federal Trade Commission a déclaré que l’utilisation de l’IA devrait être” transparente, explicable, juste et empiriquement solide tout en favorisant la responsabilité “”, a déclaré le centre de politique. “Le produit GPT-4 d’OpenAI ne répond à aucune de ces exigences. Il est temps que la FTC agisse.

“Il devrait y avoir une surveillance et une évaluation indépendantes des produits commerciaux d’IA proposés aux États-Unis. Le CAIDP exhorte la FTC à ouvrir une enquête sur OpenAI, à interdire de nouvelles versions commerciales de GPT-4 et à assurer la mise en place des garde-fous nécessaires pour protéger les consommateurs, les entreprises , et le marché commercial.”

Le groupe a mis en évidence les lacunes et les risques mis en évidence dans la carte système de GPT-4, un rapport décrivant les capacités techniques du modèle.

OpenAI a admis que GPT-4 est loin d’être parfait ; il peut perpétuer des préjugés, générer des textes préjudiciables et diffuser de fausses informations qui induisent les utilisateurs en erreur. Le PDG de la startup, Sam Altman, est même allé jusqu’à dire qu’il a en fait “un peu peur” de l’impact de la technologie sur la société.

Les systèmes dorsaux gérant les modèles d’OpenAI se sont également avérés non sécurisés, laissant divulguer les informations personnelles et les détails de paiement des personnes.

En vertu de l’article 5 de la loi FTC, “les actes ou pratiques déloyaux ou trompeurs dans le commerce ou affectant le commerce” sont interdits. Le CAIDP a affirmé qu’OpenAI avait induit les internautes en erreur en lançant un produit “partial, trompeur et présentant un risque pour la vie privée et la sécurité publique”, bien qu’il connaisse les dangers qu’il pose. OpenAI a également été critiqué dans la plainte pour ne pas être plus transparent sur son modèle et ses données de formation.

“Le CAIDP exhorte la commission à ouvrir une enquête sur OpenAI et à conclure que la version commerciale de GPT-4 viole l’article 5 de la loi FTC, les directives bien établies de la FTC aux entreprises sur l’utilisation et la publicité des produits d’IA, ainsi que le normes émergentes pour la gouvernance de l’IA que le gouvernement des États-Unis a officiellement approuvées et les lignes directrices universelles pour l’IA que les principaux experts et sociétés scientifiques ont recommandées.

Le groupe a demandé à la FTC d’arrêter tout déploiement commercial ultérieur des produits basés sur GPT d’OpenAI, de procéder à une évaluation indépendante de sa technologie et de s’assurer qu’elle respecte les règles de la FTC avant de pouvoir revenir sur le marché. Bien que l’organisme de surveillance du commerce ait récemment publié des déclarations mettant en garde les entreprises contre la surmédiatisation et la diffusion de produits d’IA qui peuvent être utilisés à mauvais escient, réprimer GPT-4 et OpenAI serait une tâche très difficile.

Le registre a demandé à OpenAI de commenter. Et non, nous n’allons pas demander de réponse à ChatGPT, pour des raisons qui devraient être évidentes maintenant. ®