La conférence sur l’IA et les éducateurs de NYC interdisent les articles rédigés par ChatGPT

Les responsables de la Conférence internationale sur l’apprentissage automatique de cette année ont interdit aux universitaires de soumettre des articles contenant du texte généré par de grands modèles de langage et des outils comme ChatGPT, et ils ne sont pas les seuls à interdire ce type de matériel.

Les modèles de langage génératif basés sur du texte se sont améliorés et sont devenus largement accessibles depuis la sortie du premier système commercial GPT-3 d’OpenAI en 2020. Il existe désormais plusieurs types de produits disponibles qui sont adaptés à différents styles d’écriture. Les gens les utilisent de plus en plus pour générer du code, des essais ou des documents pour l’école ou le travail, incitant des organisations comme ICML à interdire le texte écrit par machine.

“Les articles qui incluent du texte généré à partir d’un modèle de langage à grande échelle (LLM) tel que ChatGPT sont interdits à moins que le texte produit ne soit présenté dans le cadre de l’analyse expérimentale de l’article”, ont annoncé les présidents du programme pour la conférence de cette année dans un communiqué. la semaine.

Cependant, les universitaires sont autorisés à utiliser l’IA pour peaufiner leur propre écriture, ce qui signifie qu’ils peuvent saisir leur propre texte dans un modèle et l’inciter à modifier leur travail pour améliorer son style ou sa grammaire. Les universitaires qui dirigent la conférence ICML de cette année ont déclaré qu’ils avaient décidé d’interdire les soumissions d’articles générés par l’IA pour se prémunir contre des problèmes tels que le plagiat, mais la politique n’est pas gravée dans le marbre et pourrait changer à l’avenir.

ICML n’est pas la seule organisation à interdire les articles générés par l’IA. Le département de l’éducation de la ville de New York a bloqué l’accès des étudiants à ChatGPT via les réseaux des écoles publiques.

“En raison de préoccupations concernant les impacts négatifs sur l’apprentissage des élèves et de préoccupations concernant la sécurité et l’exactitude du contenu, l’accès à ChatGPT est restreint sur les réseaux et les appareils des écoles publiques de la ville de New York”, a déclaré Jenna Lyle, porte-parole du département, dans un communiqué. Chalkbeat, cette semaine.

“Bien que l’outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas les compétences de pensée critique et de résolution de problèmes, qui sont essentielles à la réussite scolaire et tout au long de la vie”, a-t-elle averti.

La tempête à venir

Les modèles de langage comme ChatGPT sont formés sur du texte extrait d’Internet. Ils apprennent à repérer des modèles communs entre les mots pour prédire ce qu’il faut écrire ensuite en fonction d’une instruction ou d’une invite textuelle. Que ces systèmes plagient ou non les auteurs est discutable ; il semble y avoir peu de preuves montrant qu’ils reproduisent directement le travail connu pour générer de gros morceaux de texte, mais leurs sorties sont basées sur l’écriture des gens. S’ils ne font que copier du texte, l’écriture machine est-elle sujette à des problèmes de droit d’auteur ?

“Il y a, par exemple, une question sur la question de savoir si le texte ainsi que les images générées par des modèles génératifs à grande échelle sont considérés comme nouveaux ou de simples dérivés d’un travail existant. “Il y a aussi une question sur la propriété des extraits de texte, des images ou de tout média. échantillonnés à partir de ces modèles génératifs : lequel d’entre eux le possède, un utilisateur du modèle génératif, un développeur qui a formé le modèle ou des créateurs de contenu qui ont produit des exemples de formation », ont demandé les dirigeants d’ICML.

“Étant donné que la façon dont nous répondons à ces questions affecte directement notre processus d’examen, qui à son tour affecte les membres de notre communauté de recherche et leur carrière, nous devons être prudents et quelque peu conservateurs dans l’examen de cette nouvelle technologie. Malheureusement, nous n’avons pas eu assez de temps pour observer, enquêter et examiner ses implications pour notre processus de révision et de publication. Nous avons donc décidé d’interdire cette année la production/génération de texte papier ICML à l’aide de modèles linguistiques à grande échelle », ont-ils ajouté.

Que les universitaires décident de s’en tenir aux règles ou non, c’est à eux de décider. Il n’y a pas d’outils qui détectent efficacement le texte généré par l’IA, et ICML ne s’appuiera que sur les personnes signalant des documents suspects pendant le processus d’examen. Le texte généré par les machines est souvent en proie à des erreurs factuelles, et les auteurs qui rédigent leurs articles à l’aide de l’IA devront probablement modifier fortement ses sorties. ®