Les sénateurs américains craignent l’augmentation des e-mails d’escroquerie fiscale écrits par ChatGPT

Un groupe bipartite de sénateurs américains a exhorté l’Internal Revenue Service (IRS) à “utiliser tous les outils à sa disposition pour contrer les escroqueries fiscales générées par l’IA” et à protéger les contribuables américains contre les escrocs à la recherche d’argent utilisant des chatbots et des deepfakes pour duper les marques.

Dans une lettre adressée cette semaine au commissaire de l’IRS Danny Werfel, les sénateurs Maggie Hassan, (D-NH), Ron Wyden (D-OR), Chuck Grassley (R-IA) et James Lankford (R-OK) ont tiré la sonnette d’alarme à ce sujet ” menace émergente pour les contribuables » – en particulier les familles, les personnes âgées et les petites entreprises. Et ils veulent savoir comment l’IRS se prépare à contrer ces escroqueries d’ici la fin du mois.

Cette lettre aurait peut-être été plus utile si elle avait été envoyée un peu plus tôt. La journée fiscale américaine était le 18 avril, bien que les gens puissent déposer leur déclaration après s’ils obtiennent une prolongation du délai.

“Au cours des saisons de déclaration de revenus précédentes, de nombreux messages frauduleux pouvaient être identifiés par des fautes d’orthographe, des erreurs grammaticales et des références inexactes au code des impôts”, ont écrit les sénateurs. [PDF]. “En revanche, les escroqueries fiscales générées par les nouveaux outils d’IA sont composées de manière professionnelle et spécifiquement conçues pour tromper les contribuables vulnérables.”

Les sénateurs citent également des “rapports récents” de Politico dans lesquels “un expert en cybersécurité a démontré comment ChatGPT peut être utilisé pour générer des messages frauduleux à partir de l’IRS”. L’expert est Sergey Shykevich, responsable du renseignement sur les menaces chez Check Point Research, qui, selon Politico, “a incité ChatGPT à produire un exemple d’e-mail d’escroquerie fiscale contenant des logiciels malveillants”.

En réponse, “le chatbot AI a recraché un e-mail grammaticalement immaculé sur le crédit de rétention des employés qui demandait au destinataire son numéro d’identification d’employeur, des informations sur la paie et une liste de ses employés et leurs numéros de sécurité sociale”. De tels messages pourraient être utilisés pour tromper les gens afin qu’ils transmettent leurs coordonnées à des fraudeurs.

Les escroqueries fiscales générées par les nouveaux outils d’IA sont composées de manière professionnelle et spécialement conçues pour tromper les contribuables vulnérables

Cependant, il ne semble pas que ChatGPT ait écrit un logiciel malveillant. Nous avons demandé à Check Point de clarifier ce point et nous le mettrons à jour lorsque nous aurons des nouvelles de la société de sécurité. Check Point a précédemment affirmé que l’IA peut écrire “une chaîne d’attaque complète”, ce qui nécessiterait des invites humaines importantes pour sauter les garde-corps OpenAI.

Bien que les messages de phishing et les appels d’escroquerie fiscale rédigés par le chatbot semblent être efficaces pour inciter certains contribuables à transmettre leurs informations de compte bancaire à un site Web usurpé ou à payer une fausse pénalité fiscale par téléphone, nous devons noter que les escrocs profitent de ces stratagèmes depuis des décennies – sans l’aide d’assistants IA – selon l’IRS.

Les escrocs utilisent le courrier ordinaire, le téléphone ou le courrier électronique…

“Des milliers de personnes ont perdu des millions de dollars et leurs informations personnelles à cause d’escroqueries fiscales”, a averti l’agence. “Les escrocs utilisent le courrier ordinaire, le téléphone ou le courrier électronique pour configurer des particuliers, des entreprises, des professionnels de la paie et des impôts.”

Et tandis que les mécréants peuvent utiliser des outils d’IA pour aider à tout ce qui précède, comme l’ont noté les chercheurs en sécurité, ces chatbots cassent parfois une phrase à mi-chemin, ou simplement inventent des trucs, ce qui pourrait donner le jeu aux marques. En d’autres termes : des éditeurs humains seront toujours nécessaires pour rédiger ou au moins relire du texte, malveillant ou autre – pour l’instant.

De plus, nous avons vu des rapports sur des systèmes d’intelligence artificielle écrivant des extraits de code ou fournissant des didacticiels pour faire gagner du temps aux développeurs et réduire certains angles dans le développement de logiciels malveillants, bien que le consensus semble être que les logiciels malveillants ou les exploits purement développés par ChatGPT ne sont pas encore une réalité. .

Lorsque des escroqueries ou des virus informatiques conçus par LLM apparaissent, les sénateurs veulent s’assurer que l’IRS est prêt à combattre les bots.

Dans leur lettre, ils ont demandé à l’agence de répondre à plusieurs questions sur la manière dont elle “se prépare à une augmentation potentiellement significative” des escroqueries générées par l’IA et sur la manière dont elle prévoit d’éduquer les contribuables et les préparateurs à ce sujet. Les sénateurs veulent également savoir si l’IRS a reçu à ce jour des rapports sur des escroqueries à l’IA et, dans l’affirmative, combien ont-elles coûté en pertes monétaires.

Nous avons décidé de poser la question au chatbot lui-même. Voici ce que ChatGPT nous a dit :

“En tant que modèle de langage IA, je n’ai aucune connaissance ni aucun contrôle sur la manière dont les individus utilisent les informations que je fournis, y compris s’ils les utilisent pour des activités frauduleuses telles que des escroqueries fiscales. Cependant, je tiens à préciser que ces activités sont illégal et contraire à l’éthique.”

Il a poursuivi: “Il est important d’être conscient de ces escroqueries et de vous protéger en faisant preuve de prudence lorsque vous partagez des informations personnelles et financières avec des entités ou des individus inconnus. Si vous pensez avoir été victime d’une escroquerie fiscale, vous devez le signaler. immédiatement aux autorités compétentes.” ®