Samsung aurait divulgué ses propres secrets via ChatGPT

Moins de trois semaines après que Samsung a levé l’interdiction imposée aux employés d’utiliser ChatGPT, le chaebol aurait divulgué ses propres secrets au moins trois fois, y compris des informations sensibles sur les semi-conducteurs en cours de développement.

L’interdiction visait à l’origine à protéger les données de l’entreprise, mais a été levée le 11 mars pour améliorer la productivité et maintenir l’engagement du personnel avec les derniers outils technologiques cool du monde.

Selon un rapport des médias locaux coréens, ces secrets désormais divulgués incluent la mesure de l’équipement et les données de rendement de la solution d’appareils et de l’unité commerciale des semi-conducteurs du conglomérat.

Un employé a déclaré au point de vente local qu’il avait copié tout le code source problématique d’un programme de téléchargement de base de données de semi-conducteurs, l’avait saisi dans ChatGPT et s’était renseigné sur une solution.

Un autre code de programme téléchargé conçu pour identifier l’équipement défectueux, et un troisième a téléchargé les enregistrements d’une réunion dans le but de générer automatiquement des minutes.

La FAQ de ChatGPT indique “Vos conversations peuvent être examinées par nos formateurs en IA pour améliorer nos systèmes.”

Les secrets de Samsung pourraient donc être accessibles à OpenAI – une entité qui s’intéresse plus qu’éphémère à la technologie et aux affaires du géant coréen.

Une fois les incidents découverts, Samsung aurait appliqué des “mesures d’urgence” qui incluent la limitation de la capacité de téléchargement à 1024 octets par question.

“Si un accident similaire se produit même après que des mesures de protection des informations d’urgence ont été prises, l’accès à ChatGPT peut être bloqué sur le réseau de l’entreprise”, auraient averti les employés de Samsung.

Le chaebol avait déjà averti ses employés de ne pas divulguer d’informations confidentielles lorsqu’il a levé l’interdiction générale de ChatGPT. OpenAI met également en garde contre le téléchargement de données sensibles.

À compter du 1er mars de cette année, la politique d’OpenAI stipule que les utilisateurs de l’API doivent accepter de partager des données pour former ou améliorer ses modèles, tandis que les services non API – comme ChatGPT ou DALL-E – exigent qu’un utilisateur se désinscrive afin d’éviter d’avoir leurs données utilisées.

“Nous supprimons toutes les informations personnellement identifiables des données que nous avons l’intention d’utiliser pour améliorer les performances du modèle. Nous n’utilisons également qu’un petit échantillon de données par client pour nos efforts visant à améliorer les performances du modèle”, affirme OpenAI.

Les médias locaux indiquent que Samsung envisage maintenant de créer son propre service d’IA interne pour éviter de nouveaux incidents.

Le Reg a demandé à Samsung de confirmer les détails de cette histoire, mais n’avait pas reçu de réponse au moment de la rédaction.

Selon Le temps de la Coréel’incident a ébranlé les entreprises technologiques nationales, notamment le fabricant de puces SK hynix et la société de matériel grand public LG Display, qui travaillent actuellement sur des lignes directrices pour l’utilisation des chatbots IA.

SK hynix aurait bloqué l’utilisation de chatbots sur son réseau interne et les employés souhaitant utiliser le service doivent demander des approbations de sécurité. LG Display a apparemment décidé de lancer une campagne éducative afin que son personnel comprenne comment protéger les secrets de l’entreprise.

Vraisemblablement, la première étape est “ne les téléchargez pas sur le site Web de quelqu’un d’autre”. ®