Arrêtez d’utiliser des outils d’IA générative tels que ChatGPT, le personnel des commandes Samsung
Samsung a dit au personnel de cesser d'utiliser des outils d'IA générative tels que ChatGPT et Bard , craignant qu'ils ne présentent un risque pour la sécurité, a rapporté Bloomberg lundi.
Cette décision fait suite à une série de dérapages embarrassants le mois dernier lorsque des employés de Samsung auraient introduit à trois reprises des données sensibles liées aux semi-conducteurs dans ChatGPT.
ChatGPT, comme d'autres outils d'IA générative, est en partie formé sur les données soumises, de sorte que tout ce que Samsung y alimente pourrait apparaître en réponse à une demande faite par un autre utilisateur n'importe où dans le monde, bien que le développeur de ChatGPT, OpenAI, ait récemment ajouté un mode incognito qui permet aux utilisateurs d'empêcher l'utilisation de leurs entrées pour la formation de modèles d'IA. OpenAI lui-même peut également voir les données lorsqu'il examine les conversations pour améliorer ses systèmes et s'assurer que le contenu est conforme à ses politiques et exigences de sécurité.
Dans une note vue par Bloomberg, Samsung a ordonné au personnel de s'abstenir d'utiliser la technologie sur les ordinateurs, tablettes et téléphones appartenant à l'entreprise, ainsi que sur ses réseaux internes, avertissant que les données transmises aux plateformes d'IA générative pourraient finir par trouver leur chemin. aux personnes extérieures à l'entreprise.
"L'intérêt pour les plates-formes d'IA génératives telles que ChatGPT a augmenté en interne et en externe", indique le mémo de Samsung. "Bien que cet intérêt se concentre sur l'utilité et l'efficacité de ces plates-formes, il existe également des inquiétudes croissantes concernant les risques de sécurité présentés par l'IA générative."
Il a ajouté que les travailleurs qui ne respectent pas les consignes de sécurité pourraient faire l'objet de mesures disciplinaires « pouvant aller jusqu'au licenciement ».
Le mémo indique que Samsung est actuellement en train de "revoir les mesures de sécurité pour créer un environnement sécurisé permettant d'utiliser en toute sécurité l'IA générative afin d'améliorer la productivité et l'efficacité des employés", mais indique que jusqu'à ce que les mesures aient été convenues, l'entreprise "restreint temporairement l'utilisation de IA générative.
Dans le cadre des efforts visant à intégrer les outils d'IA en toute sécurité sur son lieu de travail, Samsung développerait sa propre plate-forme d'IA pour la traduction, la synthèse de documents et le développement de logiciels.
Comme le souligne Bloomberg, Samsung est la dernière grande entreprise à s'opposer à la technologie pour des raisons de sécurité, des banques telles que JPMorgan Chase & Co., Bank of America Corp. et Citigroup Inc. décidant d'interdire ou du moins de restreindre son utilisation dans le lieu de travail.
En effet, la technologie de l'IA évolue à un rythme si rapide que de nombreuses entreprises ont été prises de court par son arrivée, laissant beaucoup d'entre elles évaluer à la hâte comment l'intégrer – voire la restreindre – dans le cadre de travail.