Samsung ordonne l'interdiction de l'IA générative aux employés en raison de problèmes de sécurité

Samsung ne veut pas que son personnel fasse entièrement confiance à l'IA générative comme ChatGPT lorsqu'il s'agit d'informations sensibles de l'entreprise. Ainsi, la société sud-coréenne interdit désormais l'utilisation des services d'IA générative au sein de ses effectifs.

"Nous vous demandons de respecter scrupuleusement nos directives de sécurité et le non-respect de cette consigne peut entraîner une violation ou une compromission des informations de l'entreprise entraînant des mesures disciplinaires pouvant aller jusqu'au licenciement", a déclaré Samsung dans une note examinée par Bloomberg Nouvelles.

Selon le rapport, la société a mené une enquête en avril, montrant que 65 % des personnes interrogées pensaient que l'utilisation d'outils d'IA sur le lieu de travail pouvait se traduire par d'éventuels problèmes de sécurité. Fait intéressant, Samsung a également découvert le mois dernier que certains de ses ingénieurs avaient "accidentellement" divulgué du code source interne lorsqu'ils l'ont téléchargé sur ChatGPT en avril.

Le rapport indique que Samsung a publié le mémo soulignant les problèmes de sécurité. Il craint que les informations confidentielles soumises aux outils d'IA soient stockées sur des serveurs externes, ce qui échappe au contrôle de Samsung et pourrait entraîner des fuites publiques. 

Le mémo avertissait le personnel d'une division spécifique de l'utilisation d'outils d'IA générative et les encourageait à suivre les politiques de l'entreprise, soulignant que ceux qui refusaient de le faire s'exposaient à des sanctions. Malgré l'avertissement, Samsung a noté dans la note au personnel que ce serait temporaire, partageant l'intention de "créer un environnement sécurisé" pour l'utilisation de technologies telles que ChatGPT.

"Le siège examine les mesures de sécurité pour créer un environnement sécurisé permettant d'utiliser en toute sécurité l'IA générative afin d'améliorer la productivité et l'efficacité des employés", indique le mémo. "Cependant, jusqu'à ce que ces mesures soient préparées, nous restreignons temporairement l'utilisation de l'IA générative." 

Samsung a rejoint d'autres sociétés (par exemple, JPMorgan Chase & Co., Bank of America Corp. et Citigroup Inc.) qui ont déjà interdit l'utilisation de l'IA générative dans leurs lieux respectifs en raison des mêmes préoccupations. Le départ de ces entreprises n'est cependant pas une surprise, surtout après un récent bogue ChatGPT qui a temporairement exposé l'historique des discussions et éventuellement des informations de paiement. Et étant donné qu'OpenAI pourrait accéder aux informations alimentant sa création ChatGPT, les entreprises ont tout à fait le droit de craindre l'utilisation par leurs employés d'un tel outil d'IA.

Malgré cela, OpenAI a toujours averti ses utilisateurs de ne pas partager "d'informations sensibles". Comme expliqué par OpenAI lui-même, il "peut utiliser le contenu que vous nous fournissez pour améliorer nos services, par exemple pour former les modèles qui alimentent ChatGPT". Il est important de noter, cependant, que ChatGPT dispose déjà d'une fonctionnalité de mode incognito. Pourtant, ce n'est peut-être pas encore une assurance suffisante pour les entreprises, d'autant plus qu'un simple problème de sécurité peut entraîner un énorme désastre commercial.