Samsung ordena prohibir la IA generativa a los empleados debido a problemas de seguridad

Samsung no quiere que su personal confíe completamente en la IA generativa como ChatGPT cuando se trata de información sensible de la empresa. Como tal, la empresa surcoreana ahora prohíbe el uso de servicios de inteligencia artificial generativa dentro de su fuerza laboral.

“Le pedimos que se adhiera diligentemente a nuestra pauta de seguridad y el no hacerlo puede resultar en una violación o compromiso de la información de la compañía que resulte en una acción disciplinaria que puede incluir la terminación del empleo”, dijo Samsung en un memorando revisado por Bloomberg News.

Según el informe, la empresa realizó una encuesta en abril y mostró que el 65 % de los encuestados creía que el uso de herramientas de IA en el lugar de trabajo podría traducirse en posibles problemas de seguridad. Curiosamente, Samsung también descubrió el mes pasado que algunos de sus ingenieros filtraron "accidentalmente" el código fuente interno cuando lo subieron a ChatGPT en abril.

El informe compartió que Samsung publicó el memorando que enfatiza las preocupaciones de seguridad. Teme que la información confidencial enviada a las herramientas de IA se almacene en servidores externos, lo que está fuera del control de Samsung y podría dar lugar a filtraciones públicas. 

El memorándum advirtió al personal de una división específica sobre el uso de herramientas de IA generativa y los alentó a seguir las políticas de la empresa, subrayando que aquellos que se nieguen a hacerlo podrían enfrentar castigos. A pesar de la advertencia, Samsung señaló en el memorando al personal que sería temporal, compartiendo intenciones de "crear un entorno seguro" para usar tecnología como ChatGPT.

“La sede está revisando las medidas de seguridad para crear un entorno seguro para el uso seguro de la IA generativa para mejorar la productividad y la eficiencia de los empleados”, se lee en el memorando. “Sin embargo, hasta que se preparen estas medidas, estamos restringiendo temporalmente el uso de la IA generativa”. 

Samsung se unió a otras empresas (p. ej., JPMorgan Chase & Co., Bank of America Corp. y Citigroup Inc.) que ya han prohibido el uso de IA generativa en sus respectivos lugares debido a las mismas preocupaciones. Sin embargo, el movimiento de tales compañías no es una sorpresa, especialmente después de un error reciente de ChatGPT que expuso temporalmente el historial de chat y posiblemente la información de pago. Y dado que OpenAI podría acceder a la información que se alimenta a su creación de ChatGPT, las empresas tienen todo el derecho de temer el uso de dicha herramienta de IA por parte de sus empleados.

A pesar de esto, OpenAI siempre ha advertido a sus usuarios que no compartan "ninguna información confidencial". Como explicado por el propio OpenAI, "puede usar el Contenido que nos proporciona para mejorar nuestros Servicios, por ejemplo, para entrenar los modelos que impulsan ChatGPT". Sin embargo, es importante tener en cuenta que ChatGPT ya tiene una función de modo de incógnito. Sin embargo, es posible que aún no sea una garantía suficiente para las empresas, especialmente porque un simple problema de seguridad podría significar un gran desastre comercial.