Samsung beordrar generativt AI-förbud till anställda på grund av säkerhetsproblem

Samsung vill inte att personalen helt ska lita på generativ AI ChatGPT när det gäller företagets känsliga uppgifter. Som sådan förbjuder det sydkoreanska företaget nu användningen av generativa AI-tjänster inom sin personalstyrka.

"Vi ber dig att noggrant följa vår säkerhetsriktlinje och underlåtenhet att göra det kan resultera i ett brott mot eller kompromittering av företagsinformation vilket resulterar i disciplinära åtgärder upp till och inklusive uppsägning av anställning," sa Samsung i ett memo som granskats av Bloomberg News.

Enligt rapporten genomförde företaget en undersökning i april som visade att 65 % av de tillfrågade trodde att användning av AI-verktyg på arbetsplatsen kan leda till möjliga säkerhetsproblem. Intressant nog upptäckte Samsung också förra månaden att några av dess ingenjörer "av misstag" läckte intern källkod när de laddade upp den till ChatGPT i april.

Rapporten delade att Samsung släppte memo som betonade säkerhetsproblem. Man fruktar att konfidentiell information som skickas till AI-verktyg lagras på externa servrar, vilket ligger utanför Samsungs kontroll och kan leda till offentliga läckor. 

Promemorian varnade personal i en specifik division för att använda generativa AI-verktyg och uppmuntrade dem att följa företagets policyer, vilket understryker att de som vägrar att göra det kan drabbas av straff. Trots varningen noterade Samsung i meddelandet till personalen att det skulle vara tillfälligt och delade avsikter att "skapa en säker miljö" för att använda teknik som ChatGPT.

"HQ ser över säkerhetsåtgärder för att skapa en säker miljö för att säkert använda generativ AI för att förbättra anställdas produktivitet och effektivitet", står det i memo. "Men tills dessa åtgärder är förberedda begränsar vi tillfälligt användningen av generativ AI." 

Samsung gick med i andra företag (t.ex. JPMorgan Chase & Co., Bank of America Corp. och Citigroup Inc.) som redan har förbjudit användningen av generativ AI på sina respektive platser på grund av samma oro. Flytten från sådana företag är ändå inte en överraskning - särskilt efter en nyligen inträffad ChatGPT-bugg som tillfälligt avslöjade chatthistorik och eventuellt betalningsinformation. Och med tanke på att OpenAI kunde komma åt informationen som matas till dess ChatGPT-skapande, har företag all rätt att frukta sina anställdas användning av ett sådant AI-verktyg.

Trots detta har OpenAI alltid varit högljudd i att varna sina användare för att inte dela "någon känslig information". Som förklarade av OpenAI själv kan den "använda innehåll du tillhandahåller oss för att förbättra våra tjänster, till exempel för att träna modellerna som driver ChatGPT." Det är dock viktigt att notera att ChatGPT redan har en funktion i inkognitoläge. Ändå kanske det fortfarande inte är en tillräcklig garanti för företag, särskilt eftersom ett enkelt säkerhetsproblem kan innebära en enorm affärskatastrof.