Samsung приказывает запретить сотрудникам генеративный ИИ из соображений безопасности

Samsung не хочет, чтобы его сотрудники полностью доверяли генеративному ИИ, такому как ChatGPT когда дело доходит до конфиденциальной информации компании. Таким образом, южнокорейская компания в настоящее время запрещает использование генеративных услуг искусственного интеллекта в своей рабочей силе.

«Мы просим вас неукоснительно соблюдать наши правила безопасности, и невыполнение этого требования может привести к утечке или компрометации информации о компании, что приведет к дисциплинарным взысканиям вплоть до увольнения», — говорится в служебной записке Samsung. Bloomberg News.

Согласно отчету, в апреле компания провела опрос, который показал, что 65% респондентов считают, что использование инструментов ИИ на рабочем месте может привести к возможным проблемам с безопасностью. Интересно, что в прошлом месяце Samsung также обнаружила, что некоторые из ее инженеров «случайно» утекли внутренний исходный код, когда они загрузили его в ChatGPT в апреле.

В отчете говорится, что Samsung выпустила меморандум, в котором подчеркиваются проблемы безопасности. Он опасается, что конфиденциальная информация, переданная инструментам искусственного интеллекта, хранится на внешних серверах, что находится вне контроля Samsung и может привести к публичным утечкам. 

В служебной записке персонал конкретного подразделения предупреждался об использовании инструментов генеративного ИИ и призывал их следовать политике компании, подчеркивая, что те, кто отказывается это делать, могут быть наказаны. Несмотря на предупреждение, Samsung отметила в служебной записке для персонала, что это будет временно, поделившись намерениями «создать безопасную среду» для использования таких технологий, как ChatGPT.

«Штаб-квартира пересматривает меры безопасности, чтобы создать безопасную среду для безопасного использования генеративного ИИ для повышения производительности и эффективности сотрудников», — говорится в служебной записке. «Однако, пока эти меры не будут подготовлены, мы временно ограничиваем использование генеративного ИИ». 

Samsung присоединилась к другим компаниям (например, JPMorgan Chase & Co., Bank of America Corp. и Citigroup Inc.), которые уже запретили использование генеративного ИИ в своих странах из-за тех же опасений. Тем не менее, переход таких компаний не является неожиданностью — особенно после недавней ошибки ChatGPT, которая временно обнажила историю чата и, возможно, платежную информацию. А учитывая, что OpenAI может получить доступ к информации, передаваемой его созданию ChatGPT, компании имеют полное право опасаться, что их сотрудники будут использовать такой инструмент ИИ.

Несмотря на это, OpenAI всегда открыто предупреждала своих пользователей не делиться «любой конфиденциальной информацией». Как объяснены самим OpenAI, он «может использовать Контент, который вы нам предоставляете, для улучшения наших Сервисов, например, для обучения моделей, которые работают с ChatGPT». Однако важно отметить, что в ChatGPT уже есть функция режима инкогнито. Тем не менее, это может быть недостаточной гарантией для компаний, особенно потому, что простая проблема с безопасностью может обернуться серьезной бизнес-катастрофой.