Зніміть Copilot Designer з Інтернету: інженер Microsoft після виявлення цього може створити надзвичайно неприйнятний вміст

Інженер Microsoft висловив занепокоєння щодо генератора зображень зі штучним інтелектом компанії Copilot Designer. Він стверджує, що це може створювати шкідливий і невідповідний контент.

Шейн Джонс, який є головним менеджером з розробки програмного забезпечення в Microsoft, сказав, що він виявив, що інструмент може створювати насильницькі, сексуальні та упереджені зображення. Це нагадує мені про Сага про Тейлор Свіфт, який, як було сказано, зроблено продуктом Microsoft.

Він повідомив про свої висновки внутрішньо, але не був задоволений відповіддю, що змусило його оприлюднити свої проблеми.

Джонс, який виявив вразливі місця за допомогою «red-teaming» (тестування на слабкі сторони), повідомив про тривожні зображення, зокрема:

• Зображення демонів і монстрів разом із термінами, пов’язаними з правами на аборт.
• Зображення жінок у сексуальних сценаріях серед автомобільних аварій.
• Зображення підлітків на вечірках з наркотиками та зброєю.
• Зображення персонажів Діснея в потенційно захищених авторським правом і образливих ситуаціях, зокрема сцени насильства на Близькому Сході та персонажі, пов’язані з образами військових.

Джонс закликає корпорацію Майкрософт вжити негайних заходів, які включають серйозний крок усунення Copilot Designer з ринку, доки не будуть реалізовані гарантії. Він додав відомості про обмеження інструменту та змінив рейтинг додатка, щоб показати, що він підходить не для всіх вікових груп. Або хто завгодно. 

Microsoft поки не відповіла на всі конкретні заяви Джонса. Проте речник сказав, що компанія прагне вирішити будь-які проблеми, які виникають у співробітників, і цінує їхні зусилля щодо тестування своєї технології.

Коли справа доходить до обходу безпеки або проблем, які можуть потенційно вплинути на наші послуги або наших партнерів, ми встановили надійні внутрішні канали звітності для належного дослідження та усунення будь-яких проблем, які ми заохочуємо до використання співробітниками, щоб ми могли належним чином перевірити та перевірити їхні побоювання.

Занепокоєння щодо генеративного штучного інтелекту та потенціалу неналежного використання навіть зростає Творець зображень Близнюків нещодавно зробив прокинуті фотографії, що змусило Google на деякий час припинити створення зображень людей.

Це історія, що розвивається, і ми продовжуватимемо надавати оновлення, щойно вони стануть доступними.

більше тут.