Usuń Copilot Designer z Internetu: inżynier Microsoft po ujawnieniu tego może wygenerować wyjątkowo nieodpowiednie treści

Inżynier firmy Microsoft wyraził obawy dotyczące generatora obrazów AI firmy Copilot Designer. Twierdzi, że może generować szkodliwe i nieodpowiednie treści.

Shane Jones, główny menedżer ds. inżynierii oprogramowania w firmie Microsoft, powiedział, że odkrył, że narzędzie to może generować obrazy przedstawiające przemoc, seksualność i stronnicze. Przypomina mi to Saga Taylor Swift, co rzekomo zostało wykonane przez produkt Microsoftu.

Zgłosił swoje ustalenia wewnętrznie, ale nie był usatysfakcjonowany odpowiedzią, co skłoniło go do upublicznienia swoich problemów.

Jones, który zidentyfikował luki w zabezpieczeniach poprzez „red-teaming” (testowanie słabych punktów), zgłosił, że napotkał niepokojące obrazy, w tym:

• Obrazy przedstawiające demony i potwory wraz z terminami związanymi z prawem do aborcji.
• Obrazy kobiet w seksualnych sytuacjach podczas wypadków samochodowych.
• Obrazy przedstawiające nastolatków na imprezach z narkotykami i bronią.
• Obrazy przedstawiające postacie Disneya w sytuacjach potencjalnie chronionych prawem autorskim i obraźliwych, w tym sceny przedstawiające przemoc na Bliskim Wschodzie oraz postacie kojarzone z obrazami wojskowymi.

Jones wzywa firmę Microsoft do podjęcia natychmiastowych działań, które obejmują poważny krok w postaci usunięcia oprogramowania Copilot Designer z rynku do czasu wdrożenia zabezpieczeń. Dodał informacje na temat ograniczeń narzędzia i zmienił ocenę aplikacji, aby odzwierciedlić, że nie jest ona odpowiednia dla wszystkich grup wiekowych. Albo kogokolwiek. 

Microsoft nie odpowiedział jeszcze na wszystkie konkretne twierdzenia Jonesa. Rzecznik powiedział jednak, że firma stara się rozwiać wszelkie wątpliwości pracowników i docenia ich wysiłki włożone w testowanie technologii.

Jeśli chodzi o obejścia bezpieczeństwa lub problemy, które mogą mieć potencjalny wpływ na nasze usługi lub naszych partnerów, stworzyliśmy solidne wewnętrzne kanały zgłaszania, aby właściwie badać i naprawiać wszelkie problemy, do korzystania z których zachęcamy pracowników, abyśmy mogli odpowiednio zweryfikować i przetestować ich obawy.

Rosną nawet obawy dotyczące generatywnej sztucznej inteligencji i możliwości jej niewłaściwego wykorzystania Twórca obrazów Gemini stworzył ostatnio zdjęcia obudzonych osób, co spowodowało, że Google na jakiś czas zaprzestał tworzenia ludzkich obrazów.

To rozwijająca się historia i będziemy nadal dostarczać aktualizacje, gdy tylko będą dostępne.

Więcej tutaj.