Fjern Copilot Designer fra nettet: en Microsoft-ingeniør kan efter at have afsløret det producere ekstremt upassende indhold

En Microsoft-ingeniør har rejst bekymringer om virksomhedens AI-billedgenerator, Copilot Designer. Han hævder, at det kan producere skadeligt og upassende indhold.

Shane Jones, som er ledende softwareingeniør hos Microsoft, sagde, at han opdagede, at værktøjet kan generere voldelige, seksuelle og partiske billeder. Det minder mig om Taylor Swift-sagaen, hvilket siges at være udført af et Microsoft-produkt.

Han rapporterede sine resultater internt, men var ikke tilfreds med svaret, hvilket fik ham til at offentliggøre sine problemer.

Jones, der identificerede sårbarheder gennem "red-teaming" (testning for svagheder), rapporterede at støde på forstyrrende billeder, herunder:

• Billeder af dæmoner og monstre sammen med udtryk relateret til abortrettigheder.
• Billeder af kvinder i seksualiserede scenarier midt i bilulykker.
• Billeder der forestiller teenagere til fester med stoffer og våben.
• Billeder med Disney-karakterer i potentielt ophavsretligt beskyttede og stødende situationer, inklusive scener, der skildrer vold i Mellemøsten og karakterer, der er forbundet med militærbilleder.

Jones opfordrer Microsoft til at tage nogle øjeblikkelige foranstaltninger, som omfatter et stort skridt med at fjerne Copilot Designer fra markedet, indtil sikkerhedsforanstaltninger er implementeret. Han tilføjede oplysninger om værktøjets begrænsninger og ændrede appvurderingen for at afspejle, at den ikke er egnet til alle aldre. Eller hvem som helst. 

Microsoft har endnu ikke reageret på alle Jones' specifikke påstande. En talsmand sagde dog, at virksomheden er forpligtet til at imødekomme eventuelle bekymringer, som medarbejdere har, og værdsætter deres indsats for at teste sin teknologi.

Når det kommer til sikkerhedsomgåelser eller bekymringer, der kan have en potentiel indvirkning på vores tjenester eller vores partnere, har vi etableret robuste interne rapporteringskanaler til korrekt at undersøge og afhjælpe eventuelle problemer, som vi opfordrer medarbejderne til at bruge, så vi på passende vis kan validere og teste deres bekymringer.

Bekymringerne om generativ kunstig intelligens og potentialet for misbrug vokser endda Geminis billedskaber lavede vågnede billeder for nylig, hvilket fik Google til at slukke for produktionen af ​​menneskelige billeder i et stykke tid.

Dette er en udviklingshistorie, og vi vil fortsætte med at levere opdateringer, når de bliver tilgængelige.

Mere link..