Microsoft fixar kryphål som skapade Taylor Swifts djupa förfalskningar
2 min. läsa
Publicerad den
Dela den här artikeln
Förbättra den här guiden
Läs vår informationssida för att ta reda på hur du kan hjälpa MSPoweruser upprätthålla redaktionen Läs mer
Som svar på rapporter om individer som använder AI-verktyget för text-till-bild-generering, Designer, för att skapa sexuella bilder utan samtycke av kändisar, har Microsoft implementerat ytterligare skyddsåtgärder för att förhindra missbruk. Flytten följer avslöjanden om att AI-genererade nakenbilder av Taylor Swift cirkulerade på Twitter, där Taylor Swift inte var sökbar senare, som kommer från kanaler på 4chan och Telegram, där användare utnyttjade Designer.
En talesperson för Microsoft sa på fredagen,
Vi undersöker dessa rapporter och vidtar lämpliga åtgärder för att ta itu med dem. Vår uppförandekod förbjuder användningen av våra verktyg för att skapa intimt innehåll för vuxna eller utan samtycke.
Företaget betonade sitt engagemang för ansvarsfulla AI-principer och nämnde pågående ansträngningar för att utveckla innehållsfiltrering, driftövervakning och system för upptäckt av missbruk.
Även om en utredning inte definitivt kunde koppla de AI-genererade Swift-bilderna till Designer, erkände Microsofts vd Satya Nadella ansvaret för att förbättra "skyddsräcken" på AI-verktyg för att förhindra generering av skadligt innehåll.
I en intervju med NBC News uttryckte Nadella optimism om potentialen för globala samhälleliga normer att konvergera, och krävde samarbete mellan brottsbekämpande myndigheter, tekniska plattformar och regleringar för att effektivt styra AI-användning.
404 Media rapporterade att Microsoft hade förstärkt textfiltreringsuppmaningar som svar på missbruk. Användare hade tidigare utnyttjat kryphål genom att felstava kändisnamn och tillhandahålla beskrivningar som, även om de inte var explicita, resulterade i sexuellt suggestiva bilder. Enligt 404 Media fungerar dessa kryphål inte längre efter Microsofts senaste justeringar.
Telegramkanalen, där de AI-genererade bilderna dök upp, är enligt uppgift fortfarande aktiv och delar explicit innehåll som genererats med andra AI-verktyg. Kanalen utgör en utmaning, eftersom plattformen inte har tagit bort den, och lite ansvar utövas för skadligt innehåll.
