Microsoft repareert mazen in de wet die de diepe vervalsingen van Taylor Swift creëerden

Als reactie op meldingen van individuen die de AI-tool voor het genereren van tekst naar afbeeldingen, Designer, gebruiken om niet-consensuele seksuele afbeeldingen van beroemdheden te maken, heeft Microsoft aanvullende veiligheidsmaatregelen geïmplementeerd om misbruik te voorkomen. De stap volgt op onthullingen dat AI-gegenereerde naaktbeelden van Taylor Swift circuleerde op Twitter, waar Taylor Swift later niet meer te vinden was, afkomstig van kanalen op 4chan en Telegram, waar gebruikers Designer exploiteerden.

Een Microsoft-woordvoerder zei vrijdag:

We onderzoeken deze meldingen en ondernemen passende actie om deze aan te pakken. Onze Gedragscode verbiedt het gebruik van onze tools voor het creëren van intieme inhoud voor volwassenen of niet-consensuele inhoud.

Het bedrijf benadrukte zijn toewijding aan verantwoorde AI-principes en noemde de voortdurende inspanningen om systemen voor inhoudfiltering, operationele monitoring en misbruikdetectie te ontwikkelen.

Hoewel een onderzoek de door AI gegenereerde Swift-afbeeldingen niet definitief aan Designer kon koppelen, erkende Satya Nadella, CEO van Microsoft, de verantwoordelijkheid om de ‘vangrails’ op AI-tools te verbeteren om het genereren van schadelijke inhoud te voorkomen.

In een interview met NBC News uitte Nadella optimisme over het potentieel voor convergentie van mondiale maatschappelijke normen, waarbij ze opriep tot samenwerking tussen wetshandhavingsinstanties, technologieplatforms en regelgeving om het gebruik van AI effectief te regelen.

404 Media berichtten dat Microsoft de tekstfilterprompts had versterkt als reactie op misbruik. Gebruikers hadden eerder mazen in de wet uitgebuit door de namen van beroemdheden verkeerd te spellen en beschrijvingen te geven die, hoewel niet expliciet, resulteerden in seksueel suggestieve afbeeldingen. Volgens 404 Media werken deze mazen niet meer na de recente aanpassingen van Microsoft.

Het Telegram-kanaal, waar de door AI gegenereerde afbeeldingen opdoken, is naar verluidt nog steeds actief en deelt expliciete inhoud die is gegenereerd met behulp van andere AI-tools. Het kanaal vormt een uitdaging, omdat het platform het niet heeft verwijderd en er weinig aansprakelijkheid wordt afgedwongen voor schadelijke inhoud.