AI-genererade deepfakes irriterade Microsoft så mycket att det uppmanar kongressen att agera

När artificiell intelligens (AI) utvecklas i en halsbrytande hastighet, och det gör AI-genererade deepfakes också. Microsoft, som är en av de största spelarna i AI-loppet, kallar nu kongressen för att ta itu med sådana utmaningar.

Brad Smith, Microsofts vice ordförande och VD, säger i en nyligen publicerad Microsoft on the Issue blogginlägg att Redmond-företaget rekommenderar flera nyckelåtgärder. En av dem är att anta en djupfalsk bedrägeristadga för att upprätta en specifik rättslig ram som åtalar AI-genererade bedrägerier och bedrägerier.

"Även om det är absolut nödvändigt att teknikindustrin har en plats vid bordet, måste den göra det med ödmjukhet och en partiskhet mot handling. Microsoft välkomnar ytterligare idéer från intressenter i det digitala ekosystemet för att ta itu med skador på syntetiskt innehåll”, säger han.

Den senaste lagstiftningen tillåter offer för explicita djupförfalskningar utan samtycke att stämma sina skapare, men Microsoft tror att ytterligare åtgärder, t.ex. märkning av syntetiskt innehåll-besläktad med Metas "Made with AI"— och förbättrade säkerhetskontroller för AI-produkter är avgörande för att skydda allmänheten.

Tidigare i år skulle ett nytt lagförslag från senatorerna Durbin, Graham och Hawley låta offer för sexuellt explicita deepfakes stämma sina skapare och distributörer. Den klassificerar dessa djupförfalskningar som "digitala förfalskningar" och fastställer en 10-årig preskriptionstid.

Ökningen av AI-genererade deepfakes är verkligen skrämmande, särskilt i år eftersom nästan majoriteten av länderna är hålla val. Utsatta befolkningsgrupper som seniorer och barn är också några av de mest utsatta offren: Internet Watch Foundation, en brittisk anti-barnporrorganisation, rapporterade en ökning av porr AI deepfakes de senaste månaderna.

Berömd sångare Taylor Swift var också ett offer för AI-genererade deepfakes tidigare i år, närmare bestämt på X (tidigare Twitter). Plattformen förbjöd tillfälligt sökningar efter Taylor Swift efter att explicita djupfalska bilder av henne cirkulerat. Dessa bilder skapades med hjälp av Microsofts verktyg för designers och delades i en Telegram-grupp.