Microsoft corrige brechas que criaram falsificações profundas de Taylor Swift
2 minutos. ler
Publicado em
Compartilhe este artigo
Melhore este guia
Leia nossa página de divulgação para descobrir como você pode ajudar o MSPoweruser a sustentar a equipe editorial Saiba mais
Em resposta a relatos de indivíduos que utilizam a sua ferramenta de geração de texto para imagem de IA, Designer, para criar imagens sexuais não consensuais de celebridades, a Microsoft implementou salvaguardas adicionais para evitar o uso indevido. A mudança segue revelações de que imagens nuas de Taylor Swift geradas por IA circulou no Twitter, onde Taylor Swift não foi pesquisada mais tarde, originado de canais do 4chan e Telegram, onde os usuários exploraram o Designer.
Um porta-voz da Microsoft afirmou na sexta-feira,
Estamos investigando esses relatos e tomando as medidas adequadas para resolvê-los. Nosso Código de Conduta proíbe o uso de nossas ferramentas para a criação de conteúdo adulto ou íntimo não consensual.
A empresa enfatizou o seu compromisso com os princípios responsáveis da IA e mencionou os esforços contínuos para desenvolver sistemas de filtragem de conteúdo, monitoramento operacional e detecção de abusos.
Embora uma investigação não tenha conseguido vincular definitivamente as imagens Swift geradas por IA ao Designer, o CEO da Microsoft, Satya Nadella, reconheceu a responsabilidade de melhorar as “proteções” nas ferramentas de IA para evitar a geração de conteúdo prejudicial.
Numa entrevista à NBC News, Nadella expressou otimismo sobre o potencial de convergência das normas sociais globais, apelando à colaboração entre as autoridades policiais, as plataformas tecnológicas e os regulamentos para governar eficazmente a utilização da IA.
404 Mídia reportada que a Microsoft fortaleceu os prompts de filtragem de texto em resposta ao uso indevido. Os usuários já haviam explorado brechas ao digitar nomes de celebridades incorretamente e fornecer descrições que, embora não explícitas, resultavam em imagens sexualmente sugestivas. Segundo a 404 Media, essas brechas não funcionam mais após os recentes ajustes da Microsoft.
O canal Telegram, onde surgiram as imagens geradas por IA, ainda está ativo, compartilhando conteúdo explícito gerado usando outras ferramentas de IA. O canal representa um desafio, pois a plataforma não o removeu e há pouca responsabilização por conteúdo prejudicial.
