A Microsoft está lutando com sua nova IA do Microsoft News, escolhendo histórias que os envergonham

Informamos em maio que A Microsoft estava substituindo seus editores humanos por uma IA que escolheram suas notícias, distribuíram de outras publicações e depois distribuíram para 500 milhões de leitores em 140 países.

A Microsoft News então disse que usa IA para escanear conteúdo, entender “dimensões como novidade, categoria, tipo de tópico, conteúdo de opinião e popularidade potencial e, em seguida, apresenta-o para nossos editores. Nossos algoritmos sugerem fotos apropriadas para combinar com o conteúdo para ajudar a dar vida às histórias. Os editores selecionam as principais notícias ao longo do dia, em uma variedade de tópicos, para que nossos leitores recebam as últimas notícias das melhores fontes.”

Agora, a Microsoft está lutando com a IA que os envergonha em duas frentes.

A primeira foi quando a IA publicou uma história sobre Jade Thirlwall, membro do Little Mix, lutando contra o racismo usando uma foto de sua colega Leigh-Anne Pinnock, com Thirlwall reclamando:

“Essa merda acontece com @leighannepinnock e eu TODO O TEMPO que se tornou uma piada. Me ofende que você não consiga diferenciar as duas mulheres negras de quatro membros de um grupo... FAÇA MELHOR!

A história original tinha a imagem correta, tornando o fracasso mais embaraçoso.

Para adicionar insulto à injúria, agora os editores restantes do MSN estão lutando com a IA pegando e republicando histórias sobre o MSN bagunçando, com os editores humanos sendo instruídos a excluir a história se a IA a pegar, mas também que a IA pode anular e republicá-lo novamente.

Um membro da equipe disse que a Microsoft estava profundamente preocupada com os danos à reputação de seu produto de IA: “Com todos os protestos antirracismo no momento, agora não é hora de cometer erros”.

O CEO da Microsoft, Satya Nadella, sempre defendeu que a IA fosse usada ao lado dos funcionários, mas parece que a história ilustra quem realmente está no comando.

via Guardian