Microsoft a du mal avec sa nouvelle IA Microsoft News en choisissant des histoires qui les embarrassent

Nous avons signalé en mai que Microsoft remplaçait ses éditeurs humains par une IA qui a sélectionné leurs reportages, syndiqués à partir d'autres publications, puis distribués à 500 millions de lecteurs dans 140 pays.

Microsoft News a ensuite déclaré qu'il utilisait l'IA pour analyser le contenu, comprendre «des dimensions telles que la fraîcheur, la catégorie, le type de sujet, le contenu d'opinion et la popularité potentielle, puis le présenter à nos éditeurs. Nos algorithmes suggèrent des photos appropriées à associer au contenu pour aider à donner vie aux histoires. Les éditeurs organisent ensuite les meilleures histoires tout au long de la journée, sur une variété de sujets, afin que nos lecteurs reçoivent les dernières nouvelles des meilleures sources.

Maintenant, Microsoft est aux prises avec l'IA qui les embarrasse sur deux fronts.

La première a eu lieu lorsque l'IA a publié une histoire sur Jade Thirlwall, membre de Little Mix, aux prises avec le racisme en utilisant une photo de sa collègue Leigh-Anne Pinnock, Thirlwall se plaignant :

"Cette merde arrive à @leighannepinnock et moi TOUT LE TEMPS que c'est devenu une blague courante. Cela m'offense que vous ne puissiez pas différencier les deux femmes de couleur sur quatre membres d'un groupe… FAITES MIEUX !

L'histoire originale avait la bonne image, ce qui rendait l'échec plus embarrassant.

Pour ajouter l'insulte à l'injure, maintenant les éditeurs MSN restants ont du mal à ce que l'IA récupère et republie des histoires sur MSN qui gâchent, les éditeurs humains étant invités à supprimer l'histoire si l'IA la récupère, mais aussi que l'IA peut annuler eux et republiez-le à nouveau.

Un membre du personnel a déclaré que Microsoft était profondément préoccupé par les atteintes à la réputation de son produit d'IA : "Avec toutes les manifestations contre le racisme en ce moment, ce n'est pas le moment de faire des erreurs."

Le PDG de Microsoft, Satya Nadella, a toujours soutenu que l'IA devait être utilisée aux côtés des employés plutôt qu'à la place des employés, mais il semble que l'histoire illustre qui est vraiment en charge.

via le Tuteur