Microsoft se bori sa svojim novim Microsoft News AI odabirom priča koje ih sramote

To smo izvijestili u svibnju Microsoft je svoje ljudske urednike zamijenio umjetnom inteligencijom koji su birali njihove vijesti, sindicirali iz drugih publikacija, a zatim distribuirali 500 milijuna čitatelja u 140 zemalja.

Microsoft News je tada rekao da koristi umjetnu inteligenciju za skeniranje sadržaja, razumijevanje “dimenzija poput svježine, kategorije, vrste teme, sadržaja mišljenja i potencijalne popularnosti, a zatim ih predstavlja našim urednicima. Naši algoritmi predlažu odgovarajuće fotografije za uparivanje sa sadržajem kako bi se priče oživjele. Urednici zatim biraju najvažnije priče tijekom dana, na različite teme, tako da naši čitatelji dobivaju najnovije vijesti iz najboljih izvora.”

Sada se Microsoft bori s umjetnom inteligencijom koja ih posramljuje na dva fronta.

Prvi je bio kada je AI objavio priču o članici Little Mixa Jade Thirlwall koja se bori s rasizmom koristeći sliku svoje kolegice Leigh-Anne Pinnock, pri čemu se Thirlwall žalila:

“Ovo s*je se događa @leighannepinnocku i meni SVE VRIJEME da je to postala šala. Vrijeđa me što niste mogli razlikovati dvije obojene žene od četiri članice grupe... UČINITE BOLJE!”

Izvorna priča je imala točnu sliku, što je neuspjeh učinilo još neugodnijim.

Da bi se ozljeda dodala uvreda, sada se preostali urednici MSN-a bore s AI-om koji prikuplja i ponovno objavljuje priče o MSN-u koji je zabrljao, pri čemu je ljudskim urednicima rečeno da izbrišu priču ako je AI pokupi, ali i da AI može poništiti ih i ponovno je objaviti.

Jedan član osoblja rekao je da je Microsoft duboko zabrinut zbog štete na reputaciji svog proizvoda umjetne inteligencije: "Uz sve antirasističke prosvjede u ovom trenutku, sada nije vrijeme za pogreške."

Izvršni direktor Microsofta Satya Nadella oduvijek je smatrao da se umjetna inteligencija koristi uz zaposlenike, ali čini se da priča ilustrira tko je zapravo glavni.

putem Čuvar