Skinite Copilot Designer s weba: Microsoftov inženjer nakon što je otkrio da može proizvesti krajnje neprikladan sadržaj
2 min. čitati
Objavljeno na
Podijelite ovaj članak
Poboljšajte ovaj vodič
Pročitajte našu stranicu za otkrivanje kako biste saznali kako možete pomoći MSPoweruseru da održi urednički tim Čitaj više
Ključne napomene
- Microsoftov inženjer označava AI generator slike Copilot Designer zbog proizvodnje štetnog sadržaja poput nasilnih slika i kršenja autorskih prava.
- Inženjer potiče Microsoft da ukloni alat, doda upozorenja i promijeni dobnu ocjenu zbog sigurnosnih razloga.
- Incident naglašava šira pitanja potencijalne zlouporabe i etička razmatranja koja okružuju generativnu AI tehnologiju.
Microsoftov inženjer izazvao je zabrinutost oko tvrtke AI generator slike, Copilot Designer. Tvrdi da može proizvesti štetan i neprikladan sadržaj.
Shane Jones, koji je glavni menadžer softverskog inženjeringa u Microsoftu, rekao je da je otkrio da alat može generirati nasilne, seksualne i pristrane slike. Podsjeća me na Saga o Taylor Swift, za što je rečeno da to radi Microsoftov proizvod.
Interno je izvijestio o svojim nalazima, ali nije bio zadovoljan odgovorom, zbog čega je izašao u javnost sa svojim problemima.
Jones, koji je identificirao ranjivosti kroz "red-teaming" (testiranje slabosti), izvijestio je da je naišao na uznemirujuće slike, uključujući:
- Slike koje prikazuju demone i čudovišta uz pojmove povezane s pravima na pobačaj.
- Slike žena u seksualiziranim scenarijima usred prometnih nesreća.
- Slike koje prikazuju tinejdžere na zabavama s drogom i oružjem.
- Slike koje prikazuju Disneyjeve likove u potencijalno zaštićenim autorskim pravima i uvredljivim situacijama, uključujući scene koje prikazuju nasilje na Bliskom istoku i likove povezane s vojnim slikama.
Jones poziva Microsoft da odmah poduzme neke korake, što uključuje veliki korak uklanjanja Copilot Designera s tržišta dok se ne provedu zaštitne mjere. Dodao je otkrića o ograničenjima alata i promijenio ocjenu aplikacije kako bi pokazao da nije prikladna za sve uzraste. Ili bilo koga.
Microsoft još nije odgovorio na sve Jonesove konkretne tvrdnje. Međutim, glasnogovornik je rekao da je tvrtka predana rješavanju svih zabrinutosti zaposlenika i cijeni njihove napore u testiranju svoje tehnologije.
Kada su u pitanju sigurnosna zaobilaženja ili zabrinutosti koje bi mogle imati potencijalni utjecaj na naše usluge ili naše partnere, uspostavili smo robusne interne kanale za izvješćivanje kako bismo pravilno istražili i otklonili sve probleme, koje potičemo zaposlenike da koriste kako bismo mogli na odgovarajući način potvrditi i testirati njihove zabrinutosti.
Zabrinutost oko generativne umjetne inteligencije i mogućnosti zlouporabe čak raste Geminijev kreator slika nedavno je napravio slike iz buđenja, zbog čega je Google na neko vrijeme prekinuo proizvodnju ljudskih slika.
Ovo je priča u razvoju i nastavit ćemo pružati ažuriranja čim budu dostupna.
more ovdje.
Korisnički forum
0 poruke