Microsoft odpravlja vrzeli, ki so ustvarile globoke ponaredke Taylor Swift
2 min. prebrati
Objavljeno dne
Dajte v skupno rabo ta članek
Izboljšajte ta vodnik
Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več
V odgovor na poročila o posameznikih, ki uporabljajo svoje orodje za ustvarjanje besedila v sliko z umetno inteligenco, Designer, za ustvarjanje spolnih podob slavnih brez privolitve, je Microsoft uvedel dodatne zaščitne ukrepe za preprečevanje zlorabe. Ta poteza sledi razkritjem, da je umetna inteligenca ustvarila gole slike Taylor Swift je zaokrožilo po Twitterju, kjer kasneje Taylor Swift ni bilo mogoče iskati, ki izvira iz kanalov na 4chan in Telegram, kjer so uporabniki izkoriščali Designer.
Tiskovni predstavnik Microsofta je v petek izjavil,
Ta poročila preiskujemo in sprejemamo ustrezne ukrepe za njihovo obravnavo. Naš kodeks ravnanja prepoveduje uporabo naših orodij za ustvarjanje intimne vsebine za odrasle ali neprivolitvene vsebine.
Podjetje je poudarilo svojo zavezanost načelom odgovorne umetne inteligence in omenilo stalna prizadevanja za razvoj sistemov za filtriranje vsebine, operativno spremljanje in odkrivanje zlorab.
Čeprav preiskava ni mogla dokončno povezati slik Swift, ustvarjenih z umetno inteligenco, z Designerjem, je izvršni direktor Microsofta Satya Nadella priznal odgovornost za izboljšanje "varovalnih ograj" na orodjih umetne inteligence za preprečevanje ustvarjanja škodljive vsebine.
V intervjuju za NBC News je Nadella izrazil optimizem glede možnosti zbliževanja globalnih družbenih norm in pozval k sodelovanju med organi kazenskega pregona, tehnološkimi platformami in predpisi za učinkovito urejanje uporabe umetne inteligence.
404 Mediji poročajo da je Microsoft okrepil pozive za filtriranje besedila kot odgovor na zlorabo. Uporabniki so že prej izkoriščali vrzeli z napačnim črkovanjem imen slavnih in zagotavljanjem opisov, ki so, čeprav niso bili eksplicitni, povzročili spolno sugestivne slike. Glede na 404 Media te vrzeli po nedavnih Microsoftovih prilagoditvah ne delujejo več.
Kanal Telegram, kjer so se pojavile slike, ustvarjene z umetno inteligenco, naj bi bil še vedno aktiven in deli eksplicitno vsebino, ustvarjeno z drugimi orodji umetne inteligence. Kanal predstavlja izziv, saj ga platforma ni odstranila, za škodljivo vsebino pa je le malo odgovornosti.
