Stiahnite si Copilot Designer z webu: Microsoft Engineer po odhalení môže produkovať extrémne nevhodný obsah
2 min. čítať
Publikované dňa
Zdieľajte tento článok
Vylepšite túto príručku
Prečítajte si našu informačnú stránku a zistite, ako môžete pomôcť MSPoweruser udržať redakčný tím Čítaj viac
Kľúčové poznámky
- Inžinier spoločnosti Microsoft označil generátor obrázkov AI Copilot Designer za produkciu škodlivého obsahu, ako sú násilné snímky a porušovanie autorských práv.
- Inžinier nalieha na Microsoft, aby nástroj odstránil, pridal upozornenia a zmenil vekové hodnotenie z dôvodu bezpečnosti.
- Incident poukazuje na širšie problémy potenciálneho zneužitia a etické úvahy týkajúce sa generatívnej technológie AI.
Inžinier spoločnosti Microsoft vyvolal obavy o generátor obrázkov AI spoločnosti Copilot Designer. Tvrdí, že môže produkovať škodlivý a nevhodný obsah.
Shane Jones, ktorý je hlavným manažérom softvérového inžinierstva v spoločnosti Microsoft, povedal, že zistil, že tento nástroj môže vytvárať násilné, sexuálne a neobjektívne obrázky. Pripomína mi to sága Taylor Swift, čo vraj urobil produkt Microsoftu.
Svoje zistenia oznámil interne, ale nebol spokojný s odpoveďou, čo ho prinútilo zverejniť svoje problémy.
Jones, ktorý identifikoval zraniteľné miesta prostredníctvom „red-teamingu“ (testovania slabých stránok), hlásil, že sa stretol so znepokojivými obrázkami vrátane:
- Obrázky zobrazujúce démonov a príšery spolu s výrazmi súvisiacimi s právami na potrat.
- Obrázky žien v sexualizovaných scenároch uprostred automobilových nehôd.
- Obrázky zobrazujúce tínedžerov na večierkoch s drogami a zbraňami.
- Obrázky s postavami Disneyho v potenciálne urážlivých situáciách chránených autorskými právami vrátane scén zobrazujúcich násilie na Blízkom východe a postáv spojených s vojenskými snímkami.
Jones vyzýva Microsoft, aby okamžite podnikol kroky, ktoré zahŕňajú významný krok v odstránení Copilot Designer z trhu, kým nebudú implementované bezpečnostné opatrenia. Pridal informácie o obmedzeniach nástroja a zmenil hodnotenie aplikácie tak, aby odrážalo, že nie je vhodná pre všetky vekové kategórie. Alebo ktokoľvek.
Microsoft zatiaľ nereagoval na všetky konkrétne Jonesove tvrdenia. Hovorca však uviedol, že spoločnosť je odhodlaná riešiť akékoľvek obavy zamestnancov a oceňuje ich úsilie pri testovaní jej technológie.
Pokiaľ ide o bezpečnostné obchádzania alebo obavy, ktoré by mohli mať potenciálny vplyv na naše služby alebo našich partnerov, zaviedli sme robustné interné kanály na podávanie správ na riadne vyšetrenie a nápravu akýchkoľvek problémov, ktoré povzbudzujeme zamestnancov, aby ich využívali, aby sme ich mohli náležite overiť a otestovať. obavy.
Dokonca narastajú obavy z generatívnej AI a potenciálu zneužitia Tvorca obrázkov Gemini urobil nedávno prebudené obrázky, vďaka čomu Google na chvíľu prestal vyrábať ľudské obrázky.
Toto je vývojový príbeh a budeme naďalej poskytovať aktualizácie, keď budú k dispozícii.
viac tu.
