Odstranite Copilot Designer iz spleta: Microsoftov inženir, potem ko je razkril, da lahko ustvari izjemno neprimerno vsebino
2 min. prebrati
Objavljeno dne
Dajte v skupno rabo ta članek
Izboljšajte ta vodnik
Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več
Ključne opombe
- Microsoftov inženir označi generator slik z umetno inteligenco Copilot Designer zaradi ustvarjanja škodljive vsebine, kot so nasilni posnetki in kršitve avtorskih pravic.
- Inženir poziva Microsoft, naj odstrani orodje, doda opozorila in spremeni starostno oceno zaradi varnostnih razlogov.
- Incident izpostavlja širša vprašanja morebitne zlorabe in etičnih pomislekov v zvezi z generativno tehnologijo umetne inteligence.
Microsoftov inženir je izrazil zaskrbljenost glede generatorja slik podjetja AI, Copilot Designer. Trdi, da lahko ustvari škodljivo in neprimerno vsebino.
Shane Jones, ki je glavni vodja programskega inženiringa pri Microsoftu, je dejal, da je odkril, da lahko orodje ustvarja nasilne, spolne in pristranske slike. Spominja me na Saga o Taylor Swift, kar naj bi naredil Microsoftov izdelek.
O svojih ugotovitvah je poročal interno, vendar z odzivom ni bil zadovoljen, zaradi česar je javno objavil svoje težave.
Jones, ki je identificiral ranljivosti z "rdečim timom" (testiranjem slabosti), je poročal o motečih slikah, vključno z:
- Slike, ki prikazujejo demone in pošasti poleg izrazov, povezanih s pravicami do splava.
- Slike žensk v seksualiziranih scenarijih sredi prometnih nesreč.
- Slike, ki prikazujejo najstnike na zabavah z mamili in orožjem.
- Slike, ki prikazujejo Disneyjeve like v potencialno zaščitenih z avtorskimi pravicami in žaljivih situacijah, vključno s prizori, ki prikazujejo nasilje na Bližnjem vzhodu, in liki, povezanimi z vojaškimi podobami.
Jones poziva Microsoft, naj nemudoma ukrepa, kar vključuje pomemben korak odstranitve Copilot Designerja s trga, dokler se ne uvedejo zaščitni ukrepi. Dodal je razkritja o omejitvah orodja in spremenil oceno aplikacije, da odraža, da ni primerna za vse starosti. Ali kdorkoli.
Microsoft se še ni odzval na vse konkretne Jonesove trditve. Vendar pa je tiskovni predstavnik dejal, da je podjetje zavezano reševanju vseh pomislekov zaposlenih in ceni njihova prizadevanja pri testiranju svoje tehnologije.
Ko gre za varnostne obvode ali pomisleke, ki bi lahko vplivali na naše storitve ali naše partnerje, smo vzpostavili robustne notranje kanale za poročanje za ustrezno preiskavo in odpravo kakršnih koli težav, ki jih spodbujamo zaposlene, da jih uporabijo, da lahko ustrezno potrdimo in preizkusimo njihove skrbi.
Zaskrbljenost glede generativne umetne inteligence in možnosti zlorabe celo narašča Ustvarjalec slik Gemini je pred kratkim naredil slike iz zbujanja, zaradi česar je Google za nekaj časa izklopil izdelavo človeških slik.
To je zgodba v razvoju in še naprej bomo zagotavljali posodobitve, ko bodo na voljo.
Več tukaj.
