Távolítsa el a Copilot Designert az internetről: a Microsoft Engineer, miután felfedte, rendkívül nem megfelelő tartalmat hozhat létre

A Microsoft egyik mérnöke aggodalmát fejezte ki a cég AI képgenerátora, a Copilot Designer miatt. Azt állítja, hogy káros és nem megfelelő tartalmat hozhat létre.

Shane Jones, a Microsoft egyik fő szoftverfejlesztési menedzsere elmondta, hogy felfedezte, hogy az eszköz erőszakos, szexuális és elfogult képeket generál. Erről jut eszembe a Taylor Swift saga, amit állítólag egy Microsoft termék csinált.

Megállapításairól belsőleg beszámolt, de nem volt elégedett a válasszal, ami miatt nyilvánosságra hozta problémáit.

Jones, aki „red-teaming” (a gyengeségek tesztelése) révén azonosította a sebezhetőségeket, zavaró képekkel találkozott, többek között:

• Démonokat és szörnyeket ábrázoló képek az abortuszjoghoz kapcsolódó kifejezések mellett.
• Nők képei szexualizált forgatókönyvekben autóbalesetek közepette.
• Képek, amelyek tinédzsereket ábrázolnak kábítószerrel és fegyverekkel bulizva.
• Disney-karaktereket ábrázoló képek potenciálisan szerzői joggal védett és sértő helyzetekben, beleértve a Közel-Keleten erőszakot ábrázoló jeleneteket és katonai képekkel kapcsolatos karaktereket.

Jones felszólítja a Microsoftot, hogy tegyen azonnali lépéseket, amelyek közé tartozik a Copilot Designer eltávolítása a piacról, amíg a biztosítékokat nem hajtják végre. Közzétette az eszköz korlátait, és módosította az alkalmazás besorolását, hogy tükrözze, hogy az nem alkalmas minden korosztály számára. Vagy bárki. 

A Microsoft még nem válaszolt Jones összes konkrét követelésére. A szóvivő azonban azt mondta, hogy a vállalat elkötelezett amellett, hogy foglalkozzon az alkalmazottak minden aggályával, és nagyra értékeli a technológiájának tesztelésére irányuló erőfeszítéseiket.

Ha olyan biztonsági megkerülésekről vagy aggodalmakról van szó, amelyek potenciálisan hatással lehetnek szolgáltatásainkra vagy partnereinkre, robusztus belső jelentési csatornákat hoztunk létre a problémák megfelelő kivizsgálására és orvoslására, amelyek használatára ösztönözzük az alkalmazottakat, hogy megfelelően ellenőrizhessük és tesztelhessük a problémákat. aggodalmak.

A generatív mesterséges intelligencia és a visszaélés lehetőségével kapcsolatos aggodalmak még nőnek Ébredő képeket készített a közelmúltban a Gemini imázsteremtője, ami arra késztette a Google-t, hogy egy időre lekapcsolja az emberi képek készítését.

Ez egy fejlődő történet, és továbbra is frissítjük, amint elérhetővé válnak.

Több itt.