Scoateți Copilot Designer de pe web: un inginer Microsoft după ce a dezvăluit că poate produce conținut extrem de nepotrivit

Un inginer Microsoft a ridicat îngrijorări cu privire la generatorul de imagini AI al companiei, Copilot Designer. El susține că poate produce conținut dăunător și inadecvat.

Shane Jones, care este manager principal de inginerie software la Microsoft, a spus că a descoperit că instrumentul poate genera imagini violente, sexuale și părtinitoare. Îmi amintește de Saga Taylor Swift, despre care se spunea că este realizat de un produs Microsoft.

El și-a raportat constatările pe plan intern, dar nu a fost mulțumit de răspuns, ceea ce l-a făcut să facă publice problemele sale.

Jones, care a identificat vulnerabilități prin „red-teaming” (testarea punctelor slabe), a raportat că a întâlnit imagini deranjante, inclusiv:

• Imagini care înfățișează demoni și monștri alături de termeni legați de drepturile la avort.
• Imagini cu femei în scenarii sexualizate în mijlocul accidentelor de mașină.
• Imagini înfățișând adolescenți la petreceri cu droguri și arme.
• Imagini care prezintă personaje Disney în situații potențial protejate prin drepturi de autor și ofensive, inclusiv scene care înfățișează violența în Orientul Mijlociu și personaje asociate cu imagini militare.

Jones îi cere Microsoft să ia măsuri imediate, care include un pas major de eliminare a Copilot Designer de pe piață până la implementarea măsurilor de protecție. El a adăugat dezvăluiri despre limitările instrumentului și a schimbat evaluarea aplicației pentru a reflecta faptul că nu este potrivit pentru toate vârstele. Sau oricine. 

Microsoft nu a răspuns încă la toate afirmațiile specifice ale lui Jones. Cu toate acestea, un purtător de cuvânt a spus că compania se angajează să abordeze orice îngrijorare pe care o au angajații și le apreciază eforturile de a-și testa tehnologia.

Când vine vorba de ocoliri de siguranță sau preocupări care ar putea avea un impact potențial asupra serviciilor noastre sau asupra partenerilor noștri, am stabilit canale de raportare interne solide pentru a investiga și a remedia în mod corespunzător orice probleme, pe care încurajăm angajații să le utilizeze pentru a le putea valida și testa în mod corespunzător. preocupări.

Preocupările cu privire la inteligența artificială generativă și potențialul de utilizare abuzivă sunt chiar în creștere Creatorul de imagini al lui Gemeni a făcut imagini trezite recent, ceea ce a făcut ca Google să nu mai producă imagini umane pentru o perioadă.

Aceasta este o poveste în curs de dezvoltare și vom continua să oferim actualizări pe măsură ce acestea devin disponibile.

Mai Mult aici.