Umelá inteligencia Gemini od Googlu naráža na generovanie obrázkov, sľubuje zlepšenie
2 min. čítať
Publikované dňa
Zdieľajte tento článok
Vylepšite túto príručku
Prečítajte si našu informačnú stránku a zistite, ako môžete pomôcť MSPoweruser udržať redakčný tím Čítaj viac
Kľúčové poznámky
- Kontroverzné obrazové výstupy zvýrazňujú výzvy pri vyvažovaní presnosti a rozmanitosti pre veľké jazykové modely.
Google uznal, nedostatky v nástroji na generovanie obrázkov Gemini AI po tom, čo táto funkcia vytvorila nepresné a potenciálne škodlivé obrázky ľudí. Spoločnosť dočasne pozastavila túto funkciu počas práce na oprave. Kontroverzia pramenila z tendencie Gemini vytvárať rôznorodé obrázky, aj keď používatelia požadovali konkrétne historické postavy alebo scenáre. Hoci to malo byť inkluzívne, viedlo to k historicky nepresným a niekedy urážlivým výsledkom.
V blogovom príspevku senior viceprezident Prabhakar Raghavan vysvetlil nesprávne kroky a prisľúbil zlepšenie technológie. „Nechceli sme, aby Blíženci odmietli vytvárať obrázky akejkoľvek konkrétnej skupiny... [ale] budú robiť chyby,“ napísal.
Tu je problém s Google Gemini:
- Vyladenie Googlu, aby sa zabezpečilo, že Gemini ukázal rad ľudí, nedokázali vysvetliť prípady, ktoré by mali byť jasné nie zobraziť rozsah.
- Postupom času sa model stal oveľa opatrnejším, než sme zamýšľali, a odmietol úplne odpovedať na určité výzvy - nesprávne interpretoval niektoré veľmi anodyne výzvy ako citlivé.
- Tieto dve veci viedli model k tomu, že v niektorých prípadoch nadmerne kompenzoval a v iných bol príliš konzervatívny, čo viedlo k obrázkom, ktoré boli trápne a nesprávne.
Výzvy generovania obrázkov AI:
Tento incident poukazuje na pokračujúcu výzvu vyváženia presnosti a reprezentácie v modeloch generovania obrázkov AI. Boje Google odzrkadľujú podobné kontroverzie s inými populárnymi generátormi obrázkov.
