ШІ Gemini від Google спотикається під час створення зображень, обіцяє покращення
2 хв. читати
Опубліковано
Поділитися цією статтею
Удосконалити цей посібник
Прочитайте нашу сторінку розкриття інформації, щоб дізнатися, як ви можете допомогти MSPoweruser підтримувати редакційну команду Читати далі
Основні нотатки
- Суперечливі вихідні зображення висвітлюють проблеми балансу між точністю та різноманітністю для великих мовних моделей.
Google визнаний недоліки в інструменті створення зображень Gemini AI після того, як ця функція створила неточні та потенційно шкідливі зображення людей. Компанія тимчасово призупинила цю функцію, поки працює над виправленням. Суперечка виникла через тенденцію Gemini створювати різноманітні зображення, навіть коли користувачі запитували конкретні історичні постаті чи сценарії. Хоча це мало бути інклюзивним, це призвело до історично неточних і іноді образливих результатів.
У дописі в блозі старший віце-президент Прабхакар Рагхаван пояснив помилки та пообіцяв вдосконалити технологію. «Ми не хотіли, щоб Gemini відмовився створювати зображення будь-якої конкретної групи… [але] він припуститься помилок», — написав він.
Ось що пішло не так із Google Gemini:
- Налаштування Google, щоб гарантувати, що Близнюки показали ряд людей, не врахували випадків, які повинні бути однозначно НЕ показати діапазон.
- З часом модель стала набагато обережнішою, ніж ми очікували, і повністю відмовилася відповідати на певні підказки, неправильно інтерпретуючи деякі дуже невиразні підказки як чутливі.
- Ці дві речі спонукали модель до надмірної компенсації в одних випадках і до надмірної консервативності в інших, що призводило до образів, які були незручними та неправильними.
Проблеми генерації зображень ШІ:
Цей інцидент підкреслює постійну проблему збалансування точності та представлення в моделях генерації зображень ШІ. Боротьба Google відображає подібні суперечки з іншими популярними генераторами зображень.
