«Неприйнятно»: генеральний директор Google Сундар Пічаї про «розбудження» та образливі результати Gemini

Інструмент Google зі штучним інтелектом Gemini, відомий тим, що створює зображення та текст, зазнав критики за створення упередженого та образливого контенту. Інструмент було призупинено минулого тижня після того, як користувачі повідомили про такі проблеми, як:

• Неправдиві історичні зображення: Зображення, згенеровані Близнюками, показували такі фігури, як вікінги, як кольорових людей, незважаючи на їхній історичний контекст.
• Образливі текстові підказки: Нюансована позиція щодо педофілії, наголошуючи на ній як на складній проблемі, а не просто на «грубій».

Ці проблеми викликали громадську критику, дехто звинуватив Google у антибілих упередженнях. У відповідь генеральний директор Google Сундар Пічаї визнав наявність проблем і назвав їх «абсолютно неприйнятними». Він підкреслив прагнення Google надавати неупереджену інформацію та створювати продукти, які заслуговують на довіру користувачів.

Пічаї окреслив план вирішення проблем, зокрема:

• Впровадження суворішого контролю для запобігання необ’єктивним результатам.
• Перегляд інструкцій щодо продуктів для забезпечення відповідальної розробки ШІ.
• Впровадження суворіших процедур для тестування та оцінки інструментів штучного інтелекту перед публічним випуском.
• Проведення ретельних оцінок і вправ з формування команди для виявлення та вирішення потенційних проблем.

Визнаючи проблеми, Пічаї підкреслив постійну відданість Google відповідальному розвитку штучного інтелекту. Він підкреслив важливість вчитися на помилках і створювати корисні продукти, які викликають довіру користувачів.

Повна записка Пічаї до співробітників Google, вперше повідомлена семафор, нижче.

Я хочу розглянути нещодавні проблеми з проблемними відповідями на текст і зображення в програмі Gemini (раніше Bard). Я знаю, що деякі з його відповідей образили наших користувачів і продемонстрували упередженість – щоб було зрозуміло, це абсолютно неприйнятно, і ми помилилися.

Наші команди цілодобово працюють над вирішенням цих проблем. Ми вже бачимо значне покращення широкого спектру підказок. Жоден штучний інтелект не є досконалим, особливо на цьому новому етапі розвитку галузі, але ми знаємо, що планка для нас висока, і ми будемо її тримати скільки завгодно. І ми розглянемо, що сталося, і переконаємося, що виправимо це в масштабі.

Наша місія організувати світову інформацію та зробити її загальнодоступною та корисною є священною. Ми завжди прагнули надати користувачам корисну, точну та неупереджену інформацію в наших продуктах. Тому люди їм довіряють. Це має бути наш підхід до всіх наших продуктів, включно з нашими новими продуктами ШІ.

Ми запроваджуватимемо чіткий набір дій, включаючи структурні зміни, оновлені інструкції щодо продукту, покращені процеси запуску, надійні оцінки та ред-об’єднання, а також технічні рекомендації. Ми розглядаємо все це і внесемо необхідні зміни.

Навіть коли ми дізнаємося про те, що тут пішло не так, ми також повинні спиратися на продукти та технічні оголошення, які ми робили в AI протягом останніх кількох тижнів. Це включає в себе деякі фундаментальні досягнення в наших базових моделях, наприклад наш прорив у 1 мільйон вікон з довгим контекстом і наші відкриті моделі, які були добре сприйняті.

Ми знаємо, що потрібно для створення чудових продуктів, якими користуються та які люблять мільярди людей і компаній, а завдяки нашій інфраструктурі та дослідницькому досвіду ми маємо неймовірний плацдарм для хвилі ШІ. Давайте зосередимося на найважливішому: створенні корисних продуктів, які заслуговують на довіру наших користувачів.

Водночас експерти вважають, що причиною суперечок є технічні недоліки, а не навмисна упередженість. Вони стверджують, що проблема полягає в програмних «огорожах», які контролюють вихід ШІ, а не в самій базовій моделі.