«Неприемлемо»: генеральный директор Google Сундар Пичаи о «пробуждении» и оскорбительных выводах Gemini

Инструмент искусственного интеллекта Google Gemini, известный своей способностью генерировать изображения и текст, подвергся критике за создание предвзятого и оскорбительного контента. Инструмент был приостановлен на прошлой неделе после того, как пользователи сообщили о таких проблемах, как:

• Неточные исторические изображения.: На изображениях, созданных Gemini, такие фигуры, как викинги, изображены как цветные люди, несмотря на их исторический контекст.
• Оскорбительные текстовые подсказки: Тонкая позиция в отношении педофилии, подчеркивающая ее как сложную проблему, а не просто «грубую».

Эти проблемы вызвали общественную критику: некоторые обвинили Google в предвзятости против белых. В ответ генеральный директор Google Сундар Пичаи признал наличие проблем и назвал их «совершенно неприемлемыми». Он подчеркнул стремление Google предоставлять объективную информацию и создавать продукты, заслуживающие доверия пользователей.

Пичаи изложил план решения этих проблем, в том числе:

• Внедрение более строгого контроля для предотвращения искажения результатов.
• Пересмотр руководств по продукту для обеспечения ответственной разработки ИИ.
• Внедрение более строгих процедур тестирования и оценки инструментов ИИ перед их публичным выпуском.
• Проведение тщательной оценки и совместных учений для выявления и решения потенциальных проблем.

Признавая наличие проблем, Пичаи подчеркнул неизменную приверженность Google ответственному развитию ИИ. Он подчеркнул важность обучения на ошибках и создания полезных продуктов, которые заслуживают доверия пользователей.

Полный текст письма Пичаи сотрудникам Google, впервые опубликованный семафор, ниже.

Я хочу решить недавние проблемы с проблемными текстовыми и графическими ответами в приложении Gemini (ранее Bard). Я знаю, что некоторые из его ответов оскорбили наших пользователей и продемонстрировали предвзятость – чтобы внести ясность, это совершенно неприемлемо, и мы поняли это неправильно.

Наши команды круглосуточно работали над решением этих проблем. Мы уже наблюдаем существенное улучшение по широкому спектру подсказок. Ни один искусственный интеллект не идеален, особенно на этом новом этапе развития отрасли, но мы знаем, что планка для нас высока, и мы будем держать ее столько, сколько потребуется. И мы рассмотрим, что произошло, и обязательно исправим это в масштабе.

Наша миссия по организации мировой информации и обеспечению ее универсальной доступности и полезности является священной. Мы всегда стремились предоставлять пользователям полезную, точную и объективную информацию в наших продуктах. Вот почему люди им доверяют. Именно таким должен быть наш подход ко всем нашим продуктам, включая новые продукты искусственного интеллекта.

Мы будем реализовывать четкий набор действий, включая структурные изменения, обновленные рекомендации по продуктам, улучшенные процессы запуска, надежные оценки и красные команды, а также технические рекомендации. Мы все это учтем и внесем необходимые изменения.

Несмотря на то, что мы извлекаем уроки из того, что здесь пошло не так, нам также следует опираться на анонсы продуктов и технических характеристик, которые мы сделали в области ИИ за последние несколько недель. Это включает в себя некоторые фундаментальные достижения в наших базовых моделях, например, прорыв в 1 миллион окон с длинным контекстом и наши открытые модели, обе из которых были хорошо приняты.

Мы знаем, что нужно для создания отличных продуктов, которые используются и нравятся миллиардам людей и предприятий, и благодаря нашей инфраструктуре и исследовательскому опыту у нас есть невероятный трамплин для волны искусственного интеллекта. Давайте сосредоточимся на самом важном: создании полезных продуктов, заслуживающих доверия наших пользователей.

Между тем, эксперты полагают, что разногласия вызваны техническими недостатками, а не преднамеренной предвзятостью. Они утверждают, что проблема заключается в программных «ограждениях», которые контролируют результаты работы ИИ, а не в самой базовой модели.