"Inaceptable": el CEO de Google, Sundar Pichai, sobre los resultados ofensivos y 'despertados' de Gemini

La herramienta de inteligencia artificial Gemini de Google, conocida por generar imágenes y texto, ha sido criticada por producir contenido sesgado y ofensivo. La herramienta fue suspendida la semana pasada después de que los usuarios informaran problemas como:

• Representaciones históricas inexactas: Las imágenes generadas por Gemini mostraban figuras como los vikingos como personas de color a pesar de su contexto histórico.
• Mensajes de texto ofensivos: Postura matizada sobre la pedofilia, enfatizándola como un tema complejo en lugar de simplemente “asqueroso”.

Estos problemas provocaron críticas públicas, y algunos acusaron a Google de albergar un sesgo anti-blanco. En respuesta, el director ejecutivo de Google, Sundar Pichai, reconoció los problemas y los calificó de “completamente inaceptables”. Hizo hincapié en el compromiso de Google de proporcionar información imparcial y crear productos que merezcan la confianza del usuario.

Pichai describió un plan para abordar las preocupaciones, que incluye:

• Implementar controles más estrictos para evitar resultados sesgados.
• Revisar las pautas de productos para garantizar el desarrollo responsable de la IA.
• Implementar procedimientos más estrictos para probar y evaluar herramientas de IA antes de su lanzamiento público.
• Realizar evaluaciones exhaustivas y ejercicios de formación de equipos rojos para identificar y abordar problemas potenciales.

Si bien reconoció los desafíos, Pichai enfatizó el compromiso continuo de Google con el avance de la IA de manera responsable. Subrayó la importancia de aprender de los errores y crear productos útiles que se ganen la confianza de los usuarios.

La nota completa de Pichai a los empleados de Google, publicada por primera vez por semáforo, Esta abajo.

Quiero abordar los problemas recientes con respuestas problemáticas de texto e imágenes en la aplicación Gemini (anteriormente Bard). Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado parcialidad; para ser claros, eso es completamente inaceptable y nos equivocamos.

Nuestros equipos han estado trabajando las 24 horas del día para abordar estos problemas. Ya estamos viendo una mejora sustancial en una amplia gama de indicaciones. Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón es alto para nosotros y lo mantendremos durante el tiempo que sea necesario. Y revisaremos lo que sucedió y nos aseguraremos de solucionarlo a escala.

Nuestra misión de organizar la información mundial y hacerla universalmente accesible y útil es sacrosanta. Siempre hemos buscado brindar a los usuarios información útil, precisa e imparcial en nuestros productos. Por eso la gente confía en ellos. Este tiene que ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos emergentes de IA.

Impulsaremos un conjunto claro de acciones, que incluyen cambios estructurales, pautas de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas y equipos rojos, y recomendaciones técnicas. Estamos analizando todo esto y haremos los cambios necesarios.

Incluso mientras aprendemos de lo que salió mal aquí, también debemos aprovechar los anuncios técnicos y de productos que hemos realizado en IA durante las últimas semanas. Esto incluye algunos avances fundamentales en nuestros modelos subyacentes, por ejemplo, nuestro avance de ventana de contexto largo de 1 millón y nuestros modelos abiertos, los cuales han sido bien recibidos.

Sabemos lo que se necesita para crear excelentes productos que sean utilizados y amados por miles de millones de personas y empresas, y con nuestra infraestructura y experiencia en investigación tenemos un trampolín increíble para la ola de IA. Centrémonos en lo más importante: crear productos útiles que merezcan la confianza de nuestros usuarios.

Mientras tanto, los expertos creen que la controversia se debe a deficiencias técnicas más que a un sesgo deliberado. Argumentan que el problema radica en las “barandillas” del software que controlan la producción de la IA, no en el modelo subyacente en sí.