Los grandes fabricantes de tecnología se unen para donar 10 millones de dólares al Fondo de Seguridad de la IA

Las principales empresas de IA han creado un nuevo Fondo de Seguridad de la IA para apoyar a investigadores independientes de todo el mundo. El Fondo proporcionará subvenciones a investigadores de instituciones académicas, institutos de investigación y nuevas empresas.

OpenAI anunció en una declaración conjunta que el Fondo de seguridad de IA ha recibido 10 millones de dólares en financiación inicial de Anthropic, Google, Microsoft y OpenAI, así como de varias fundaciones filantrópicas e individuos.

Para facilitar el programa, también se funda el nuevo organismo industrial Frontier Model Forum con Chris Meserole como su nuevo y primer director ejecutivo.

Pronto también se establecerá un nuevo Consejo Asesor para el organismo “en los próximos meses”.

“Los modelos de IA más potentes son enormemente prometedores para la sociedad, pero para aprovechar su potencial necesitamos comprender mejor cómo desarrollarlos y evaluarlos de forma segura. Estoy emocionado de asumir ese desafío con el Foro Modelo Frontier”, dice el nuevo Director Ejecutivo.

El Fondo de Seguridad de la IA se centrará en apoyar el desarrollo de nuevas formas de evaluar y probar los sistemas de IA para detectar peligros potenciales. Este trabajo es vital para mejorar la seguridad de los sistemas de IA y ayudar a los gobiernos, las empresas y la sociedad civil a responder a los desafíos que plantea la IA.

Mientras tanto, en la carrera de la IA, Meta es listo para enfrentarse al GPT-4 de OpenAI modelo con su propio sistema, presumiendo de ser más potente que Llama 2.