Microsoft lanza un programa de recompensas de IA para encontrar vulnerabilidades en las nuevas experiencias de Bing impulsadas por IA
2 minuto. leer
Publicado el
Compartir este artículo
Mejorar esta guía
Lea nuestra página de divulgación para descubrir cómo puede ayudar a MSPoweruser a sostener el equipo editorial. Leer más
Microsoft anunció hoy el lanzamiento del Programa de recompensas de IA de Microsoft que recompensará a las personas que descubran vulnerabilidades en la nueva experiencia de Bing impulsada por IA. Las recompensas oscilan entre $ 2,000 y $ 15,000 XNUMX USD. Los siguientes productos y servicios son elegibles para este nuevo programa de recompensas:
- Experiencias de Bing impulsadas por IA en bing.com en el navegador (se admiten todos los principales proveedores de navegadores, incluidos Bing Chat, Bing Chat for Enterprise y Bing Image Creator)
- Integración de Bing impulsada por IA en Microsoft Edge (Windows), incluido Bing Chat for Enterprise
- Integración de Bing impulsada por IA en la aplicación Microsoft Start (iOS y Android)
- Integración de Bing con tecnología de IA en la aplicación móvil de Skype (iOS y Android)
Si puede identificar vulnerabilidades en el área siguiente, Microsoft lo recompensará según la gravedad.
- Influir y cambiar el comportamiento del chat de Bing a través de los límites de los usuarios, es decir, cambiar la IA de manera que afecte a todos los demás usuarios.
- Modificar el comportamiento del chat de Bing ajustando la configuración visible del cliente y/o servidor, como establecer indicadores de depuración, cambiar indicadores de funciones, etc.
- Rompiendo las protecciones de memoria de conversaciones cruzadas y la eliminación del historial de Bing.
- Revelar el funcionamiento y las indicaciones internas de Bing, los procesos de toma de decisiones y la información confidencial.
- Evitar los límites y/o restricciones/reglas de la sesión del modo chat de Bing.
Las recompensas se recompensarán según la gravedad de la vulnerabilidad según la siguiente tabla:
| Tipo de vulnerabilidad | Calidad del informe | Gravedad | |||
|---|---|---|---|---|---|
| Critical | Importante: | Moderado | Baja | ||
| Manipulación de inferencias | Alta
Medio Baja |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulación de modelos | Alta
Medio Baja |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Divulgación de información inferencial | Alta
Medio Baja |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
"El nuevo programa de recompensas de IA de Microsoft es el resultado de inversiones y aprendizajes clave de los últimos meses, incluido un desafío de investigación de seguridad de IA y una actualización de la clasificación de gravedad de la vulnerabilidad de Microsoft para los sistemas de IA", escribió el equipo de MSRC.
