Microsoft lance un programme de primes sur l'IA pour détecter les vulnérabilités des nouvelles expériences Bing basées sur l'IA.
2 minute. lis
Publié le
Partagez cet article
Améliorer ce guide
Lisez notre page de divulgation pour savoir comment vous pouvez aider MSPoweruser à soutenir l'équipe éditoriale En savoir plus
Microsoft a annoncé aujourd'hui le lancement de Programme de primes Microsoft AI cela récompensera les personnes qui découvrent des vulnérabilités dans la nouvelle expérience Bing basée sur l'IA. Les récompenses varient entre 2,000 15,000 $ et XNUMX XNUMX USD. Les produits et services suivants sont éligibles à ce nouveau programme de primes :
- Expériences Bing basées sur l'IA sur bing.com dans le navigateur (tous les principaux fournisseurs de navigateurs sont pris en charge, notamment Bing Chat, Bing Chat for Enterprise et Bing Image Creator)
- Intégration de Bing basée sur l'IA dans Microsoft Edge (Windows), y compris Bing Chat for Enterprise
- Intégration de Bing basée sur l'IA dans l'application Microsoft Start (iOS et Android)
- Intégration de Bing basée sur l'IA dans l'application mobile Skype (iOS et Android)
Si vous parvenez à identifier des vulnérabilités dans la zone ci-dessous, Microsoft vous récompensera en fonction de leur gravité.
- Influencer et modifier le comportement de chat de Bing au-delà des limites des utilisateurs, c'est-à-dire modifier l'IA de manière à avoir un impact sur tous les autres utilisateurs.
- Modifier le comportement de discussion de Bing en ajustant la configuration visible du client et/ou du serveur, comme la définition d'indicateurs de débogage, la modification des indicateurs de fonctionnalité, etc.
- Briser les protections de la mémoire des conversations croisées et la suppression de l'historique de Bing.
- Révéler le fonctionnement interne et les invites, les processus de prise de décision et les informations confidentielles de Bing.
- Contourner les limites et/ou les restrictions/règles des sessions du mode chat de Bing.
Les primes seront récompensées en fonction de la gravité de la vulnérabilité, selon le tableau ci-dessous :
| Type de vulnérabilité | Rapport qualité | Gravité | |||
|---|---|---|---|---|---|
| Critical | Important | Modérés | Faible | ||
| Manipulation d'inférence | Haute
Moyenne Faible |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulation du modèle | Haute
Moyenne Faible |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Divulgation d’informations déductives | Haute
Moyenne Faible |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
"Le nouveau programme Microsoft AI Bounty est le résultat d'investissements et d'apprentissages clés au cours des derniers mois, notamment un défi de recherche sur la sécurité de l'IA et une mise à jour de la classification de gravité des vulnérabilités de Microsoft pour les systèmes d'IA", a écrit l'équipe MSRC.
