Microsoft lanserar AI-bounty-program för att hitta sårbarheter i de nya AI-drivna Bing-upplevelserna

Microsoft tillkännagav idag lanseringen av Microsoft AI-program som kommer att belöna människor som upptäcker sårbarheter i den nya AI-drivna Bing-upplevelsen. Bounty-belöningarna sträcker sig från $2,000 15,000 till $XNUMX XNUMX USD. Följande produkter och tjänster är kvalificerade för detta nya bounty-program:

• AI-drivna Bing-upplevelser på bing.com i webbläsaren (alla större webbläsarleverantörer stöds, inklusive Bing Chat, Bing Chat for Enterprise och Bing Image Creator)
• AI-driven Bing-integration i Microsoft Edge (Windows), inklusive Bing Chat for Enterprise
• AI-driven Bing-integration i Microsoft Start-applikationen (iOS och Android)
• AI-driven Bing-integration i Skype Mobile Application (iOS och Android)

Om du kan identifiera sårbarheter i området nedan kommer Microsoft att belöna dig baserat på svårighetsgraden.

• Påverka och förändra Bings chatbeteende över användargränserna, dvs ändra AI på ett sätt som påverkar alla andra användare.
• Ändra Bings chatbeteende genom att justera klient- och/eller serverns synliga konfiguration, som att ställa in felsökningsflaggor, ändra funktionsflaggor, etc.
• Bryter Bings skydd för korskonversationsminne och radering av historik.
• Avslöjar Bings interna arbete och uppmaningar, beslutsprocesser och konfidentiell information.
• Går förbi Bings chattlägesgränser och/eller begränsningar/regler.

Belöningar kommer att belönas baserat på sårbarhetens svårighetsgrad enligt tabellen nedan:

"Det nya Microsoft AI bounty-programmet kommer som ett resultat av viktiga investeringar och lärdomar under de senaste månaderna, inklusive en AI-säkerhetsforskningsutmaning och en uppdatering av Microsofts sårbarhetsklassificering för AI-system", skrev MSRC-teamet.