Microsoft lanserer AI-bounty-program for å finne sårbarheter i de nye AI-drevne Bing-opplevelsene

Microsoft kunngjorde i dag lanseringen av Microsoft AI-premieprogram som vil belønne folk som oppdager sårbarheter i den nye AI-drevne Bing-opplevelsen. Dusørbelønningene varierer fra $2,000 15,000 til $XNUMX XNUMX USD. Følgende produkter og tjenester er kvalifisert for dette nye dusørprogrammet:

• AI-drevne Bing-opplevelser på bing.com i nettleseren (alle større nettleserleverandører støttes, inkludert Bing Chat, Bing Chat for Enterprise og Bing Image Creator)
• AI-drevet Bing-integrasjon i Microsoft Edge (Windows), inkludert Bing Chat for Enterprise
• AI-drevet Bing-integrasjon i Microsoft Start-applikasjonen (iOS og Android)
• AI-drevet Bing-integrasjon i Skype-mobilapplikasjonen (iOS og Android)

Hvis du kan identifisere sårbarheter i området nedenfor, vil Microsoft belønne deg basert på alvorlighetsgraden.

• Påvirkning og endring av Bings chatteatferd på tvers av brukergrenser, dvs. endre AI på måter som påvirker alle andre brukere.
• Endre Bings chat-atferd ved å justere klient- og/eller server-synlig konfigurasjon, for eksempel å sette feilsøkingsflagg, endre funksjonsflagg, etc.
• Bryter Bings minnebeskyttelse for krysssamtale og sletting av historikk.
• Å avsløre Bings interne arbeid og forespørsler, beslutningsprosesser og konfidensiell informasjon.
• Omgå Bings chat-modus øktgrenser og/eller restriksjoner/regler.

Dusører vil bli belønnet basert på alvorlighetsgraden av sårbarheten i henhold til tabellen nedenfor:

"Det nye Microsoft AI bounty-programmet kommer som et resultat av nøkkelinvesteringer og læring de siste månedene, inkludert en AI-sikkerhetsforskningsutfordring og en oppdatering av Microsofts alvorlighetsgradsklassifisering for sårbarhet for AI-systemer," skrev MSRC-teamet.