Microsoft lanserer AI-bounty-program for å finne sårbarheter i de nye AI-drevne Bing-opplevelsene
2 min. lese
Publisert på
Del denne artikkelen
Forbedre denne veiledningen
Les vår avsløringsside for å finne ut hvordan du kan hjelpe MSPoweruser opprettholde redaksjonen Les mer
Microsoft kunngjorde i dag lanseringen av Microsoft AI-premieprogram som vil belønne folk som oppdager sårbarheter i den nye AI-drevne Bing-opplevelsen. Dusørbelønningene varierer fra $2,000 15,000 til $XNUMX XNUMX USD. Følgende produkter og tjenester er kvalifisert for dette nye dusørprogrammet:
- AI-drevne Bing-opplevelser på bing.com i nettleseren (alle større nettleserleverandører støttes, inkludert Bing Chat, Bing Chat for Enterprise og Bing Image Creator)
- AI-drevet Bing-integrasjon i Microsoft Edge (Windows), inkludert Bing Chat for Enterprise
- AI-drevet Bing-integrasjon i Microsoft Start-applikasjonen (iOS og Android)
- AI-drevet Bing-integrasjon i Skype-mobilapplikasjonen (iOS og Android)
Hvis du kan identifisere sårbarheter i området nedenfor, vil Microsoft belønne deg basert på alvorlighetsgraden.
- Påvirkning og endring av Bings chatteatferd på tvers av brukergrenser, dvs. endre AI på måter som påvirker alle andre brukere.
- Endre Bings chat-atferd ved å justere klient- og/eller server-synlig konfigurasjon, for eksempel å sette feilsøkingsflagg, endre funksjonsflagg, etc.
- Bryter Bings minnebeskyttelse for krysssamtale og sletting av historikk.
- Å avsløre Bings interne arbeid og forespørsler, beslutningsprosesser og konfidensiell informasjon.
- Omgå Bings chat-modus øktgrenser og/eller restriksjoner/regler.
Dusører vil bli belønnet basert på alvorlighetsgraden av sårbarheten i henhold til tabellen nedenfor:
| Sårbarhetstype | Rapportkvalitet | Alvorlighetsgrad | |||
|---|---|---|---|---|---|
| Kritisk | Viktig | Moderat | Lav | ||
| Inferensmanipulasjon | Høy
Medium Lav |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Modellmanipulering | Høy
Medium Lav |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Avsløring av konklusjonsinformasjon | Høy
Medium Lav |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
"Det nye Microsoft AI bounty-programmet kommer som et resultat av nøkkelinvesteringer og læring de siste månedene, inkludert en AI-sikkerhetsforskningsutfordring og en oppdatering av Microsofts alvorlighetsgradsklassifisering for sårbarhet for AI-systemer," skrev MSRC-teamet.
