Microsoft lancerer AI-bounty-program for at finde sårbarheder i de nye AI-drevne Bing-oplevelser
2 min. Læs
Udgivet den
Del denne artikel
Forbedre denne vejledning
Læs vores oplysningsside for at finde ud af, hvordan du kan hjælpe MSPoweruser med at opretholde redaktionen Læs mere
Microsoft annoncerede i dag lanceringen af Microsoft AI bounty-program der vil belønne folk, der opdager sårbarheder i den nye AI-drevne Bing-oplevelse. Bounty-belønningerne varierer fra $2,000 til $15,000 USD. Følgende produkter og tjenester er berettiget til dette nye bounty-program:
- AI-drevne Bing-oplevelser på bing.com i browser (alle større browserleverandører er understøttet, inklusive Bing Chat, Bing Chat for Enterprise og Bing Image Creator)
- AI-drevet Bing-integration i Microsoft Edge (Windows), inklusive Bing Chat for Enterprise
- AI-drevet Bing-integration i Microsoft Start-applikationen (iOS og Android)
- AI-drevet Bing-integration i Skype Mobile Application (iOS og Android)
Hvis du kan identificere sårbarheder i nedenstående område, vil Microsoft belønne dig baseret på alvoren.
- Påvirkning og ændring af Bings chatadfærd på tværs af brugergrænser, dvs. ændre AI'en på måder, der påvirker alle andre brugere.
- Ændring af Bings chatadfærd ved at justere klient- og/eller serverens synlige konfiguration, såsom indstilling af fejlretningsflag, ændring af funktionsflag osv.
- Breaking Bing's cross-conversation memory-beskyttelse og sletning af historie.
- Afsløring af Bings interne arbejde og prompter, beslutningsprocesser og fortrolige oplysninger.
- Omgåelse af Bings chat mode session grænser og/eller begrænsninger/regler.
Dusører vil blive belønnet baseret på sårbarhedens sværhedsgrad i henhold til tabellen nedenfor:
| Sårbarhedstype | Rapportkvalitet | Severity | |||
|---|---|---|---|---|---|
| Kritisk | Vigtig | Moderat | Lav | ||
| Inferensmanipulation | Høj
Medium Lav |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Model manipulation | Høj
Medium Lav |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Afsløring af konklusioner | Høj
Medium Lav |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
"Det nye Microsoft AI-bounty-program kommer som et resultat af vigtige investeringer og erfaringer i løbet af de sidste par måneder, herunder en AI-sikkerhedsforskningsudfordring og en opdatering af Microsofts sårbarhedsklassificering for AI-systemer," skrev MSRC-teamet.
