Microsoft lancerer AI-bounty-program for at finde sårbarheder i de nye AI-drevne Bing-oplevelser

Microsoft annoncerede i dag lanceringen af Microsoft AI bounty-program der vil belønne folk, der opdager sårbarheder i den nye AI-drevne Bing-oplevelse. Bounty-belønningerne varierer fra $2,000 til $15,000 USD. Følgende produkter og tjenester er berettiget til dette nye bounty-program:

• AI-drevne Bing-oplevelser på bing.com i browser (alle større browserleverandører er understøttet, inklusive Bing Chat, Bing Chat for Enterprise og Bing Image Creator)
• AI-drevet Bing-integration i Microsoft Edge (Windows), inklusive Bing Chat for Enterprise
• AI-drevet Bing-integration i Microsoft Start-applikationen (iOS og Android)
• AI-drevet Bing-integration i Skype Mobile Application (iOS og Android)

Hvis du kan identificere sårbarheder i nedenstående område, vil Microsoft belønne dig baseret på alvoren.

• Påvirkning og ændring af Bings chatadfærd på tværs af brugergrænser, dvs. ændre AI'en på måder, der påvirker alle andre brugere.
• Ændring af Bings chatadfærd ved at justere klient- og/eller serverens synlige konfiguration, såsom indstilling af fejlretningsflag, ændring af funktionsflag osv.
• Breaking Bing's cross-conversation memory-beskyttelse og sletning af historie.
• Afsløring af Bings interne arbejde og prompter, beslutningsprocesser og fortrolige oplysninger.
• Omgåelse af Bings chat mode session grænser og/eller begrænsninger/regler.

Dusører vil blive belønnet baseret på sårbarhedens sværhedsgrad i henhold til tabellen nedenfor:

"Det nye Microsoft AI-bounty-program kommer som et resultat af vigtige investeringer og erfaringer i løbet af de sidste par måneder, herunder en AI-sikkerhedsforskningsudfordring og en opdatering af Microsofts sårbarhedsklassificering for AI-systemer," skrev MSRC-teamet.