Microsoft lancia il programma AI Bounty per individuare le vulnerabilità nelle nuove esperienze Bing basate sull'intelligenza artificiale
2 minuto. leggere
Edizione del
Condividi questo articolo
Migliora questa guida
Leggi la nostra pagina informativa per scoprire come puoi aiutare MSPoweruser a sostenere il team editoriale Per saperne di più
Microsoft ha annunciato oggi il lancio di Programma di ricompensa Microsoft AI che ricompenserà le persone che scoprono vulnerabilità nella nuova esperienza Bing basata sull'intelligenza artificiale. I premi in taglie vanno da $ 2,000 a $ 15,000 USD. I seguenti prodotti e servizi sono idonei per questo nuovo programma di ricompensa:
- Esperienze Bing basate sull'intelligenza artificiale su bing.com nel browser (sono supportati tutti i principali fornitori di browser, inclusi Bing Chat, Bing Chat for Enterprise e Bing Image Creator)
- Integrazione di Bing basata sull'intelligenza artificiale in Microsoft Edge (Windows), incluso Bing Chat for Enterprise
- Integrazione di Bing basata sull'intelligenza artificiale nell'applicazione Microsoft Start (iOS e Android)
- Integrazione di Bing basata sull'intelligenza artificiale nell'applicazione Skype Mobile (iOS e Android)
Se riesci a identificare le vulnerabilità nell'area sottostante, Microsoft ti ricompenserà in base alla gravità.
- Influenzare e modificare il comportamento della chat di Bing oltre i confini dell'utente, ovvero modificare l'intelligenza artificiale in modi che abbiano un impatto su tutti gli altri utenti.
- Modifica del comportamento della chat di Bing regolando la configurazione visibile del client e/o del server, ad esempio impostando flag di debug, modificando flag di funzionalità, ecc.
- Rottura delle protezioni della memoria delle conversazioni incrociate di Bing e dell'eliminazione della cronologia.
- Rivelare il funzionamento e le istruzioni interne di Bing, i processi decisionali e le informazioni riservate.
- Bypassare i limiti e/o le restrizioni/regole della sessione in modalità chat di Bing.
Le taglie verranno ricompensate in base alla gravità della vulnerabilità secondo la tabella seguente:
| Tipo di vulnerabilità | Qualità del rapporto | Gravità | |||
|---|---|---|---|---|---|
| critico | Consigli | Moderare | Basso | ||
| Manipolazione dell'inferenza | Alta
Medio Basso |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipolazione del modello | Alta
Medio Basso |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Divulgazione inferenziale di informazioni | Alta
Medio Basso |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
"Il nuovo programma di ricompensa AI di Microsoft è il risultato di importanti investimenti e apprendimenti negli ultimi mesi, tra cui una sfida di ricerca sulla sicurezza dell'intelligenza artificiale e un aggiornamento della classificazione della gravità delle vulnerabilità di Microsoft per i sistemi di intelligenza artificiale", ha scritto il team MSRC.
