Microsoft lancia il programma AI Bounty per individuare le vulnerabilità nelle nuove esperienze Bing basate sull'intelligenza artificiale

Microsoft ha annunciato oggi il lancio di Programma di ricompensa Microsoft AI che ricompenserà le persone che scoprono vulnerabilità nella nuova esperienza Bing basata sull'intelligenza artificiale. I premi in taglie vanno da $ 2,000 a $ 15,000 USD. I seguenti prodotti e servizi sono idonei per questo nuovo programma di ricompensa:

• Esperienze Bing basate sull'intelligenza artificiale su bing.com nel browser (sono supportati tutti i principali fornitori di browser, inclusi Bing Chat, Bing Chat for Enterprise e Bing Image Creator)
• Integrazione di Bing basata sull'intelligenza artificiale in Microsoft Edge (Windows), incluso Bing Chat for Enterprise
• Integrazione di Bing basata sull'intelligenza artificiale nell'applicazione Microsoft Start (iOS e Android)
• Integrazione di Bing basata sull'intelligenza artificiale nell'applicazione Skype Mobile (iOS e Android)

Se riesci a identificare le vulnerabilità nell'area sottostante, Microsoft ti ricompenserà in base alla gravità.

• Influenzare e modificare il comportamento della chat di Bing oltre i confini dell'utente, ovvero modificare l'intelligenza artificiale in modi che abbiano un impatto su tutti gli altri utenti.
• Modifica del comportamento della chat di Bing regolando la configurazione visibile del client e/o del server, ad esempio impostando flag di debug, modificando flag di funzionalità, ecc.
• Rottura delle protezioni della memoria delle conversazioni incrociate di Bing e dell'eliminazione della cronologia.
• Rivelare il funzionamento e le istruzioni interne di Bing, i processi decisionali e le informazioni riservate.
• Bypassare i limiti e/o le restrizioni/regole della sessione in modalità chat di Bing.

Le taglie verranno ricompensate in base alla gravità della vulnerabilità secondo la tabella seguente:

"Il nuovo programma di ricompensa AI di Microsoft è il risultato di importanti investimenti e apprendimenti negli ultimi mesi, tra cui una sfida di ricerca sulla sicurezza dell'intelligenza artificiale e un aggiornamento della classificazione della gravità delle vulnerabilità di Microsoft per i sistemi di intelligenza artificiale", ha scritto il team MSRC.