Microsoft lansează programul de recompense AI pentru a găsi vulnerabilități în noile experiențe Bing bazate pe inteligență artificială
2 min. citit
Publicat în data de
Distribuiți acest articol
Îmbunătățiți acest ghid
Citiți pagina noastră de dezvăluire pentru a afla cum puteți ajuta MSPoweruser să susțină echipa editorială Află mai multe
Microsoft a anunțat astăzi lansarea programului Programul de recompense Microsoft AI care va recompensa oamenii care descoperă vulnerabilități în noua experiență Bing bazată pe inteligență artificială. Recompensele recompenselor variază de la 2,000 USD la 15,000 USD. Următoarele produse și servicii sunt eligibile pentru acest nou program de recompense:
- Experiențe Bing bazate pe inteligență artificială pe bing.com în Browser (sunt acceptați toți furnizorii majori de browsere, inclusiv Bing Chat, Bing Chat for Enterprise și Bing Image Creator)
- Integrare Bing bazată pe inteligență artificială în Microsoft Edge (Windows), inclusiv Bing Chat for Enterprise
- Integrare Bing bazată pe inteligență artificială în aplicația Microsoft Start (iOS și Android)
- Integrare Bing cu AI în aplicația mobilă Skype (iOS și Android)
Dacă puteți identifica vulnerabilități în zona de mai jos, Microsoft vă va recompensa în funcție de gravitate.
- Influențarea și schimbarea comportamentului de chat al Bing peste granițele utilizatorilor, adică schimbați AI în moduri care să afecteze toți ceilalți utilizatori.
- Modificarea comportamentului de chat Bing prin ajustarea configurației vizibile a clientului și/sau a serverului, cum ar fi setarea semnalizatoarelor de depanare, schimbarea semnalizatoarelor de caracteristică etc.
- Încălcarea protecției Bing de memorie pentru conversații încrucișate și ștergerea istoricului.
- Dezvăluirea funcționării interne și a solicitărilor Bing, a proceselor de luare a deciziilor și a informațiilor confidențiale.
- Ocolind limitele și/sau restricțiile/regulile ale modului de chat Bing.
Recompensele vor fi recompensate în funcție de severitatea vulnerabilității, conform tabelului de mai jos:
| Tipul de vulnerabilitate | Calitatea raportului | Severitate | |||
|---|---|---|---|---|---|
| Critic | Important | Moderată | Jos | ||
| Manipularea inferenței | Înalt
Mediu Jos |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipularea modelului | Înalt
Mediu Jos |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Dezvăluirea informațiilor inferențiale | Înalt
Mediu Jos |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
„Noul program de recompense Microsoft AI vine ca rezultat al investițiilor și învățărilor cheie din ultimele luni, inclusiv o provocare de cercetare în domeniul securității AI și o actualizare a clasificării de severitate a vulnerabilităților Microsoft pentru sistemele AI”, a scris echipa MSRC.
