Microsoft lansira program nagrad z umetno inteligenco za iskanje ranljivosti v novih izkušnjah Bing, ki jih poganja umetna inteligenca
2 min. prebrati
Objavljeno dne
Dajte v skupno rabo ta članek
Izboljšajte ta vodnik
Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več
Microsoft je danes napovedal lansiranje Program nagrad Microsoft AI ki bo nagradil ljudi, ki odkrijejo ranljivosti v novi izkušnji Bing, ki jo poganja AI. Nagrade se gibljejo od 2,000 do 15,000 USD. Naslednji izdelki in storitve so upravičeni do tega novega programa nagrad:
- Izkušnje Bing, ki jih poganja AI, na bing.com v brskalniku (podprti so vsi večji ponudniki brskalnikov, vključno z Bing Chat, Bing Chat for Enterprise in Bing Image Creator)
- Integracija Binga na podlagi umetne inteligence v Microsoft Edge (Windows), vključno z Bing Chat za podjetja
- Integracija Binga, ki ga poganja umetna inteligenca, v aplikaciji Microsoft Start (iOS in Android)
- Integracija Binga z AI v mobilno aplikacijo Skype (iOS in Android)
Če lahko prepoznate ranljivosti v spodnjem območju, vas bo Microsoft nagradil glede na resnost.
- Vplivanje in spreminjanje Bingovega vedenja v klepetu prek uporabniških meja, tj. spreminjanje AI na načine, ki vplivajo na vse druge uporabnike.
- Spreminjanje obnašanja klepeta Bing s prilagoditvijo vidne konfiguracije odjemalca in/ali strežnika, kot je nastavitev zastavic za odpravljanje napak, spreminjanje zastavic funkcij itd.
- Prekinitev Bingovih zaščit pomnilnika med pogovori in brisanje zgodovine.
- Razkrivanje Bingovega notranjega delovanja in pozivov, procesov odločanja in zaupnih informacij.
- Obhod omejitev in/ali omejitev/pravil v načinu klepeta Bing.
Nagrade bodo nagrajene glede na resnost ranljivosti v skladu s spodnjo tabelo:
| Vrsta ranljivosti | Kakovost poročila | Resnost | |||
|---|---|---|---|---|---|
| Kritično | Pomembno | Zmerno | nizka | ||
| Manipulacija sklepanja | visoka
srednje nizka |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulacija modela | visoka
srednje nizka |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Inferencialno razkritje informacij | visoka
srednje nizka |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
»Novi Microsoftov program nagrad za umetno inteligenco prihaja kot rezultat ključnih naložb in učenja v zadnjih nekaj mesecih, vključno z izzivom raziskav varnosti umetne inteligence in posodobitvijo Microsoftove klasifikacije resnosti ranljivosti za sisteme umetne inteligence,« je zapisala ekipa MSRC.
