Microsoft pokreće AI bounty program za pronalaženje ranjivosti u novom Bing iskustvu koje pokreće AI
2 min. čitati
Objavljeno na
Podijelite ovaj članak
Poboljšajte ovaj vodič
Pročitajte našu stranicu za otkrivanje kako biste saznali kako možete pomoći MSPoweruseru da održi urednički tim Čitaj više
Microsoft je danas najavio lansiranje Microsoft AI Bounty program koji će nagraditi ljude koji otkriju ranjivosti u novom Bing iskustvu koje pokreće umjetna inteligencija. Bounty nagrade se kreću od 2,000 USD do 15,000 USD. Sljedeći proizvodi i usluge ispunjavaju uvjete za ovaj novi program nagrada:
- Iskustva Binga pokretana umjetnom inteligencijom na bing.com u pregledniku (podržani su svi glavni dobavljači preglednika, uključujući Bing Chat, Bing Chat za poduzeća i Bing Image Creator)
- Integracija Binga s umjetnom inteligencijom u Microsoft Edge (Windows), uključujući Bing Chat za poduzeća
- Integracija Binga pokretana umjetnom inteligencijom u aplikaciji Microsoft Start (iOS i Android)
- Integracija Binga pokretana umjetnom inteligencijom u Skype Mobile Application (iOS i Android)
Ako možete identificirati ranjivosti u donjem području, Microsoft će vas nagraditi na temelju ozbiljnosti.
- Utjecaj i mijenjanje Bingovog ponašanja u chatu preko korisničkih granica, tj. mijenjanje umjetne inteligencije na načine koji utječu na sve ostale korisnike.
- Modificiranje Bingovog ponašanja chata podešavanjem vidljive konfiguracije klijenta i/ili poslužitelja, kao što je postavljanje zastavica za otklanjanje pogrešaka, promjena zastavica značajki itd.
- Razbijanje Bingove zaštite memorije među razgovorima i brisanje povijesti.
- Otkrivanje Bingovog internog rada i upita, procesa donošenja odluka i povjerljivih informacija.
- Zaobilaženje Bingovih ograničenja i/ili ograničenja/pravila sesije načina chata.
Nagrade će biti nagrađene na temelju ozbiljnosti ranjivosti prema tablici u nastavku:
| Vrsta ranjivosti | Kvaliteta izvješća | Ozbiljnost | |||
|---|---|---|---|---|---|
| Kritično | Važno | Umjereno | Nizak | ||
| Manipulacija zaključivanjem | visok
Srednji Nizak |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulacija modelom | visok
Srednji Nizak |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Inferencijalno otkrivanje informacija | visok
Srednji Nizak |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
"Novi Microsoftov program nagrada za umjetnu inteligenciju dolazi kao rezultat ključnih ulaganja i učenja tijekom posljednjih nekoliko mjeseci, uključujući izazov istraživanja sigurnosti umjetne inteligencije i ažuriranje Microsoftove klasifikacije ozbiljnosti ranjivosti za sustave umjetne inteligencije", napisao je MSRC tim.
