Microsoft pokreće AI bounty program za pronalaženje ranjivosti u novom Bing iskustvu koje pokreće AI

Microsoft je danas najavio lansiranje Microsoft AI Bounty program koji će nagraditi ljude koji otkriju ranjivosti u novom Bing iskustvu koje pokreće umjetna inteligencija. Bounty nagrade se kreću od 2,000 USD do 15,000 USD. Sljedeći proizvodi i usluge ispunjavaju uvjete za ovaj novi program nagrada:

• Iskustva Binga pokretana umjetnom inteligencijom na bing.com u pregledniku (podržani su svi glavni dobavljači preglednika, uključujući Bing Chat, Bing Chat za poduzeća i Bing Image Creator)
• Integracija Binga s umjetnom inteligencijom u Microsoft Edge (Windows), uključujući Bing Chat za poduzeća
• Integracija Binga pokretana umjetnom inteligencijom u aplikaciji Microsoft Start (iOS i Android)
• Integracija Binga pokretana umjetnom inteligencijom u Skype Mobile Application (iOS i Android)

Ako možete identificirati ranjivosti u donjem području, Microsoft će vas nagraditi na temelju ozbiljnosti.

• Utjecaj i mijenjanje Bingovog ponašanja u chatu preko korisničkih granica, tj. mijenjanje umjetne inteligencije na načine koji utječu na sve ostale korisnike.
• Modificiranje Bingovog ponašanja chata podešavanjem vidljive konfiguracije klijenta i/ili poslužitelja, kao što je postavljanje zastavica za otklanjanje pogrešaka, promjena zastavica značajki itd.
• Razbijanje Bingove zaštite memorije među razgovorima i brisanje povijesti.
• Otkrivanje Bingovog internog rada i upita, procesa donošenja odluka i povjerljivih informacija.
• Zaobilaženje Bingovih ograničenja i/ili ograničenja/pravila sesije načina chata.

Nagrade će biti nagrađene na temelju ozbiljnosti ranjivosti prema tablici u nastavku:

"Novi Microsoftov program nagrada za umjetnu inteligenciju dolazi kao rezultat ključnih ulaganja i učenja tijekom posljednjih nekoliko mjeseci, uključujući izazov istraživanja sigurnosti umjetne inteligencije i ažuriranje Microsoftove klasifikacije ozbiljnosti ranjivosti za sustave umjetne inteligencije", napisao je MSRC tim.