Microsoft spúšťa bounty program AI na nájdenie zraniteľných miest v nových skúsenostiach s Bingom poháňaným AI
2 min. čítať
Publikované dňa
Zdieľajte tento článok
Vylepšite túto príručku
Prečítajte si našu informačnú stránku a zistite, ako môžete pomôcť MSPoweruser udržať redakčný tím Čítaj viac
Microsoft dnes oznámil spustenie Program odmien spoločnosti Microsoft AI ktorý odmení ľudí, ktorí objavia zraniteľné miesta v novom prostredí Bing poháňanom AI. Odmeny sa pohybujú od 2,000 15,000 do XNUMX XNUMX USD. Nasledujúce produkty a služby majú nárok na tento nový bounty program:
- Zážitky Bingu poháňané AI na bing.com v prehliadači (podporujú sa všetci hlavní dodávatelia prehliadačov vrátane Bing Chat, Bing Chat for Enterprise a Bing Image Creator)
- Integrácia Bing s podporou AI v Microsoft Edge (Windows) vrátane Bing Chat for Enterprise
- Integrácia Bing s AI v aplikácii Microsoft Start (iOS a Android)
- Integrácia Bing poháňaná AI v mobilnej aplikácii Skype (iOS a Android)
Ak dokážete identifikovať slabé miesta v nižšie uvedenej oblasti, spoločnosť Microsoft vás odmení na základe závažnosti.
- Ovplyvňovanie a zmena správania chatu Bing cez hranice používateľov, tj zmena AI spôsobmi, ktoré ovplyvňujú všetkých ostatných používateľov.
- Úprava správania chatu Bing úpravou viditeľnej konfigurácie klienta a/alebo servera, ako je nastavenie príznakov ladenia, zmena príznakov funkcií atď.
- Prelomenie ochrany pamäte pre krížové konverzácie a vymazanie histórie Bing.
- Odhalenie interného fungovania a výziev Bingu, rozhodovacích procesov a dôverných informácií.
- Obchádzanie obmedzení a/alebo obmedzení/pravidiel v režime chatu Bing.
Odmeny budú odmenené na základe závažnosti zraniteľnosti podľa tabuľky nižšie:
| Typ zraniteľnosti | Kvalita prehľadov | Prísnosť | |||
|---|---|---|---|---|---|
| kritický | Dôležité informácie | Stredne | Nízky | ||
| Inferenčná manipulácia | vysoký
stredná Nízky |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulácia s modelom | vysoký
stredná Nízky |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Zverejňovanie inferenčných informácií | vysoký
stredná Nízky |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
„Nový bounty program Microsoft AI prichádza ako výsledok kľúčových investícií a poznatkov za posledných pár mesiacov, vrátane výzvy na výskum bezpečnosti AI a aktualizácie klasifikácie závažnosti zraniteľnosti systémov AI od Microsoftu,“ napísal tím MSRC.
