Microsoft spouští AI bounty program, aby našel zranitelnosti v nových prostředích Bing s umělou inteligencí
2 min. číst
Publikované dne
Sdílejte tento článek
Vylepšete tuto příručku
Přečtěte si naši informační stránku a zjistěte, jak můžete pomoci MSPoweruser udržet redakční tým Dozvědět se více
Microsoft dnes oznámil spuštění Odměnový program Microsoft AI která odmění lidi, kteří objeví zranitelnosti v novém prostředí Bing s umělou inteligencí. Odměny se pohybují od 2,000 15,000 do XNUMX XNUMX USD. Následující produkty a služby jsou způsobilé pro tento nový bounty program:
- Zážitky Bing s umělou inteligencí na bing.com v prohlížeči (jsou podporováni všichni hlavní dodavatelé prohlížečů, včetně Bing Chat, Bing Chat for Enterprise a Bing Image Creator)
- Integrace Bingu s umělou inteligencí v Microsoft Edge (Windows), včetně Bing Chat for Enterprise
- Integrace Bingu s umělou inteligencí v aplikaci Microsoft Start (iOS a Android)
- Integrace Bingu s umělou inteligencí v mobilní aplikaci Skype (iOS a Android)
Pokud dokážete identifikovat zranitelnosti v níže uvedené oblasti, společnost Microsoft vás odmění na základě závažnosti.
- Ovlivňování a změna chování Bingu na chatu přes hranice uživatelů, tj. změna AI způsoby, které mají dopad na všechny ostatní uživatele.
- Úprava chování chatu Bing úpravou viditelné konfigurace klienta a/nebo serveru, jako je nastavení příznaků ladění, změna příznaků funkcí atd.
- Prolomení ochrany paměti Bing pro křížovou konverzaci a mazání historie.
- Odhalení interního fungování a výzev, rozhodovacích procesů a důvěrných informací Bingu.
- Obcházení limitů relace režimu chatu Bing a/nebo omezení/pravidel.
Odměny budou odměněny na základě závažnosti zranitelnosti podle tabulky níže:
| Typ zranitelnosti | Kvalita zprávy | Přísnost | |||
|---|---|---|---|---|---|
| kritický | důležitý | Středně | Nízké | ||
| Inferenční manipulace | Vysoký
Střední Nízké |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulace s modelem | Vysoký
Střední Nízké |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Inferenční zpřístupnění informací | Vysoký
Střední Nízké |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
„Nový bounty program Microsoft AI přichází jako výsledek klíčových investic a poznatků z posledních několika měsíců, včetně výzvy pro výzkum zabezpečení AI a aktualizace klasifikace závažnosti zranitelnosti systémů AI společnosti Microsoft,“ napsal tým MSRC.
