Microsoft spouští AI bounty program, aby našel zranitelnosti v nových prostředích Bing s umělou inteligencí

Microsoft dnes oznámil spuštění Odměnový program Microsoft AI která odmění lidi, kteří objeví zranitelnosti v novém prostředí Bing s umělou inteligencí. Odměny se pohybují od 2,000 15,000 do XNUMX XNUMX USD. Následující produkty a služby jsou způsobilé pro tento nový bounty program:

• Zážitky Bing s umělou inteligencí na bing.com v prohlížeči (jsou podporováni všichni hlavní dodavatelé prohlížečů, včetně Bing Chat, Bing Chat for Enterprise a Bing Image Creator)
• Integrace Bingu s umělou inteligencí v Microsoft Edge (Windows), včetně Bing Chat for Enterprise
• Integrace Bingu s umělou inteligencí v aplikaci Microsoft Start (iOS a Android)
• Integrace Bingu s umělou inteligencí v mobilní aplikaci Skype (iOS a Android)

Pokud dokážete identifikovat zranitelnosti v níže uvedené oblasti, společnost Microsoft vás odmění na základě závažnosti.

• Ovlivňování a změna chování Bingu na chatu přes hranice uživatelů, tj. změna AI způsoby, které mají dopad na všechny ostatní uživatele.
• Úprava chování chatu Bing úpravou viditelné konfigurace klienta a/nebo serveru, jako je nastavení příznaků ladění, změna příznaků funkcí atd.
• Prolomení ochrany paměti Bing pro křížovou konverzaci a mazání historie.
• Odhalení interního fungování a výzev, rozhodovacích procesů a důvěrných informací Bingu.
• Obcházení limitů relace režimu chatu Bing a/nebo omezení/pravidel.

Odměny budou odměněny na základě závažnosti zranitelnosti podle tabulky níže:

„Nový bounty program Microsoft AI přichází jako výsledek klíčových investic a poznatků z posledních několika měsíců, včetně výzvy pro výzkum zabezpečení AI a aktualizace klasifikace závažnosti zranitelnosti systémů AI společnosti Microsoft,“ napsal tým MSRC.