Firma Microsoft uruchamia program nagród AI, którego zadaniem jest wyszukiwanie luk w nowych rozwiązaniach Bing opartych na sztucznej inteligencji

Firma Microsoft ogłosiła dziś wprowadzenie na rynek platformy Program nagród Microsoft AI które nagrodzi osoby, które odkryją luki w nowym środowisku Bing opartym na sztucznej inteligencji. Nagrody w nagrodach wahają się od 2,000 do 15,000 XNUMX dolarów. Następujące produkty i usługi kwalifikują się do tego nowego programu nagród:

• Doświadczenia Bing oparte na sztucznej inteligencji na bing.com w przeglądarce (obsługiwane są wszystkie główne przeglądarki dostawców, w tym Bing Chat, Bing Chat for Enterprise i Bing Image Creator)
• Integracja Bing oparta na sztucznej inteligencji w Microsoft Edge (Windows), w tym Bing Chat dla przedsiębiorstw
• Integracja Bing oparta na sztucznej inteligencji w aplikacji Microsoft Start (iOS i Android)
• Integracja Bing oparta na sztucznej inteligencji z aplikacją mobilną Skype (iOS i Android)

Jeśli uda Ci się zidentyfikować luki w poniższym obszarze, Microsoft wynagrodzi Cię w oparciu o ich wagę.

• Wpływanie i zmienianie zachowania czatu Bing ponad granicami użytkowników, tj. zmienianie sztucznej inteligencji w sposób, który wpływa na wszystkich innych użytkowników.
• Modyfikowanie zachowania czatu Bing poprzez dostosowanie widocznej konfiguracji klienta i/lub serwera, na przykład ustawienie flag debugowania, zmiana flag funkcji itp.
• Łamanie zabezpieczeń pamięci między konwersacjami Bing i usuwania historii.
• Ujawnianie wewnętrznego działania i podpowiedzi Bing, procesów podejmowania decyzji i informacji poufnych.
• Omijanie limitów i/lub ograniczeń/reguł sesji trybu czatu Bing.

Nagrody zostaną przyznane w zależności od poziomu podatności zgodnie z poniższą tabelą:

„Nowy program nagród Microsoft dotyczący sztucznej inteligencji powstał w wyniku kluczowych inwestycji i wniosków zdobytych w ciągu ostatnich kilku miesięcy, w tym wyzwania związanego z badaniami nad bezpieczeństwem sztucznej inteligencji oraz aktualizacji klasyfikacji ważności luk w zabezpieczeniach systemów sztucznej inteligencji firmy Microsoft” – napisał zespół MSRC.