Firma Microsoft uruchamia program nagród AI, którego zadaniem jest wyszukiwanie luk w nowych rozwiązaniach Bing opartych na sztucznej inteligencji
2 minuta. czytać
Opublikowany
Udostępnij ten artykuł
Ulepsz ten przewodnik
Przeczytaj naszą stronę z informacjami, aby dowiedzieć się, jak możesz pomóc MSPoweruser w utrzymaniu zespołu redakcyjnego Czytaj więcej
Firma Microsoft ogłosiła dziś wprowadzenie na rynek platformy Program nagród Microsoft AI które nagrodzi osoby, które odkryją luki w nowym środowisku Bing opartym na sztucznej inteligencji. Nagrody w nagrodach wahają się od 2,000 do 15,000 XNUMX dolarów. Następujące produkty i usługi kwalifikują się do tego nowego programu nagród:
- Doświadczenia Bing oparte na sztucznej inteligencji na bing.com w przeglądarce (obsługiwane są wszystkie główne przeglądarki dostawców, w tym Bing Chat, Bing Chat for Enterprise i Bing Image Creator)
- Integracja Bing oparta na sztucznej inteligencji w Microsoft Edge (Windows), w tym Bing Chat dla przedsiębiorstw
- Integracja Bing oparta na sztucznej inteligencji w aplikacji Microsoft Start (iOS i Android)
- Integracja Bing oparta na sztucznej inteligencji z aplikacją mobilną Skype (iOS i Android)
Jeśli uda Ci się zidentyfikować luki w poniższym obszarze, Microsoft wynagrodzi Cię w oparciu o ich wagę.
- Wpływanie i zmienianie zachowania czatu Bing ponad granicami użytkowników, tj. zmienianie sztucznej inteligencji w sposób, który wpływa na wszystkich innych użytkowników.
- Modyfikowanie zachowania czatu Bing poprzez dostosowanie widocznej konfiguracji klienta i/lub serwera, na przykład ustawienie flag debugowania, zmiana flag funkcji itp.
- Łamanie zabezpieczeń pamięci między konwersacjami Bing i usuwania historii.
- Ujawnianie wewnętrznego działania i podpowiedzi Bing, procesów podejmowania decyzji i informacji poufnych.
- Omijanie limitów i/lub ograniczeń/reguł sesji trybu czatu Bing.
Nagrody zostaną przyznane w zależności od poziomu podatności zgodnie z poniższą tabelą:
| Typ luki w zabezpieczeniach | Jakość raportu | Dotkliwość | |||
|---|---|---|---|---|---|
| Krytyczny | Ważny | Umiarkowanego | niski | ||
| Manipulacja wnioskowaniem | Wysoki
Średni niski |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulacja modelami | Wysoki
Średni niski |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Ujawnianie informacji wnioskowanych | Wysoki
Średni niski |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
„Nowy program nagród Microsoft dotyczący sztucznej inteligencji powstał w wyniku kluczowych inwestycji i wniosków zdobytych w ciągu ostatnich kilku miesięcy, w tym wyzwania związanego z badaniami nad bezpieczeństwem sztucznej inteligencji oraz aktualizacji klasyfikacji ważności luk w zabezpieczeniach systemów sztucznej inteligencji firmy Microsoft” – napisał zespół MSRC.
