Microsoft startet ein KI-Bounty-Programm, um Schwachstellen in den neuen KI-gestützten Bing-Erlebnissen zu finden
2 Minute. lesen
Veröffentlicht am
Lesen Sie unsere Offenlegungsseite, um herauszufinden, wie Sie MSPoweruser dabei helfen können, das Redaktionsteam zu unterstützen Lesen Sie weiter
Microsoft gab heute die Einführung des bekannt Microsoft AI-Bounty-Programm Dadurch werden Menschen belohnt, die Schwachstellen im neuen KI-gestützten Bing-Erlebnis entdecken. Die Kopfgeldprämien liegen zwischen 2,000 und 15,000 USD. Die folgenden Produkte und Dienstleistungen sind für dieses neue Prämienprogramm berechtigt:
- KI-gestützte Bing-Erlebnisse auf bing.com im Browser (Alle großen Browser-Anbieter werden unterstützt, einschließlich Bing Chat, Bing Chat for Enterprise und Bing Image Creator)
- KI-gestützte Bing-Integration in Microsoft Edge (Windows), einschließlich Bing Chat for Enterprise
- KI-gestützte Bing-Integration in die Microsoft Start-Anwendung (iOS und Android)
- KI-gestützte Bing-Integration in die Skype Mobile-Anwendung (iOS und Android)
Wenn Sie Schwachstellen im folgenden Bereich identifizieren können, belohnt Microsoft Sie basierend auf dem Schweregrad.
- Beeinflussung und Änderung des Chat-Verhaltens von Bing über Benutzergrenzen hinweg, dh Änderung der KI auf eine Weise, die sich auf alle anderen Benutzer auswirkt.
- Ändern des Chat-Verhaltens von Bing durch Anpassen der sichtbaren Client- und/oder Server-Konfiguration, z. B. Setzen von Debug-Flags, Ändern von Feature-Flags usw.
- Brechen Sie Bings konversationsübergreifenden Speicherschutz und das Löschen des Verlaufs.
- Offenlegung von Bings internen Abläufen und Aufforderungen, Entscheidungsprozessen und vertraulichen Informationen.
- Umgehen der Sitzungsbeschränkungen und/oder Einschränkungen/Regeln im Chat-Modus von Bing.
Prämien werden basierend auf der Schwere der Schwachstelle gemäß der folgenden Tabelle belohnt:
Schwachstellentyp | Berichtsqualität | Schwere | |||
---|---|---|---|---|---|
Kritisch | Wichtig | Moderat | Sneaker | ||
Inferenzmanipulation | GUTE
Medium Sneaker |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
Modellmanipulation | GUTE
Medium Sneaker |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
Offenlegung schlussfolgernder Informationen | GUTE
Medium Sneaker |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
„Das neue KI-Bounty-Programm von Microsoft ist das Ergebnis wichtiger Investitionen und Erkenntnisse der letzten Monate, einschließlich einer KI-Sicherheitsforschungsherausforderung und einer Aktualisierung der Microsoft-Schweregradklassifizierung für KI-Systeme“, schrieb das MSRC-Team.