Microsoft startet ein KI-Bounty-Programm, um Schwachstellen in den neuen KI-gestützten Bing-Erlebnissen zu finden

Microsoft gab heute die Einführung des bekannt Microsoft AI-Bounty-Programm Dadurch werden Menschen belohnt, die Schwachstellen im neuen KI-gestützten Bing-Erlebnis entdecken. Die Kopfgeldprämien liegen zwischen 2,000 und 15,000 USD. Die folgenden Produkte und Dienstleistungen sind für dieses neue Prämienprogramm berechtigt:

• KI-gestützte Bing-Erlebnisse auf bing.com im Browser (Alle großen Browser-Anbieter werden unterstützt, einschließlich Bing Chat, Bing Chat for Enterprise und Bing Image Creator)
• KI-gestützte Bing-Integration in Microsoft Edge (Windows), einschließlich Bing Chat for Enterprise
• KI-gestützte Bing-Integration in die Microsoft Start-Anwendung (iOS und Android)
• KI-gestützte Bing-Integration in die Skype Mobile-Anwendung (iOS und Android)

Wenn Sie Schwachstellen im folgenden Bereich identifizieren können, belohnt Microsoft Sie basierend auf dem Schweregrad.

• Beeinflussung und Änderung des Chat-Verhaltens von Bing über Benutzergrenzen hinweg, dh Änderung der KI auf eine Weise, die sich auf alle anderen Benutzer auswirkt.
• Ändern des Chat-Verhaltens von Bing durch Anpassen der sichtbaren Client- und/oder Server-Konfiguration, z. B. Setzen von Debug-Flags, Ändern von Feature-Flags usw.
• Brechen Sie Bings konversationsübergreifenden Speicherschutz und das Löschen des Verlaufs.
• Offenlegung von Bings internen Abläufen und Aufforderungen, Entscheidungsprozessen und vertraulichen Informationen.
• Umgehen der Sitzungsbeschränkungen und/oder Einschränkungen/Regeln im Chat-Modus von Bing.

Prämien werden basierend auf der Schwere der Schwachstelle gemäß der folgenden Tabelle belohnt:

„Das neue KI-Bounty-Programm von Microsoft ist das Ergebnis wichtiger Investitionen und Erkenntnisse der letzten Monate, einschließlich einer KI-Sicherheitsforschungsherausforderung und einer Aktualisierung der Microsoft-Schweregradklassifizierung für KI-Systeme“, schrieb das MSRC-Team.