Microsoft、AI を活用した新しい Bing エクスペリエンスの脆弱性を発見する AI 報奨金プログラムを開始

Microsoft は本日、 Microsoft AI 報奨金プログラム これは、AI を活用した新しい Bing エクスペリエンスの脆弱性を発見した人に報酬を与えるものです。 報奨金の範囲は 2,000 米ドルから 15,000 米ドルです。 次の製品とサービスがこの新しい報奨金プログラムの対象となります。

• ブラウザーでの bing.com での AI を活用した Bing エクスペリエンス (Bing Chat、Bing Chat for Enterprise、Bing Image Creator を含むすべての主要なブラウザー ベンダーがサポートされています)
• Microsoft Edge (Windows) での AI を活用した Bing の統合 (Bing Chat for Enterprise を含む)
• Microsoft Start アプリケーションでの AI を活用した Bing の統合 (iOS および Android)
• Skype モバイル アプリケーション (iOS および Android) への AI を活用した Bing の統合

以下の領域の脆弱性を特定できた場合、Microsoft は重大度に基づいて報酬を与えます。

• ユーザーの境界を越えて Bing のチャット動作に影響を与え、変更する。つまり、他のすべてのユーザーに影響を与える方法で AI を変更する。
• デバッグ フラグの設定、機能フラグの変更など、クライアントやサーバーに表示される構成を調整することにより、Bing のチャット動作を変更します。
• Bing のクロス会話メモリ保護と履歴削除を破ります。
• Bing の内部仕組みとプロンプト、意思決定プロセス、機密情報を明らかにします。
• Bing のチャット モード セッションの制限や制限/ルールをバイパスします。

報奨金は、以下の表に従って脆弱性の重大度に基づいて支払われます。

「新しい Microsoft AI 報奨金プログラムは、AI セキュリティ研究への挑戦や AI システムに対する Microsoft の脆弱性重大度分類の更新など、過去数か月にわたる重要な投資と学習の結果として生まれました」と MSRC チームは書いています。