Microsoft, yeni AI destekli Bing deneyimlerindeki güvenlik açıklarını bulmak için AI ödül programını başlattı
2 dk. okuman
Yayınlandı
Bu makaleyi paylaş
Bu kılavuzu geliştirin
MSPoweruser'ın editör ekibini ayakta tutmasına nasıl yardımcı olabileceğinizi öğrenmek için açıklama sayfamızı okuyun. Daha fazla
Microsoft bugün lansmanını duyurdu Microsoft AI ödül programı bu, yeni yapay zeka destekli Bing deneyimindeki güvenlik açıklarını keşfeden kişileri ödüllendirecek. Ödül ödülleri 2,000 ABD Doları ile 15,000 ABD Doları arasında değişmektedir. Aşağıdaki ürün ve hizmetler bu yeni ödül programına uygundur:
- Tarayıcıda bing.com'da yapay zeka destekli Bing deneyimleri (Bing Chat, Bing Chat for Enterprise ve Bing Image Creator dahil olmak üzere tüm büyük tarayıcı satıcıları desteklenir)
- İşletmeler için Bing Chat de dahil olmak üzere Microsoft Edge'de (Windows) yapay zeka destekli Bing entegrasyonu
- Microsoft Start Uygulamasında (iOS ve Android) yapay zeka destekli Bing entegrasyonu
- Skype Mobil Uygulamasında (iOS ve Android) yapay zeka destekli Bing entegrasyonu
Aşağıdaki alandaki güvenlik açıklarını tespit edebilirseniz Microsoft sizi önem derecesine göre ödüllendirecektir.
- Bing'in sohbet davranışını kullanıcı sınırları genelinde etkilemek ve değiştirmek; yani yapay zekayı diğer tüm kullanıcıları etkileyecek şekilde değiştirmek.
- Hata ayıklama işaretlerini ayarlamak, özellik işaretlerini değiştirmek vb. gibi istemci ve/veya sunucu görünür yapılandırmasını ayarlayarak Bing'in sohbet davranışını değiştirmek.
- Bing'in çapraz konuşma hafıza korumalarını ve geçmişi silmeyi kırıyor.
- Bing'in dahili işleyişini ve istemlerini, karar verme süreçlerini ve gizli bilgilerini açığa çıkarmak.
- Bing'in sohbet modu oturum sınırlarını ve/veya kısıtlamalarını/kurallarını atlamak.
Ödüller, aşağıdaki tabloya göre güvenlik açığının ciddiyetine göre ödüllendirilecektir:
| Güvenlik Açığı Türü | Rapor Kalitesi | Şiddet | |||
|---|---|---|---|---|---|
| Kritik | Hatırlatma | ılımlı | Düşük | ||
| Çıkarım Manipülasyonu | Yüksek
Orta Düşük |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Model Manipülasyonu | Yüksek
Orta Düşük |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Çıkarımsal Bilgilerin Açıklanması | Yüksek
Orta Düşük |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
MSRC ekibi şunları yazdı: "Yeni Microsoft AI ödül programı, yapay zeka güvenlik araştırması mücadelesi ve Microsoft'un yapay zeka sistemleri için güvenlik açığı ciddiyet sınıflandırmasına yönelik bir güncelleme de dahil olmak üzere son birkaç aydaki önemli yatırımlar ve öğrenmelerin bir sonucu olarak geliyor."
