Microsoft, yeni AI destekli Bing deneyimlerindeki güvenlik açıklarını bulmak için AI ödül programını başlattı

Microsoft bugün lansmanını duyurdu Microsoft AI ödül programı bu, yeni yapay zeka destekli Bing deneyimindeki güvenlik açıklarını keşfeden kişileri ödüllendirecek. Ödül ödülleri 2,000 ABD Doları ile 15,000 ABD Doları arasında değişmektedir. Aşağıdaki ürün ve hizmetler bu yeni ödül programına uygundur:

• Tarayıcıda bing.com'da yapay zeka destekli Bing deneyimleri (Bing Chat, Bing Chat for Enterprise ve Bing Image Creator dahil olmak üzere tüm büyük tarayıcı satıcıları desteklenir)
• İşletmeler için Bing Chat de dahil olmak üzere Microsoft Edge'de (Windows) yapay zeka destekli Bing entegrasyonu
• Microsoft Start Uygulamasında (iOS ve Android) yapay zeka destekli Bing entegrasyonu
• Skype Mobil Uygulamasında (iOS ve Android) yapay zeka destekli Bing entegrasyonu

Aşağıdaki alandaki güvenlik açıklarını tespit edebilirseniz Microsoft sizi önem derecesine göre ödüllendirecektir.

• Bing'in sohbet davranışını kullanıcı sınırları genelinde etkilemek ve değiştirmek; yani yapay zekayı diğer tüm kullanıcıları etkileyecek şekilde değiştirmek.
• Hata ayıklama işaretlerini ayarlamak, özellik işaretlerini değiştirmek vb. gibi istemci ve/veya sunucu görünür yapılandırmasını ayarlayarak Bing'in sohbet davranışını değiştirmek.
• Bing'in çapraz konuşma hafıza korumalarını ve geçmişi silmeyi kırıyor.
• Bing'in dahili işleyişini ve istemlerini, karar verme süreçlerini ve gizli bilgilerini açığa çıkarmak.
• Bing'in sohbet modu oturum sınırlarını ve/veya kısıtlamalarını/kurallarını atlamak.

Ödüller, aşağıdaki tabloya göre güvenlik açığının ciddiyetine göre ödüllendirilecektir:

MSRC ekibi şunları yazdı: "Yeni Microsoft AI ödül programı, yapay zeka güvenlik araştırması mücadelesi ve Microsoft'un yapay zeka sistemleri için güvenlik açığı ciddiyet sınıflandırmasına yönelik bir güncelleme de dahil olmak üzere son birkaç aydaki önemli yatırımlar ve öğrenmelerin bir sonucu olarak geliyor."