Microsoft meluncurkan program hadiah AI untuk menemukan kerentanan dalam pengalaman Bing baru yang didukung AI
2 menit Baca
Ditampilkan di
Bagikan artikel ini
Sempurnakan panduan ini
Baca halaman pengungkapan kami untuk mengetahui bagaimana Anda dapat membantu MSPoweruser mempertahankan tim editorial Baca lebih lanjut
Microsoft hari ini mengumumkan peluncuran Program hadiah Microsoft AI yang akan memberi penghargaan kepada orang-orang yang menemukan kerentanan dalam pengalaman Bing baru yang didukung AI. Hadiah bounty berkisar dari $2,000 hingga $15,000 USD. Produk dan layanan berikut memenuhi syarat untuk program bounty baru ini:
- Pengalaman Bing yang didukung AI di bing.com di Browser (Semua vendor browser utama didukung, termasuk Bing Chat, Bing Chat untuk Perusahaan, dan Bing Image Creator)
- Integrasi Bing yang didukung AI di Microsoft Edge (Windows), termasuk Bing Chat untuk Perusahaan
- Integrasi Bing yang didukung AI di Aplikasi Microsoft Start (iOS dan Android)
- Integrasi Bing yang didukung AI di Aplikasi Skype Mobile (iOS dan Android)
Jika Anda dapat mengidentifikasi kerentanan di area di bawah ini, Microsoft akan memberi penghargaan kepada Anda berdasarkan tingkat keparahannya.
- Mempengaruhi dan mengubah perilaku obrolan Bing melintasi batas-batas pengguna, yaitu mengubah AI dengan cara yang berdampak pada semua pengguna lainnya.
- Memodifikasi perilaku obrolan Bing dengan menyesuaikan konfigurasi klien dan/atau server yang terlihat, seperti menyetel tanda debug, mengubah tanda fitur, dll.
- Melanggar perlindungan memori percakapan silang dan penghapusan riwayat Bing.
- Mengungkap cara kerja dan petunjuk internal Bing, proses pengambilan keputusan, dan informasi rahasia.
- Melewati batas sesi dan/atau batasan/aturan mode obrolan Bing.
Bounty akan diberikan berdasarkan tingkat keparahan kerentanan sesuai tabel di bawah ini:
| Jenis Kerentanan | Kualitas Laporan | Kerasnya | |||
|---|---|---|---|---|---|
| Kritis | penting | Moderat | Rendah | ||
| Manipulasi Inferensi | High
Medium Rendah |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulasi Model | High
Medium Rendah |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Pengungkapan Informasi Inferensial | High
Medium Rendah |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
“Program bounty AI Microsoft yang baru hadir sebagai hasil dari investasi dan pembelajaran penting selama beberapa bulan terakhir, termasuk tantangan penelitian keamanan AI dan pembaruan klasifikasi tingkat keparahan kerentanan Microsoft untuk sistem AI,” tulis tim MSRC.
