Microsoft запускає програму винагород за штучний інтелект, щоб знайти вразливості в нових можливостях Bing на основі штучного інтелекту
2 хв. читати
Опубліковано
Поділитися цією статтею
Удосконалити цей посібник
Прочитайте нашу сторінку розкриття інформації, щоб дізнатися, як ви можете допомогти MSPoweruser підтримувати редакційну команду Читати далі
Microsoft сьогодні оголосила про запуск Програма винагород Microsoft AI який винагородить людей, які виявлять уразливості в новому досвіді Bing на основі штучного інтелекту. Баунті винагороди коливаються від 2,000 до 15,000 XNUMX доларів США. Наступні продукти та послуги підходять для цієї нової програми баунті:
- Робота Bing на основі штучного інтелекту на bing.com у браузері (підтримуються всі основні постачальники браузерів, зокрема Bing Chat, Bing Chat for Enterprise і Bing Image Creator)
- Інтеграція Bing на основі штучного інтелекту в Microsoft Edge (Windows), включаючи Bing Chat for Enterprise
- Інтеграція Bing на основі штучного інтелекту в програму Microsoft Start (iOS і Android)
- Інтеграція Bing на основі штучного інтелекту в мобільну програму Skype (iOS і Android)
Якщо ви зможете визначити вразливі місця в наведеній нижче області, Microsoft винагородить вас залежно від ступеня серйозності.
- Вплив і зміна поведінки чату Bing поза межами користувачів, тобто зміна штучного інтелекту таким чином, щоб впливати на всіх інших користувачів.
- Зміна поведінки чату Bing шляхом налаштування видимої конфігурації клієнта та/або сервера, як-от встановлення прапорів налагодження, зміна прапорів функцій тощо.
- Порушення захисту пам’яті перехресних розмов Bing і видалення історії.
- Розкриття внутрішньої роботи Bing і підказок, процесів прийняття рішень і конфіденційної інформації.
- Обхід обмежень і/або обмежень/правил сеансу режиму чату Bing.
Нагороди будуть нараховані залежно від серйозності вразливості згідно з таблицею нижче:
| Тип уразливості | Якість звіту | Строгість | |||
|---|---|---|---|---|---|
| Критичний | Важливий | Помірна | низький | ||
| Маніпуляція висновками | Високий
Medium низький |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Маніпуляція моделлю | Високий
Medium низький |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Інференційне розкриття інформації | Високий
Medium низький |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
«Нова програма винагород Microsoft за штучний інтелект стала результатом ключових інвестицій і знань за останні кілька місяців, включаючи дослідження безпеки штучного інтелекту та оновлення класифікації серйозності вразливостей систем штучного інтелекту Microsoft», — написала команда MSRC.
