Microsoft запускает программу вознаграждений за искусственный интеллект для поиска уязвимостей в новых приложениях Bing на базе искусственного интеллекта
2 минута. читать
Опубликовано
Поделиться этой статьей
Улучшите это руководство
Прочтите нашу страницу раскрытия информации, чтобы узнать, как вы можете помочь MSPoweruser поддержать редакционную команду. Читать далее
Microsoft сегодня объявила о запуске Программа вознаграждений Microsoft за искусственный интеллект это вознаградит людей, которые обнаружат уязвимости в новом интерфейсе Bing на базе искусственного интеллекта. Вознаграждения за вознаграждение варьируются от 2,000 до 15,000 XNUMX долларов США. Следующие продукты и услуги имеют право на участие в этой новой программе вознаграждений:
- Возможности Bing на базе искусственного интеллекта на bing.com в браузере (поддерживаются все основные поставщики браузеров, включая Bing Chat, Bing Chat for Enterprise и Bing Image Creator)
- Интеграция Bing на базе искусственного интеллекта в Microsoft Edge (Windows), включая Bing Chat для предприятия
- Интеграция Bing на базе искусственного интеллекта в приложении Microsoft Start (iOS и Android)
- Интеграция Bing на базе искусственного интеллекта в мобильное приложение Skype (iOS и Android)
Если вы сможете обнаружить уязвимости в приведенной ниже области, Microsoft вознаградит вас в зависимости от серьезности.
- Влияние и изменение поведения чата Bing за пределами пользователей, т. е. изменение ИИ таким образом, чтобы это влияло на всех остальных пользователей.
- Изменение поведения чата Bing путем настройки видимой конфигурации клиента и/или сервера, например установки флагов отладки, изменения флагов функций и т. д.
- Нарушение защиты памяти перекрестных разговоров Bing и удаление истории.
- Раскрытие внутренней работы и подсказок Bing, процессов принятия решений и конфиденциальной информации.
- Обход ограничений и/или ограничений/правил сеанса режима чата Bing.
Награды будут вознаграждены в зависимости от серьезности уязвимости согласно таблице ниже:
| Тип уязвимости | Отчет о качестве | Строгость | |||
|---|---|---|---|---|---|
| критический | Важнo | Умеренная | Низкий | ||
| Манипулирование выводами | High
Medium Низкий |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Манипулирование моделью | High
Medium Низкий |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Раскрытие информации, основанное на выводах | High
Medium Низкий |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
«Новая программа вознаграждений Microsoft за ИИ стала результатом ключевых инвестиций и знаний, полученных за последние несколько месяцев, включая исследование безопасности ИИ и обновление классификации Microsoft по степени серьезности уязвимостей для систем ИИ», — написала команда MSRC.
