Microsoft lança programa de recompensas de IA para encontrar vulnerabilidades nas novas experiências do Bing com tecnologia de IA
2 minutos. ler
Publicado em
Compartilhe este artigo
Melhore este guia
Leia nossa página de divulgação para descobrir como você pode ajudar o MSPoweruser a sustentar a equipe editorial Saiba mais
A Microsoft anunciou hoje o lançamento do Programa de recompensas de IA da Microsoft isso recompensará as pessoas que descobrirem vulnerabilidades na nova experiência do Bing com tecnologia de IA. As recompensas variam de US$ 2,000 a US$ 15,000. Os seguintes produtos e serviços são elegíveis para este novo programa de recompensas:
- Experiências do Bing com tecnologia de IA em bing.com no navegador (todos os principais fornecedores de navegador são suportados, incluindo Bing Chat, Bing Chat for Enterprise e Bing Image Creator)
- Integração do Bing com tecnologia de IA no Microsoft Edge (Windows), incluindo Bing Chat for Enterprise
- Integração do Bing com tecnologia de IA no aplicativo Microsoft Start (iOS e Android)
- Integração do Bing com tecnologia de IA no aplicativo móvel Skype (iOS e Android)
Se você conseguir identificar vulnerabilidades na área abaixo, a Microsoft irá recompensá-lo com base na gravidade.
- Influenciar e alterar o comportamento de bate-papo do Bing além das fronteiras do usuário, ou seja, alterar a IA de maneira que afete todos os outros usuários.
- Modificar o comportamento de bate-papo do Bing ajustando a configuração visível do cliente e/ou servidor, como definir sinalizadores de depuração, alterar sinalizadores de recursos, etc.
- Quebrando as proteções de memória de conversa cruzada e exclusão de histórico do Bing.
- Revelando o funcionamento interno e as instruções do Bing, processos de tomada de decisão e informações confidenciais.
- Ignorando os limites e/ou restrições/regras de sessão do modo de bate-papo do Bing.
As recompensas serão recompensadas com base na gravidade da vulnerabilidade conforme a tabela abaixo:
| Tipo de vulnerabilidade | Qualidade do relatório | Gravidade | |||
|---|---|---|---|---|---|
| Crítico | importante | Moderado | Baixo | ||
| Manipulação de Inferência | Alta
Médio Baixo |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Manipulação de Modelo | Alta
Médio Baixo |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| Divulgação de informações inferenciais | Alta
Médio Baixo |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
“O novo programa de recompensas de IA da Microsoft é resultado de investimentos e aprendizados importantes nos últimos meses, incluindo um desafio de pesquisa de segurança de IA e uma atualização na classificação de gravidade de vulnerabilidade da Microsoft para sistemas de IA”, escreveu a equipe MSRC.
