Microsoft lança programa de recompensas de IA para encontrar vulnerabilidades nas novas experiências do Bing com tecnologia de IA

A Microsoft anunciou hoje o lançamento do Programa de recompensas de IA da Microsoft isso recompensará as pessoas que descobrirem vulnerabilidades na nova experiência do Bing com tecnologia de IA. As recompensas variam de US$ 2,000 a US$ 15,000. Os seguintes produtos e serviços são elegíveis para este novo programa de recompensas:

• Experiências do Bing com tecnologia de IA em bing.com no navegador (todos os principais fornecedores de navegador são suportados, incluindo Bing Chat, Bing Chat for Enterprise e Bing Image Creator)
• Integração do Bing com tecnologia de IA no Microsoft Edge (Windows), incluindo Bing Chat for Enterprise
• Integração do Bing com tecnologia de IA no aplicativo Microsoft Start (iOS e Android)
• Integração do Bing com tecnologia de IA no aplicativo móvel Skype (iOS e Android)

Se você conseguir identificar vulnerabilidades na área abaixo, a Microsoft irá recompensá-lo com base na gravidade.

• Influenciar e alterar o comportamento de bate-papo do Bing além das fronteiras do usuário, ou seja, alterar a IA de maneira que afete todos os outros usuários.
• Modificar o comportamento de bate-papo do Bing ajustando a configuração visível do cliente e/ou servidor, como definir sinalizadores de depuração, alterar sinalizadores de recursos, etc.
• Quebrando as proteções de memória de conversa cruzada e exclusão de histórico do Bing.
• Revelando o funcionamento interno e as instruções do Bing, processos de tomada de decisão e informações confidenciais.
• Ignorando os limites e/ou restrições/regras de sessão do modo de bate-papo do Bing.

As recompensas serão recompensadas com base na gravidade da vulnerabilidade conforme a tabela abaixo:

“O novo programa de recompensas de IA da Microsoft é resultado de investimentos e aprendizados importantes nos últimos meses, incluindo um desafio de pesquisa de segurança de IA e uma atualização na classificação de gravidade de vulnerabilidade da Microsoft para sistemas de IA”, escreveu a equipe MSRC.