Microsoft assina Christchurch Call para combater conteúdo extremista online

Em 15 de maio, a primeira-ministra da Nova Zelândia, Jacinda Ardern, e o presidente francês, Emmanuel Macron, reuniram líderes governamentais e representantes de empresas de tecnologia para anunciar o “Chamado à ação de Christchurch para eliminar o conteúdo terrorista e extremista violento online”. Em resposta à chamada, Amazon, Facebook, Google, Twitter e Microsoft emitiram uma declaração conjunta. As empresas também publicaram nove passoseles tomarão para implementar o Chamado de Christchurch.

Os ataques terroristas em Christchurch, Nova Zelândia, em março, foram uma tragédia horrível. E, portanto, é certo que nos unamos, resolutos em nosso compromisso de garantir que estamos fazendo todo o possível para combater o ódio e o extremismo que levam à violência terrorista.

A chamada de Christchurch anunciada hoje expande o Fórum Global da Internet para Combater o Terrorismo (GIFCT) e se baseia em nossas outras iniciativas com o governo e a sociedade civil para impedir a disseminação de conteúdo terrorista e extremista violento. Além disso, estamos compartilhando medidas concretas que tomaremos para lidar com o abuso de tecnologia para espalhar conteúdo terrorista, incluindo investimento contínuo em tecnologia que melhora nossa capacidade de detectar e remover esse conteúdo de nossos serviços, atualizações em nossos termos de uso individuais e muito mais. transparência para políticas de conteúdo e remoções.

O terrorismo e o extremismo violento são problemas sociais complexos que exigem uma resposta de toda a sociedade. De nossa parte, os compromissos que estamos assumindo hoje fortalecerão ainda mais a parceria que governos, sociedade e indústria de tecnologia devem ter para enfrentar essa ameaça.

– Amazon, Facebook, Google, Microsoft, Twitter

Além de assinar o Christchurch Call, Amazon, Facebook, Google, Twitter e Microsoft estão publicando nove passos que tomarão para lidar com o abuso da tecnologia para espalhar conteúdo terrorista e extremista violento. Essas nove etapas incluem cinco ações individuais que cada empresa está se comprometendo a realizar e mais quatro ações colaborativas que elas realizarão em conjunto.

Aqui estão os nove passos:

Ações para lidar com o abuso de tecnologia difundir conteúdo terrorista e extremista violento

Como provedores de serviços de compartilhamento de conteúdo online, as empresas se comprometem com o seguinte:

Cinco ações individuais

Termos de uso. A Microsoft se compromete a atualizar seus termos de uso, padrões da comunidade, códigos de conduta e políticas de uso aceitável para proibir expressamente a distribuição de conteúdo terrorista e extremista violento. A Microsoft acredita que isso é importante para estabelecer expectativas básicas para os usuários e articular uma base clara para a remoção desse conteúdo de suas plataformas e serviços e suspensão ou fechamento de contas que distribuem esse conteúdo.

Denúncias de usuários de conteúdo terrorista e extremista violento. A Microsoft compromete-se a estabelecer um ou mais métodos em suas plataformas e serviços online para que os usuários denunciem ou sinalizem conteúdo impróprio, incluindo conteúdo terrorista e extremista violento. A Microsoft garantirá que os mecanismos de denúncia sejam claros, visíveis e fáceis de usar, além de fornecer granularidade categórica suficiente para permitir que a empresa priorize e aja prontamente após a notificação de conteúdo terrorista ou extremista violento.

Aprimorando a Tecnologia. A Microsoft se compromete a continuar investindo em tecnologia que melhore sua capacidade de detectar e remover conteúdo terrorista e extremista violento online, incluindo a extensão ou desenvolvimento de impressões digitais e soluções de tecnologia baseadas em IA.

Transmissão ao vivo. A Microsoft compromete-se a identificar verificações apropriadas na transmissão ao vivo, com o objetivo de reduzir o risco de disseminação de conteúdo terrorista e extremista violento online. Isso pode incluir medidas de verificação aprimoradas (como classificações ou pontuações de streamer, atividade da conta ou processos de validação) e moderação de determinados eventos de transmissão ao vivo, quando apropriado. As verificações de transmissão ao vivo necessariamente serão adaptadas ao contexto de serviços específicos de transmissão ao vivo, incluindo o tipo de público, a natureza ou o caráter do serviço de transmissão ao vivo e a probabilidade de exploração.

Relatórios de Transparência. A Microsoft se compromete a publicar regularmente relatórios de transparência sobre detecção e remoção de conteúdo terrorista ou extremista violento em suas plataformas e serviços online e garantir que os dados sejam suportados por uma metodologia razoável e explicável.

Quatro Ações Colaborativas

Desenvolvimento de Tecnologia Compartilhada. A Microsoft compromete-se a trabalhar de forma colaborativa na indústria, governos, instituições educacionais e ONGs para desenvolver uma compreensão compartilhada dos contextos em que o conteúdo terrorista e extremista violento é publicado e melhorar a tecnologia para detectar e remover conteúdo terrorista e extremista violento de forma mais eficaz e eficiente. Isso incluirá:

• Trabalhe para criar conjuntos de dados compartilhados robustos para acelerar o aprendizado de máquina e a IA e compartilhar insights e aprendizados dos dados.
• Desenvolvimento de código aberto ou outras ferramentas compartilhadas para detectar e remover conteúdo terrorista ou extremista violento.
• Capacitação de todas as empresas, grandes e pequenas, para contribuir com o esforço coletivo e abordar melhor a detecção e remoção desse conteúdo em suas plataformas e serviços.

Protocolos de crise. A Microsoft compromete-se a trabalhar de forma colaborativa entre a indústria, governos e ONGs para criar um protocolo para responder a eventos emergentes ou ativos, com urgência, para que as informações relevantes possam ser compartilhadas, processadas e postas em prática de forma rápida e eficiente por todas as partes interessadas com o mínimo de atraso. . Isso inclui o estabelecimento de equipes de gerenciamento de incidentes que coordenam ações e distribuem amplamente informações de interesse público.

Educação. A Microsoft compromete-se a trabalhar de forma colaborativa na indústria, governos, instituições educacionais e ONGs para ajudar a entender e educar o público sobre conteúdo violento terrorista e extremista online. Isso inclui educar e lembrar os usuários sobre como denunciar ou não contribuir para a disseminação desse conteúdo online.

Combatendo o ódio e a intolerância. A Microsoft se compromete a trabalhar de forma colaborativa em toda a indústria para atacar as causas do extremismo e do ódio online. Isso inclui fornecer maior apoio para pesquisas relevantes – com ênfase no impacto do ódio online na discriminação e violência offline – e apoiar a capacidade e a capacidade de ONGs que trabalham para desafiar o ódio e promover o pluralismo e o respeito online.