Microsoft signe l'appel de Christchurch pour lutter contre les contenus extrémistes en ligne

Le 15 mai, la Première ministre néo-zélandaise Jacinda Ardern et le président français Emmanuel Macron ont réuni des chefs de gouvernement et des représentants d'entreprises technologiques pour annoncer l'« Appel à l'action de Christchurch pour éliminer les contenus terroristes et extrémistes violents en ligne ». En réponse à l'appel, Amazon, Facebook, Google, Twitter et Microsoft ont publié une déclaration commune. Les sociétés ont également publié neuf étapesqu'ils prendront pour mettre en œuvre l'Appel de Christchurch.

Les attentats terroristes à Christchurch, en Nouvelle-Zélande, en mars ont été une horrible tragédie. Il est donc juste que nous nous unissions, résolus dans notre engagement à nous assurer que nous faisons tout notre possible pour combattre la haine et l'extrémisme qui conduisent à la violence terroriste.

L'appel de Christchurch annoncé aujourd'hui s'étend au Forum Internet mondial de lutte contre le terrorisme (GIFCT) et s'appuie sur nos autres initiatives avec le gouvernement et la société civile pour empêcher la diffusion de contenus terroristes et extrémistes violents. De plus, nous partageons les mesures concrètes que nous prendrons pour lutter contre l'abus de la technologie pour diffuser du contenu terroriste, y compris un investissement continu dans la technologie qui améliore notre capacité à détecter et à supprimer ce contenu de nos services, des mises à jour de nos conditions d'utilisation individuelles, et plus encore. transparence pour les politiques de contenu et les suppressions.

Le terrorisme et l'extrémisme violent sont des problèmes de société complexes qui nécessitent une réponse de l'ensemble de la société. Pour notre part, les engagements que nous prenons aujourd'hui renforceront encore le partenariat que les gouvernements, la société et l'industrie technologique doivent entretenir pour faire face à cette menace.

– Amazon, Facebook, Google, Microsoft, Twitter

En plus de signer l'Appel de Christchurch, Amazon, Facebook, Google, Twitter et Microsoft publient neuf mesures qu'ils prendront pour lutter contre l'abus de la technologie pour diffuser des contenus terroristes et extrémistes violents. Ces neuf étapes comprennent cinq actions individuelles que chaque entreprise s'engage à prendre, et quatre autres actions collaboratives qu'elles prendront ensemble.

Voici les neuf étapes :

Actions contre l'abus de la technologie diffuser des contenus terroristes et extrémistes violents

En tant que fournisseurs de services de partage de contenu en ligne, les entreprises s'engagent à :

Cinq actions individuelles

Conditions d'utilisation. Microsoft s'engage à mettre à jour ses conditions d'utilisation, ses normes communautaires, ses codes de conduite et ses politiques d'utilisation acceptable afin d'interdire expressément la distribution de contenu terroriste et extrémiste violent. Microsoft pense que cela est important pour établir des attentes de base pour les utilisateurs et pour articuler une base claire pour la suppression de ce contenu de leurs plates-formes et services et la suspension ou la fermeture des comptes distribuant ce contenu.

Signalement par les utilisateurs de contenu terroriste et extrémiste violent. Microsoft s'engage à mettre en place une ou plusieurs méthodes au sein de ses plates-formes et services en ligne permettant aux utilisateurs de signaler ou de signaler tout contenu inapproprié, y compris le contenu terroriste et extrémiste violent. Microsoft veillera à ce que les mécanismes de signalement soient clairs, visibles et faciles à utiliser, et fournissent une granularité catégorique suffisante pour permettre à l'entreprise d'établir des priorités et d'agir rapidement dès la notification d'un contenu terroriste ou extrémiste violent.

Amélioration de la technologie. Microsoft s'engage à continuer d'investir dans la technologie qui améliore sa capacité à détecter et à supprimer les contenus terroristes et extrémistes violents en ligne, y compris l'extension ou le développement de l'empreinte numérique et de solutions technologiques basées sur l'IA.

Diffusion en direct. Microsoft s'engage à identifier les contrôles appropriés sur la diffusion en direct, visant à réduire le risque de diffusion de contenu terroriste et extrémiste violent en ligne. Celles-ci peuvent inclure des mesures de vérification améliorées (telles que les évaluations ou les scores des streamers, l'activité du compte ou les processus de validation) et la modération de certains événements de diffusion en direct, le cas échéant. Les contrôles de la diffusion en direct seront nécessairement adaptés au contexte des services de diffusion en direct spécifiques, y compris le type d'audience, la nature ou le caractère du service de diffusion en direct et la probabilité d'exploitation.

Rapports de transparence. Microsoft s'engage à publier régulièrement des rapports de transparence concernant la détection et la suppression de contenu terroriste ou extrémiste violent sur ses plateformes et services en ligne et à s'assurer que les données sont étayées par une méthodologie raisonnable et explicable.

Quatre actions collaboratives

Développement technologique partagé. Microsoft s'engage à travailler en collaboration avec l'industrie, les gouvernements, les établissements d'enseignement et les ONG pour développer une compréhension commune des contextes dans lesquels le contenu terroriste et extrémiste violent est publié et pour améliorer la technologie afin de détecter et de supprimer le contenu terroriste et extrémiste violent de manière plus efficace et efficiente. Cela comprendra :

• Travaillez pour créer des ensembles de données partagés robustes pour accélérer l'apprentissage automatique et l'IA et partager des informations et des apprentissages à partir des données.
• Développement d'outils open source ou d'autres outils partagés pour détecter et supprimer les contenus terroristes ou extrémistes violents.
• Permettre à toutes les entreprises, grandes et petites, de contribuer à l'effort collectif et de mieux gérer la détection et la suppression de ces contenus sur leurs plateformes et services.

Protocoles de crise. Microsoft s'engage à travailler en collaboration avec l'industrie, les gouvernements et les ONG pour créer un protocole de réponse urgente aux événements émergents ou actifs, afin que les informations pertinentes puissent être rapidement et efficacement partagées, traitées et traitées par toutes les parties prenantes dans un délai minimal. . Cela comprend la mise en place d'équipes de gestion des incidents qui coordonnent les actions et diffusent largement les informations d'intérêt public.

Éducation. Microsoft s'engage à travailler en collaboration avec l'industrie, les gouvernements, les établissements d'enseignement et les ONG pour aider à comprendre et à éduquer le public sur le contenu violent terroriste et extrémiste en ligne. Cela comprend l'éducation et le rappel aux utilisateurs sur la façon de signaler ou de ne pas contribuer à la diffusion de ce contenu en ligne.

Combattre la haine et le sectarisme. Microsoft s'engage à travailler en collaboration avec l'ensemble de l'industrie pour s'attaquer aux causes profondes de l'extrémisme et de la haine en ligne. Il s'agit notamment de fournir un plus grand soutien aux recherches pertinentes - en mettant l'accent sur l'impact de la haine en ligne sur la discrimination et la violence hors ligne - et de soutenir les capacités et les capacités des ONG travaillant à lutter contre la haine et à promouvoir le pluralisme et le respect en ligne.