Microsoft ondertekent Christchurch Call om extremistische online inhoud te bestrijden

Op 15 mei brachten de Nieuw-Zeelandse premier Jacinda Ardern en de Franse president Emmanuel Macron regeringsleiders en vertegenwoordigers van technologiebedrijven samen om aankondigen de "Christchurch-oproep tot actie om terroristische en gewelddadige extremistische inhoud online te elimineren." In reactie op de Call hebben Amazon, Facebook, Google, Twitter en Microsoft een gezamenlijke verklaring afgegeven. De bedrijven publiceerden ook negen stappenze zullen nemen om de Christchurch-oproep te implementeren.

De terroristische aanslagen in Christchurch, Nieuw-Zeeland, in maart waren een gruwelijke tragedie. En dus is het juist dat we samenkomen, vastberaden in onze toewijding om ervoor te zorgen dat we er alles aan doen om de haat en het extremisme te bestrijden die tot terroristisch geweld leiden.

De Christchurch Call die vandaag is aangekondigd, breidt uit op het Global Internet Forum to Counter Terrorism (GIFCT) en bouwt voort op onze andere initiatieven met de overheid en het maatschappelijk middenveld om de verspreiding van terroristische en gewelddadige extremistische inhoud te voorkomen. Daarnaast delen we concrete stappen die we zullen nemen om het misbruik van technologie aan te pakken om terroristische inhoud te verspreiden, inclusief voortdurende investeringen in technologie die ons vermogen verbetert om deze inhoud op te sporen en uit onze diensten te verwijderen, updates van onze individuele gebruiksvoorwaarden, en meer transparantie voor inhoudsbeleid en verwijderingen.

Terrorisme en gewelddadig extremisme zijn complexe maatschappelijke problemen die een reactie van de hele samenleving vereisen. Van onze kant zullen de toezeggingen die we vandaag doen, het partnerschap dat regeringen, de samenleving en de technologie-industrie moeten hebben om deze dreiging het hoofd te bieden, verder versterken.

– Amazon, Facebook, Google, Microsoft, Twitter

Naast de ondertekening van de Christchurch Call, publiceren Amazon, Facebook, Google, Twitter en Microsoft negen stappen die ze zullen nemen om het misbruik van technologie om terroristische en gewelddadige extremistische inhoud te verspreiden, aan te pakken. Deze negen stappen omvatten vijf individuele acties die elk bedrijf toezegt te nemen, en nog eens vier gezamenlijke acties die ze samen zullen ondernemen.

Dit zijn de negen stappen:

Maatregelen om misbruik van technologie aan te pakken om terroristische en gewelddadige extremistische inhoud te verspreiden

Als serviceproviders voor het delen van online content verplichten de bedrijven zich tot het volgende:

Vijf individuele acties

Gebruiksvoorwaarden. Microsoft verbindt zich ertoe hun gebruiksvoorwaarden, gemeenschapsnormen, gedragscodes en beleid voor acceptabel gebruik bij te werken om de verspreiding van terroristische en gewelddadige extremistische inhoud uitdrukkelijk te verbieden. Microsoft is van mening dat dit belangrijk is om basisverwachtingen voor gebruikers vast te stellen en een duidelijke basis te formuleren voor het verwijderen van deze inhoud van hun platforms en services en opschorting of sluiting van accounts die dergelijke inhoud verspreiden.

Gebruikersrapportage van terroristische en gewelddadige extremistische inhoud. Microsoft verbindt zich ertoe een of meer methoden binnen hun online platforms en diensten in te voeren waarmee gebruikers ongepaste inhoud, waaronder terroristische en gewelddadige extremistische inhoud, kunnen melden of markeren. Microsoft zal ervoor zorgen dat de rapportagemechanismen duidelijk, opvallend en gebruiksvriendelijk zijn, en voldoende categorische granulariteit bieden om het bedrijf in staat te stellen prioriteiten te stellen en snel te handelen na kennisgeving van terroristische of gewelddadige extremistische inhoud.

Technologie verbeteren. Microsoft verbindt zich ertoe te blijven investeren in technologie die hun vermogen verbetert om terroristische en gewelddadige extremistische inhoud online te detecteren en te verwijderen, inclusief de uitbreiding of ontwikkeling van digitale vingerafdrukken en op AI gebaseerde technologieoplossingen.

Live streaming. Microsoft verbindt zich ertoe passende controles op livestreaming te identificeren, gericht op het verminderen van het risico van online verspreiding van terroristische en gewelddadige extremistische inhoud. Deze kunnen verbeterde controlemaatregelen omvatten (zoals beoordelingen of scores van streamers, accountactiviteit of validatieprocessen) en indien van toepassing moderatie van bepaalde livestreaming-evenementen. Controles op livestreaming zullen noodzakelijkerwijs worden afgestemd op de context van specifieke livestreamingdiensten, met inbegrip van het type publiek, de aard of het karakter van de livestreamingdienst en de kans op uitbuiting.

Transparantierapporten. Microsoft verbindt zich ertoe om regelmatig transparantierapporten te publiceren met betrekking tot de detectie en verwijdering van terroristische of gewelddadige extremistische inhoud op hun online platforms en diensten en ervoor te zorgen dat de gegevens worden ondersteund door een redelijke en verklaarbare methode.

Vier samenwerkingsacties

Gedeelde technologische ontwikkeling. Microsoft verbindt zich ertoe samen te werken tussen de industrie, overheden, onderwijsinstellingen en NGO's om een ​​gedeeld begrip te ontwikkelen van de contexten waarin terroristische en gewelddadige extremistische inhoud wordt gepubliceerd en om de technologie te verbeteren om terroristische en gewelddadige extremistische inhoud effectiever en efficiënter te detecteren en te verwijderen. Dit omvat:

• Werk aan het creëren van robuuste gedeelde datasets om machine learning en AI te versnellen en inzichten en lessen uit de data te delen.
• Ontwikkeling van open source of andere gedeelde tools om terroristische of gewelddadige extremistische inhoud op te sporen en te verwijderen.
• Alle bedrijven, groot en klein, in staat stellen om bij te dragen aan de collectieve inspanning en om detectie en verwijdering van deze inhoud op hun platforms en diensten beter aan te pakken.

Crisisprotocollen. Microsoft zet zich in om samen te werken tussen de industrie, overheden en NGO's om een ​​protocol te creëren voor het reageren op opkomende of actieve gebeurtenissen, op een dringende basis, zodat relevante informatie snel en efficiënt kan worden gedeeld, verwerkt en opgevolgd door alle belanghebbenden met minimale vertraging . Dit omvat het opzetten van incidentmanagementteams die acties coördineren en informatie die in het algemeen belang is breed verspreiden.

Onderwijs. Microsoft zet zich in om samen te werken tussen de industrie, overheden, onderwijsinstellingen en NGO's om het publiek te helpen begrijpen en voor te lichten over terroristische en extremistische gewelddadige inhoud online. Dit omvat het opleiden en herinneren van gebruikers over hoe ze kunnen rapporteren of anderszins niet kunnen bijdragen aan de verspreiding van deze inhoud online.

Haat en onverdraagzaamheid bestrijden. Microsoft verbindt zich ertoe samen te werken in de hele sector om de grondoorzaken van extremisme en online haat aan te pakken. Dit omvat het bieden van meer ondersteuning voor relevant onderzoek – met de nadruk op de impact van online haat op offline discriminatie en geweld – en het ondersteunen van de capaciteit en het vermogen van NGO's die zich inzetten om haat te bestrijden en pluralisme en respect online te bevorderen.