Microsoft undertecknar Christchurch Call för att bekämpa extremistiskt innehåll online

Den 15 maj samlade Nya Zeelands premiärminister Jacinda Ardern och Frankrikes president Emmanuel Macron regeringsledare och representanter för teknikföretag för att meddela "Christchurchs uppmaning till handling för att eliminera terroristiskt och våldsamt extremistiskt innehåll online." Som svar på uppmaningen utfärdade Amazon, Facebook, Google, Twitter och Microsoft ett gemensamt uttalande. Företagen publicerade också nio stegde kommer att ta för att genomföra Christchurch Call.

Terrorattackerna i Christchurch, Nya Zeeland, i mars var en fruktansvärd tragedi. Och därför är det rätt att vi går samman, beslutsamma i vårt åtagande att säkerställa att vi gör allt vi kan för att bekämpa hatet och extremismen som leder till terroristvåld.

Christchurch Call som tillkännages idag utökar Global Internet Forum to Counter Terrorism (GIFCT), och bygger på våra andra initiativ med regeringen och det civila samhället för att förhindra spridning av terroristinnehåll och våldsamt extremistiskt innehåll. Dessutom delar vi konkreta steg vi kommer att vidta för att ta itu med missbruk av teknik för att sprida terroristinnehåll, inklusive fortsatta investeringar i teknik som förbättrar vår förmåga att upptäcka och ta bort detta innehåll från våra tjänster, uppdateringar av våra individuella användarvillkor och mer transparens för innehållspolicyer och borttagningar.

Terrorism och våldsbejakande extremism är komplexa samhällsproblem som kräver ett svar från hela samhället. För vår del kommer de åtaganden vi gör idag att ytterligare stärka det partnerskap som regeringar, samhället och teknikindustrin måste ha för att möta detta hot.

– Amazon, Facebook, Google, Microsoft, Twitter

Förutom att underteckna Christchurch Call, publicerar Amazon, Facebook, Google, Twitter och Microsoft nio steg som de kommer att ta för att ta itu med missbruket av teknik för att sprida terroristiskt och våldsamt extremistiskt innehåll. Dessa nio steg inkluderar fem individuella åtgärder som varje företag åtar sig att vidta, och ytterligare fyra samarbetsåtgärder som de kommer att vidta tillsammans.

Här är de nio stegen:

Åtgärder för att komma till rätta med missbruk av teknik att sprida terroristiskt och våldsamt extremistiskt innehåll

Som tjänsteleverantörer för onlineinnehållsdelning åtar sig företagen följande:

Fem individuella åtgärder

Villkor. Microsoft åtar sig att uppdatera sina användarvillkor, gemenskapsstandarder, uppförandekoder och policyer för acceptabel användning för att uttryckligen förbjuda distribution av terroristinnehåll och våldsamt extremistiskt innehåll. Microsoft anser att detta är viktigt för att fastställa grundläggande förväntningar för användarna och för att formulera en tydlig grund för borttagning av detta innehåll från deras plattformar och tjänster och avstängning eller stängning av konton som distribuerar sådant innehåll.

Användarrapportering av terroristinnehåll och våldsamt extremistiskt innehåll. Microsoft åtar sig att etablera en eller flera metoder inom sina onlineplattformar och tjänster för användare att rapportera eller flagga olämpligt innehåll, inklusive terroristinnehåll och våldsamt extremistiskt innehåll. Microsoft kommer att se till att rapporteringsmekanismerna är tydliga, iögonfallande och lätta att använda, och tillhandahåller tillräckligt med kategorisk granularitet för att företaget ska kunna prioritera och agera omedelbart vid meddelande om terroristinnehåll eller våldsamt extremistiskt innehåll.

Förbättra teknik. Microsoft åtar sig att fortsätta att investera i teknik som förbättrar deras förmåga att upptäcka och ta bort terrorist- och våldsbejakande extremistiskt innehåll online, inklusive förlängning eller utveckling av digitala fingeravtryck och AI-baserade teknologilösningar.

Live streaming. Microsoft åtar sig att identifiera lämpliga kontroller av livestreaming, i syfte att minska risken för att sprida terroristinnehåll och våldsamt extremistiskt innehåll online. Dessa kan inkludera förbättrade granskningsåtgärder (som streamerbetyg eller poäng, kontoaktivitet eller valideringsprocesser) och moderering av vissa livestreaminghändelser där så är lämpligt. Kontroller av livestreaming kommer med nödvändighet att anpassas till sammanhanget för specifika livestreamingtjänster, inklusive typen av publik, arten eller karaktären av livestreamingtjänsten och sannolikheten för utnyttjande.

Transparensrapporter. Microsoft åtar sig att regelbundet publicera transparensrapporter om upptäckt och borttagning av terroristinnehåll eller våldsamt extremistiskt innehåll på deras onlineplattformar och tjänster och att se till att data stöds av en rimlig och förklarlig metod.

Fyra samarbetsåtgärder

Delad teknikutveckling. Microsoft förbinder sig att samarbeta mellan industri, regeringar, utbildningsinstitutioner och icke-statliga organisationer för att utveckla en gemensam förståelse för de sammanhang där terroristinnehåll och våldsamt extremistiskt innehåll publiceras och att förbättra tekniken för att upptäcka och ta bort terroristinnehåll och våldsbejakande extremistiskt innehåll mer effektivt och effektivt. Detta kommer att inkludera:

• Arbeta med att skapa robusta delade datamängder för att påskynda maskininlärning och AI och dela insikter och lärdomar från datan.
• Utveckling av öppen källkod eller andra delade verktyg för att upptäcka och ta bort terroristinnehåll eller våldsamt extremistiskt innehåll.
• Möjlighet för alla företag, stora som små, att bidra till den kollektiva ansträngningen och att bättre hantera upptäckt och borttagning av detta innehåll på deras plattformar och tjänster.

Krisprotokoll. Microsoft förbinder sig att samarbeta mellan industri, regeringar och icke-statliga organisationer för att skapa ett protokoll för att reagera på nya eller aktiva händelser, på en brådskande basis, så att relevant information snabbt och effektivt kan delas, bearbetas och ageras av alla intressenter med minimal fördröjning . Detta inkluderar inrättandet av incidenthanteringsgrupper som samordnar åtgärder och i stor utsträckning distribuerar information som är i allmänhetens intresse.

Utbildning. Microsoft åtar sig att samarbeta mellan industri, regeringar, utbildningsinstitutioner och icke-statliga organisationer för att hjälpa till att förstå och utbilda allmänheten om terrorist- och extremistiskt våldsamt innehåll online. Detta inkluderar att utbilda och påminna användare om hur man rapporterar eller på annat sätt inte bidrar till spridningen av detta innehåll online.

Bekämpa hat och trångsynthet. Microsoft förbinder sig att samarbeta i branschen för att attackera grundorsakerna till extremism och hat online. Detta inkluderar att ge större stöd för relevant forskning – med tonvikt på inverkan av onlinehat på offline-diskriminering och våld – och stödja kapacitet och förmåga hos icke-statliga organisationer som arbetar för att utmana hat och främja pluralism och respekt online.