Microsoft signerer Christchurch Call for å bekjempe ekstremistisk innhold på nettet

15. mai samlet New Zealands statsminister Jacinda Ardern og Frankrikes president Emmanuel Macron regjeringsledere og representanter for teknologiselskaper for å kunngjøre "Christchurch-oppfordringen til handling for å eliminere terroristisk og voldelig ekstremistisk innhold på nettet." Som svar på oppfordringen ga Amazon, Facebook, Google, Twitter og Microsoft en felles uttalelse. Selskapene publiserte også ni trinnde vil ta for å implementere Christchurch Call.

Terrorangrepene i Christchurch, New Zealand, i mars var en grusom tragedie. Og derfor er det riktig at vi kommer sammen, resolut i vår forpliktelse for å sikre at vi gjør alt vi kan for å bekjempe hatet og ekstremismen som fører til terrorvold.

Christchurch Call som ble kunngjort i dag, utvider Global Internet Forum to Counter Terrorism (GIFCT), og bygger på våre andre initiativer med regjeringen og sivilsamfunnet for å forhindre spredning av terror- og voldelig ekstremistisk innhold. I tillegg deler vi konkrete tiltak vi vil ta for å håndtere misbruk av teknologi for å spre terrorinnhold, inkludert fortsatt investering i teknologi som forbedrer vår evne til å oppdage og fjerne dette innholdet fra tjenestene våre, oppdateringer av våre individuelle vilkår for bruk og mer åpenhet for retningslinjer for innhold og fjerning.

Terrorisme og voldelig ekstremisme er komplekse samfunnsproblemer som krever en respons fra hele samfunnet. For vår del vil forpliktelsene vi gjør i dag ytterligere styrke partnerskapet som regjeringer, samfunnet og teknologiindustrien må ha for å møte denne trusselen.

– Amazon, Facebook, Google, Microsoft, Twitter

I tillegg til å signere Christchurch Call, publiserer Amazon, Facebook, Google, Twitter og Microsoft ni skritt som de vil ta for å ta tak i misbruk av teknologi for å spre terroristisk og voldelig ekstremistisk innhold. Disse ni trinnene inkluderer fem individuelle handlinger som hvert selskap forplikter seg til å ta, og ytterligere fire samarbeidshandlinger de vil ta sammen.

Her er de ni trinnene:

Tiltak for å håndtere misbruk av teknologi å spre terroristisk og voldelig ekstremistisk innhold

Som leverandører av nettbasert innholdsdeling forplikter selskapene seg til følgende:

Fem individuelle handlinger

Vilkår for bruk. Microsoft forplikter seg til å oppdatere deres vilkår for bruk, fellesskapsstandarder, atferdskoder og retningslinjer for akseptabel bruk for å uttrykkelig forby distribusjon av terror- og voldelig ekstremistisk innhold. Microsoft mener dette er viktig for å etablere grunnleggende forventninger til brukere og for å formulere et klart grunnlag for fjerning av dette innholdet fra deres plattformer og tjenester og suspendering eller stenging av kontoer som distribuerer slikt innhold.

Brukerrapportering av terror- og voldelig ekstremistisk innhold. Microsoft forplikter seg til å etablere én eller flere metoder innenfor deres nettbaserte plattformer og tjenester for brukere for å rapportere eller flagge upassende innhold, inkludert terror- og voldelig ekstremistisk innhold. Microsoft vil sørge for at rapporteringsmekanismene er klare, iøynefallende og enkle å bruke, og gir nok kategorisk granularitet til å tillate selskapet å prioritere og handle raskt ved varsling av terror- eller voldelig ekstremistisk innhold.

Forbedring av teknologi. Microsoft forplikter seg til å fortsette å investere i teknologi som forbedrer deres evne til å oppdage og fjerne terror- og voldelig ekstremistisk innhold på nettet, inkludert utvidelse eller utvikling av digitale fingeravtrykk og AI-baserte teknologiløsninger.

Live streaming. Microsoft forplikter seg til å identifisere passende kontroller for livestreaming, med sikte på å redusere risikoen for å spre terror- og voldelig ekstremistisk innhold på nettet. Disse kan inkludere forbedrede kontrolltiltak (som streamer-vurderinger eller -poeng, kontoaktivitet eller valideringsprosesser) og moderering av visse livestreaming-hendelser der det er aktuelt. Kontroller av livestreaming vil nødvendigvis være skreddersydd til konteksten til spesifikke livestreamingtjenester, inkludert typen publikum, arten eller karakteren til livestreamingtjenesten, og sannsynligheten for utnyttelse.

Åpenhetsrapporter. Microsoft forplikter seg til regelmessig å publisere åpenhetsrapporter angående oppdagelse og fjerning av terroristisk eller voldelig ekstremistisk innhold på deres nettbaserte plattformer og tjenester og sikre at dataene støttes av en rimelig og forklarlig metodikk.

Fire samarbeidsaksjoner

Delt teknologiutvikling. Microsoft forplikter seg til å samarbeide på tvers av industri, myndigheter, utdanningsinstitusjoner og frivillige organisasjoner for å utvikle en delt forståelse av kontekstene der terroristisk og voldelig ekstremistisk innhold publiseres, og å forbedre teknologien for å oppdage og fjerne terroristisk og voldelig ekstremistisk innhold mer effektivt og effektivt. Dette vil inkludere:

• Arbeid for å lage robuste delte datasett for å akselerere maskinlæring og AI og dele innsikt og læring fra dataene.
• Utvikling av åpen kildekode eller andre delte verktøy for å oppdage og fjerne terror- eller voldelig ekstremistisk innhold.
• Gjør det mulig for alle bedrifter, store som små, å bidra til den kollektive innsatsen og bedre adressere oppdagelse og fjerning av dette innholdet på deres plattformer og tjenester.

Kriseprotokoller. Microsoft forplikter seg til å samarbeide på tvers av industri, myndigheter og frivillige organisasjoner for å lage en protokoll for å svare på nye eller aktive hendelser, på et presserende grunnlag, slik at relevant informasjon raskt og effektivt kan deles, behandles og reageres på av alle interessenter med minimal forsinkelse . Dette inkluderer etablering av hendelseshåndteringsteam som koordinerer handlinger og bredt distribuerer informasjon som er av allmenn interesse.

Utdanning. Microsoft forplikter seg til å samarbeide på tvers av industri, myndigheter, utdanningsinstitusjoner og frivillige organisasjoner for å hjelpe til med å forstå og utdanne publikum om terror- og ekstremistisk voldelig innhold på nettet. Dette inkluderer å informere og minne brukere om hvordan de kan rapportere eller på annen måte ikke bidra til spredningen av dette innholdet på nettet.

Bekjempelse av hat og bigotry. Microsoft forplikter seg til å samarbeide på tvers av industrien for å angripe de grunnleggende årsakene til ekstremisme og hat på nettet. Dette inkluderer å gi større støtte til relevant forskning – med vekt på virkningen av netthat på diskriminering og vold utenfor nettet – og støtte kapasiteten og evnen til frivillige organisasjoner som jobber for å utfordre hat og fremme pluralisme og respekt på nettet.