Microsoft podpísal Christchurch Call na boj proti extrémistickému obsahu online

Novozélandská premiérka Jacinda Ardernová a francúzsky prezident Emmanuel Macron 15. mája zišli vládnych lídrov a zástupcov technologických spoločností, aby oznámiť „Výzva Christchurch k akcii na odstránenie teroristického a násilného extrémistického obsahu online“. V reakcii na výzvu Amazon, Facebook, Google, Twitter a Microsoft vydali spoločné vyhlásenie. Zverejnili aj spoločnosti deväť krokovbudú musieť implementovať výzvu Christchurch.

Teroristické útoky v meste Christchurch na Novom Zélande v marci boli hroznou tragédiou. A preto je správne, že sme sa spojili, odhodlaní v našom záväzku zabezpečiť, aby sme urobili všetko, čo je v našich silách, na boj proti nenávisti a extrémizmu, ktoré vedú k teroristickému násiliu.

Dnes oznámená výzva Christchurch sa rozširuje na Globálne internetové fórum na boj proti terorizmu (GIFCT) a stavia na našich ďalších iniciatívach s vládou a občianskou spoločnosťou s cieľom zabrániť šíreniu teroristického a násilného extrémistického obsahu. Okrem toho zdieľame konkrétne kroky, ktoré podnikneme na riešenie zneužívania technológie na šírenie teroristického obsahu, vrátane pokračujúcich investícií do technológie, ktorá zlepšuje našu schopnosť odhaliť a odstraňovať tento obsah z našich služieb, aktualizácie našich individuálnych podmienok používania atď. transparentnosť pravidiel pre obsah a odstránenia.

Terorizmus a násilný extrémizmus sú zložité spoločenské problémy, ktoré si vyžadujú celospoločenskú reakciu. Z našej strany záväzky, ktoré dnes prijímame, ešte viac posilnia partnerstvo, ktoré musia vlády, spoločnosť a technologický priemysel uzavrieť, aby mohli čeliť tejto hrozbe.

– Amazon, Facebook, Google, Microsoft, Twitter

Okrem podpísania Christchurch Call zverejňujú Amazon, Facebook, Google, Twitter a Microsoft deväť krokov, ktoré podniknú na riešenie zneužívania technológií na šírenie teroristického a násilného extrémistického obsahu. Týchto deväť krokov zahŕňa päť individuálnych akcií, ku ktorým sa každá spoločnosť zaviazala, a ďalšie štyri spoločné akcie, ktoré vykonajú spoločne.

Tu je deväť krokov:

Opatrenia na riešenie zneužívania technológií na šírenie teroristického a násilného extrémistického obsahu

Ako poskytovatelia služieb zdieľania obsahu online sa spoločnosti zaväzujú:

Päť individuálnych akcií

Podmienky používania. Spoločnosť Microsoft sa zaväzuje aktualizovať svoje podmienky používania, štandardy komunity, kódexy správania a zásady prijateľného používania, aby výslovne zakázala distribúciu teroristického a násilného extrémistického obsahu. Microsoft sa domnieva, že je to dôležité na stanovenie základných očakávaní pre používateľov a na formulovanie jasného základu pre odstránenie tohto obsahu z ich platforiem a služieb a pozastavenie alebo zatvorenie účtov distribuujúcich takýto obsah.

Nahlasovanie teroristického a násilného extrémistického obsahu používateľom. Spoločnosť Microsoft sa zaviazala, že v rámci svojich online platforiem a služieb zavedie jednu alebo viacero metód na nahlasovanie alebo označovanie nevhodného obsahu vrátane teroristického a násilného extrémistického obsahu. Spoločnosť Microsoft zaistí, aby boli mechanizmy nahlasovania jasné, nápadné a ľahko použiteľné a aby poskytovali dostatočnú kategorickú granularitu, ktorá spoločnosti umožní určiť priority a okamžite konať v prípade oznámenia teroristického alebo násilného extrémistického obsahu.

Vylepšujúca technológia. Microsoft sa zaviazal pokračovať v investíciách do technológie, ktorá zlepšuje ich schopnosť odhaľovať a odstraňovať teroristický a násilný extrémistický obsah online, vrátane rozšírenia alebo vývoja digitálnych odtlačkov prstov a technologických riešení založených na AI.

Vysielanie naživo. Spoločnosť Microsoft sa zaviazala identifikovať vhodné kontroly živého vysielania s cieľom znížiť riziko šírenia teroristického a násilného extrémistického obsahu online. Tie môžu zahŕňať vylepšené opatrenia preverovania (ako sú hodnotenia alebo skóre streamera, aktivita účtu alebo procesy overovania) a moderovanie určitých udalostí priameho prenosu, ak je to vhodné. Kontroly živého vysielania budú nevyhnutne prispôsobené kontextu konkrétnych služieb priameho vysielania vrátane typu publika, povahy alebo charakteru služby živého vysielania a pravdepodobnosti využitia.

Správy o transparentnosti. Spoločnosť Microsoft sa zaväzuje pravidelne zverejňovať správy o transparentnosti týkajúce sa odhaľovania a odstraňovania teroristického alebo násilného extrémistického obsahu na svojich online platformách a službách a zabezpečiť, aby údaje podporovala primeraná a vysvetliteľná metodika.

Štyri spoločné akcie

Vývoj zdieľaných technológií. Spoločnosť Microsoft sa zaviazala spolupracovať naprieč odvetvím, vládami, vzdelávacími inštitúciami a mimovládnymi organizáciami s cieľom vytvoriť spoločné chápanie kontextov, v ktorých sa zverejňuje teroristický a násilný extrémistický obsah, a zlepšiť technológiu na účinnejšie a efektívnejšie odhaľovanie a odstraňovanie teroristického a násilného extrémistického obsahu. To bude zahŕňať:

• Pracujte na vytváraní robustných zdieľaných súborov údajov na urýchlenie strojového učenia a AI a zdieľanie poznatkov a poznatkov z údajov.
• Vývoj open source alebo iných zdieľaných nástrojov na odhaľovanie a odstraňovanie teroristického alebo násilného extrémistického obsahu.
• Umožnenie všetkým spoločnostiam, veľkým aj malým, prispieť ku kolektívnemu úsiliu a lepšie riešiť odhaľovanie a odstraňovanie tohto obsahu na svojich platformách a službách.

Krízové ​​protokoly. Spoločnosť Microsoft sa zaväzuje spolupracovať naprieč odvetvím, vládami a mimovládnymi organizáciami s cieľom vytvoriť protokol na urgentnú reakciu na vznikajúce alebo aktívne udalosti, aby mohli všetky zainteresované strany rýchlo a efektívne zdieľať, spracovávať a konať podľa nich s minimálnym oneskorením. . To zahŕňa zriadenie tímov pre riadenie incidentov, ktoré koordinujú akcie a široko distribuujú informácie, ktoré sú vo verejnom záujme.

Education. Spoločnosť Microsoft sa zaväzuje spolupracovať naprieč odvetvím, vládami, vzdelávacími inštitúciami a mimovládnymi organizáciami, aby pomohla pochopiť a vzdelávať verejnosť o teroristickom a extrémistickom násilnom obsahu online. To zahŕňa vzdelávanie a pripomínanie používateľom, ako nahlásiť alebo inak neprispievať k šíreniu tohto obsahu online.

Boj proti nenávisti a fanatizmu. Microsoft sa zaväzuje spolupracovať naprieč celým odvetvím s cieľom bojovať proti hlavným príčinám extrémizmu a nenávisti online. To zahŕňa poskytovanie väčšej podpory relevantnému výskumu – s dôrazom na vplyv online nenávisti na offline diskrimináciu a násilie – a podporu kapacity a schopností mimovládnych organizácií, ktoré bojujú proti nenávisti a podporujú pluralizmus a rešpekt online.