Microsofts Bing er uansvarlig med selvmord

November er typisk bevidsthedsmåned for mental sundhed, en måned, hvor mænd rundt om i verden vokser deres overskæg ud for at gøre opmærksom på den bekymrende tendens med mandligt selvmord. For at give perspektiv fra en teknisk vinkel, er der et aspekt af dette, der bliver overset her: skylden for nu allestedsnærværende, altid tilstedeværende søgemaskiner som Google og Bing i processen, og om deres moderselskaber kan gøre mere.

For at give kredit, hvor der skal krediteres, har Microsoft gjort noget arbejde her. Hvis man søger "How to kill -" stopper autofuldførelsen der. Ved at søge på "How to kill yourself", viser Microsoft hotlinenummeret for samaritanerne i Storbritannien, og opfordrer brugerne til at ringe til hotline for at få hjælp. Hvis du søger på "selvmord" eller "hvordan man begår selvmord", oversvømmer Microsoft søgeren med nyttige ressourcer, der sigter mod at få søgeren til at få hjælp. Alt dette er godt og bør med rette bifaldes.

På trods af alt det gør Microsofts Bing-søgning dog ikke nok på dette område og giver ofte "nyttige" resultater, især sammenlignet med deres hovedkonkurrent - Google.

For at illustrere, en Bing-søgning efter "Hvordan man dræber dig selv" har 3/5 af de første resultater, der enten opfordrer til at begå selvmord eller giver en guide med metoder, mens de to andre resultater er opslagstavler. Et klik på resultaterne, der dukkede op på siden, bekræfter, at disse resultater faktisk er, hvad søgeren måske vil have, men ikke på den måde, Microsoft sandsynligvis har til hensigt, og ikke hvad de har brug for. Den tilsvarende Google-søgning har derimod det allerførste søgeresultat som et link til en NHS's webside, det andet resultatlink til selvhjælp og derefter et par tvivlsomme resultater efterfulgt af hjælperessourcer alt sammen på den første side .

Mere bekymrende end resultaterne tilbyder Microsoft dig også alternative søgninger, bare hvis dine første par resultater ikke var alt for nyttige. Bing ser ud til at spørge brugeren: "Hvordan dræber du dig selv" giver dig ikke de resultater, du ønskede? hvad med "Sådan forgifter du dig selv", "smertefrie måder at begå selvmord på" eller "bedste måde at hænge dig selv på?". Google kommer endnu en gang ikke med alternative forslag.

For at illustrere, hvordan dette underminerer deres tidligere indsats, hvis du søger "hvordan man begår selvmord", fylder Microsoft hjælpsomt siden med ressourcer. Øverst til højre på skærmen tilbyder Bing dog alternative søgninger. "Bedste tabletter til selvmord", "piller at tage for selvmord." Hvis man laver en stavefejl eller en lille stavefejl, tilbyder Microsoft mærkeligt nok ikke nogen af ​​de nyttige ressourcer, selvom man erkender, at søgetermen højst sandsynligt er forkert, mens Google stadig gør. Der er et par flere eksempler, jeg kunne give, men pointen burde være klar. Microsoft undlader konsekvent at gøre det ekstra arbejde, der er nødvendigt for at beskytte sårbare brugere af sin Bing-søgemaskine.

Søgemaskiner er kraftfulde i denne tid og kan og er blevet manipuleret til at skubbe visse resultater over andre. Microsoft, Google, Apple og alle kender og forstår denne magt, og det er derfor, de har indført sikkerhedsforanstaltninger for indholdet af visse resultater, især dem, der vedrører selvmord og selvskade.

Samaritanerne, en velgørenhedsorganisation for forebyggelse af selvmord, der er mest fremtrædende i Storbritannien, delte nogle tanker om Selvmord og onlineverdenen igen 2013.

Vi mener, at søgemaskineudbydere har et samfundsansvar for at sikre, at troværdige kilder til støtte fremmes, når folk indtaster selvmordsrelaterede termer i søgemaskiner.

Der er også mere, der kunne gøres for at reducere uhensigtsmæssige 'autofuldførelse'-funktioner på delvist indtastede søgetermer.

Vi har gode relationer med nogle søgemaskineudbydere, men der er mere, som de, og vi, kan gøre på dette. Der er også nogle, der ikke rigtig har trådt til rette i denne sag.

Mens Microsoft er blevet ved med at tilføje deres hotline til selvmordsrelaterede links, som nævnt ovenfor, er deres levering af alternative søgetermer en, der kunne konstrueres til at svare til ubehjælpsomme autofuldførelsessøgeudtryk, som velgørenheden kalder på ovenfor.

Der er en diskussion, der kan føres med hensyn til begrebet censur, men det er bestemt nonsens. Ytringsfrihed er ikke - især i dette tilfælde - forpligtelse til en selvmordspagt. Søgemaskiner kan selvfølgelig stadig vise de stødende resultater, men det er dybt uhensigtsmæssigt at promovere dem på den første side. Microsoft bør ikke promovere metoder til at dræbe dig selv eller foreslå dig alternative søgninger for bedre resultater. Dets algoritmer kan justeres og ændres for at fremme mere ideelle resultater, og virksomheden bør tænke mere over, hvordan dens resultater faktisk påvirker folk.

Søgemaskineresultater kan virke særligt trivielle og lavthængende frugter, men forskning har vist, at selvmord er en meget impulsiv ting, som i mange tilfælde kan forhindres af barriererne, selv trivielle. En artikel fra New York Times om opførelsen af ​​selvmordsbarrierer i Golden Gate-broen (som du bør læse) citerer akademiske forskeres arbejde, som understøtter dette.

Dr. Blaustein sagde: "Den mest almindelige myte, der eksploderer, er, at folk vil tage andre steder hen."

I en undersøgelse fra 1978, "Hvor er de nu?" Richard H. Seiden, en tidligere professor ved University of California, Berkeley, School of Public Health, så på spørgsmålet om, hvorvidt nogen, der er forhindret i at begå selvmord ét sted, ville tage et andet sted hen. Han studerede mennesker, der forsøgte selvmord ud for Golden Gate Bridge fra 1937 til 1971 og fandt ud af, at mere end 90 procent stadig var i live i 1978 eller var døde af naturlige årsager.

Microsofts barrierer skal styrkes. Som Satya Nadella bemærkede tidligere i år, bør teknologi bygges med empati. En god lektion, der skal bruges.