Microsofts Bing er uansvarlig med selvmord

November er typisk måned for bevissthet om mental helse, en måned hvor menn rundt om i verden vokser ut barten for å bevisstgjøre den urovekkende trenden med selvmord blant menn. For å gi perspektiv fra en teknisk vinkel, er det et aspekt ved dette som blir oversett her: skylden til nå allestedsnærværende, alltid tilstedeværende søkemotorer som Google og Bing i prosessen, og om deres morselskaper kan gjøre mer.

For å gi kreditt der kreditt skal betales, har Microsoft gjort noe arbeid her. Hvis man søker «How to kill –» stopper autofullføringen der. Etter å ha søkt på «How to kill yourself», viser Microsoft hotline-nummeret til samaritanene i Storbritannia, og oppfordrer brukere til å ringe hotline for å få hjelp. Hvis du søker på «selvmord» eller «hvordan begå selvmord», oversvømmer Microsoft søkeren med nyttige ressurser som tar sikte på å få søkeren til å få hjelp. Alt dette er bra og bør med rette applauderes.

Til tross for alt dette, gjør ikke Microsofts Bing-søk nok på dette området, og gir ofte «nyttige» resultater, spesielt sammenlignet med deres hovedkonkurrent – ​​Google.

For å illustrere, et Bing-søk etter "Hvordan drepe deg selv" har 3/5 av de første resultatene som enten oppfordrer til å begå selvmord eller gir en veiledning med metoder, mens de to andre resultatene er oppslagstavler. Et klikk på resultatene dukket opp på siden bekrefter at disse resultatene faktisk er det søkeren kanskje vil ha, men ikke på den måten Microsoft sannsynligvis har tenkt, og ikke det de trenger. Tilsvarende Google-søk har derimot det aller første søkeresultatet som en lenke til en NHSs nettside, den andre resultatlenken til selvhjelp, og deretter noen tvilsomme resultater etterfulgt av hjelperessurser på den første siden .

Mer bekymringsverdig enn resultatene tilbyr Microsoft deg også alternative søk, i tilfelle de første resultatene ikke var så nyttige. Det ser ut til at Bing spør brukeren: "Hvordan drepe deg selv" og gir deg ikke resultatene du ønsket? hva med "Hvordan forgifte deg selv", "smertefrie måter å ta selvmord på" eller "beste måten å henge deg selv?". Google, nok en gang, tilbyr ingen alternative forslag.

For å illustrere hvordan dette undergraver deres tidligere innsats, hvis du søker på «hvordan begå selvmord», fyller Microsoft siden med ressurser. Øverst til høyre på skjermen tilbyr Bing imidlertid alternative søk. "Beste tabletter for selvmord", "piller å ta for selvmord." Hvis man gjør en skrivefeil eller en liten stavefeil, tilbyr Microsoft merkelig nok ikke noen av de nyttige ressursene selv mens man erkjenner at søkeordet mest sannsynlig er feil, mens Google fortsatt gjør det. Det er noen flere eksempler jeg kan gi, men poenget bør være klart. Microsoft unnlater konsekvent å legge ned det ekstra arbeidet som er nødvendig for å beskytte sårbare brukere av Bing-søkemotoren.

Søkemotorer er kraftige i dag og alder, og kan og har blitt manipulert for å skyve visse resultater over andre. Microsoft, Google, Apple og alle kjenner og forstår denne makten, og det er derfor de har innført sikkerhetstiltak for innholdet i visse resultater, spesielt de som er knyttet til selvmord og selvskading.

Samaritanene, en veldedighetsforebyggende selvmordsorganisasjon som er mest fremtredende i Storbritannia, delte noen tanker om Selvmord og nettverdenen tilbake i 2013.

Vi mener at søkemotorleverandører har et samfunnsansvar for å sikre at troverdige kilder til støtte fremmes når folk skriver inn selvmordsrelaterte termer i søkemotorer.

Det er også mer som kan gjøres for å redusere unyttige "autofullfør"-funksjoner på delvis angitte søkeord.

Vi har gode relasjoner med noen søkemotorleverandører, men det er mer de, og vi, kan gjøre med dette. Det er også noen som egentlig ikke har tråkket til rette i denne saken.

Mens Microsoft har lagt til sin hotline til selvmordsrelaterte lenker, som nevnt ovenfor, er deres tilbud av alternative søkeord en som kan konstrueres til å være ekvivalent med uhjelpsomme autofullføringssøkeord som veldedige organisasjonen kaller ut ovenfor.

Det er en diskusjon som kan føres med hensyn til konseptet sensur, men det er sikkert tull. Ytringsfrihet er ikke - spesielt i dette tilfellet - forpliktelse til en selvmordspakt. Søkemotorer kan selvfølgelig fortsatt vise de fornærmende resultatene, men å markedsføre dem på den første siden er svært lite nyttig. Microsoft bør ikke fremme metoder for å drepe deg selv, eller foreslå alternative søk for bedre resultater. Algoritmene kan justeres og endres for å fremme mer ideelle resultater, og firmaet bør tenke mer over hvordan resultatene faktisk påvirker folk.

Søkemotorresultater kan virke spesielt trivielle og lavthengende frukter, men forskning har vist at selvmord er en veldig impulsiv ting som i mange tilfeller kan forhindres av barrierene, selv trivielle. En New York Times-artikkel om oppføring av selvmordsbarrierer i Golden Gate-broen (som du bør lese) siterer arbeidet til akademiske forskere som støtter dette.

Dr. Blaustein sa: "Den vanligste myten som eksploderer er at folk vil dra andre steder."

I en studie fra 1978, "Hvor er de nå?" Richard H. Seiden, en tidligere professor ved University of California, Berkeley, School of Public Health, så på spørsmålet om noen som er forhindret fra å begå selvmord på ett sted, ville gå et annet sted. Han studerte mennesker som forsøkte selvmord utenfor Golden Gate Bridge fra 1937 til 1971 og fant ut at mer enn 90 prosent fortsatt var i live i 1978 eller døde av naturlige årsaker.

Microsofts barrierer må styrkes. Som Satya Nadella bemerket tidligere i år, bør teknologi bygges med empati. En god lærdom, som må brukes.