Microsofts Bing är oansvarig med självmord

November är vanligtvis månaden för mental hälsa, en månad där män runt om i världen växer ut sina mustascher för att göra sig medvetna om den oroande trenden med manligt självmord. För att ge perspektiv ur en teknisk synvinkel, finns det en aspekt av detta som förbises här: skulden för nu allestädes närvarande, ständigt närvarande sökmotorer som Google och Bing i processen, och om deras moderbolag kan göra mer.

För att ge kredit där kredit ska betalas har Microsoft gjort en del arbete här. Om man söker "Hur man dödar -" slutar autoslutförandet där. Efter att ha sökt på "Hur man tar livet av sig" tar Microsoft upp telefonnumret för samariterna i Storbritannien och uppmanar användare att ringa hotline för att få hjälp. Om du söker på "självmord" eller "hur man begår självmord", översvämmer Microsoft den som söker med användbara resurser som syftar till att få den som söker att få hjälp. Allt detta är bra och bör med rätta applåderas.

Men trots allt det gör Microsofts Bing-sökning inte tillräckligt på detta område och ger ofta "nyttiga" resultat, särskilt jämfört med deras huvudkonkurrent - Google.

För att illustrera, en Bing-sökning på "Hur man tar livet av sig" har 3/5 av de första resultaten som antingen uppmanar till att begå självmord eller ger en vägledning med metoder, medan de andra två resultaten är anslagstavlor. Ett klick på resultaten som dykt upp på sidan bekräftar att dessa resultat verkligen är vad den som söker, men inte på det sätt som Microsoft förmodligen avser, och inte vad de behöver. Motsvarande Google-sökning har däremot det allra första sökresultatet som en länk till en NHS:s webbsida, den andra resultatlänken till självhjälp, och sedan några tveksamma resultat följt av hjälpresurser på första sidan .

Mer oroande än resultaten erbjuder Microsoft dig också alternativa sökningar, ifall dina första resultat inte var alltför användbara. Bing verkar fråga användaren: "Hur tar man livet av sig" ger dig inte de resultat du ville ha? vad sägs om "Hur man förgiftar sig själv", "smärtfria sätt att begå självmord" eller "bästa sättet att hänga sig själv?". Google, återigen, ger inga alternativa förslag.

För att illustrera hur detta undergräver deras tidigare ansträngningar, Om du söker "hur man begår självmord", fyller Microsoft hjälpsamt sidan med resurser. Längst upp till höger på skärmen erbjuder Bing dock alternativa sökningar. "Bästa tabletter för självmord", "piller att ta för självmord." Om man gör ett stavfel eller en liten felstavning, erbjuder Microsoft konstigt nog inte någon av de användbara resurserna även om man inser att söktermen troligen är felaktig, medan Google fortfarande gör det. Det finns några fler exempel jag skulle kunna ge, men poängen borde vara tydlig. Microsoft misslyckas konsekvent med att lägga ner det extra arbete som krävs för att skydda sårbara användare av sin Bing-sökmotor.

Sökmotorer är kraftfulla i denna tid och kan och har manipulerats för att skjuta vissa resultat över andra. Microsoft, Google, Apple och alla känner till och förstår denna makt, och det är därför de har infört skyddsåtgärder för innehållet i vissa resultat, särskilt de som rör självmord och självskada.

Samaritanerna, en välgörenhetsorganisation för förebyggande av självmord som är mest framstående i Storbritannien, delade några tankar om Självmord och onlinevärlden igen 2013.

Vi anser att sökmotorleverantörer har ett företags socialt ansvar för att se till att trovärdiga källor till stöd främjas när människor skriver in självmordsrelaterade termer i sökmotorer.

Det finns också mer som skulle kunna göras för att minska de ohjälpsamma funktionerna för automatisk komplettering av delvis inmatade söktermer.

Vi har goda relationer med vissa sökmotorleverantörer men det finns mer som de, och vi, kan göra på detta. Det finns också en del som inte riktigt har tagit steget i den här frågan.

Medan Microsoft har lagt till sin hotline till självmordsrelaterade länkar, som nämnts ovan, är deras tillhandahållande av alternativa söktermer en som skulle kunna konstrueras för att vara likvärdiga med olämpliga autokompletterande söktermer som välgörenhetsorganisationen kallar ut ovan.

Det finns en diskussion som kan föras angående begreppet censur, men det är säkert nonsens. Yttrandefrihet är inte - särskilt i det här fallet - engagemang för en självmordspakt. Sökmotorer kan naturligtvis fortfarande visa de stötande resultaten, men att marknadsföra dem på första sidan är djupt ohjälpsamt. Microsoft borde inte marknadsföra metoder för att ta livet av dig eller föreslå alternativa sökningar för bättre resultat. Dess algoritmer kan justeras och ändras för att främja mer idealiska resultat, och företaget bör tänka hårdare på hur dess resultat faktiskt påverkar människor.

Sökmotorresultat kan verka särskilt triviala och lågt hängande frukter, men forskning har visat att självmord är en mycket impulsiv sak som i många fall kan förhindras av barriärerna, även triviala sådana. En artikel i New York Times om uppförandet av självmordsbarriärer i Golden Gate-bron (som du borde läsa) citerar akademiska forskares arbete som stödjer detta.

Dr Blaustein sa, "Den vanligaste myten som exploderar är att människor kommer att gå någon annanstans."

I en studie från 1978, "Var är de nu?" Richard H. Seiden, en före detta professor vid University of California, Berkeley, School of Public Health, tittade på frågan om någon som hindrats från att begå självmord på ett ställe skulle gå någon annanstans. Han studerade människor som försökte begå självmord utanför Golden Gate-bron från 1937 till 1971 och fann att mer än 90 procent fortfarande levde 1978 eller hade dött av naturliga orsaker.

Microsofts barriärer måste stärkas. Som Satya Nadella noterade tidigare i år bör tekniken byggas med empati. En bra lärdom, som måste tillämpas.