Microsoft Bing je nezodpovedný so samovraždou

November je typický mesiac povedomia o duševnom zdraví, kedy si muži na celom svete nechávajú fúzy, aby upozornili na znepokojujúci trend mužských samovrážd. Aby sme poskytli perspektívu z technologického uhla, je tu jeden aspekt, ktorý sa tu prehliada: vina teraz všadeprítomných, vždy prítomných vyhľadávacích nástrojov ako Google a Bing v procese a či ich materské spoločnosti môžu urobiť viac.

Spoločnosť Microsoft tu urobila kus práce, aby vyjadrila zásluhy tam, kde je to splatné. Ak hľadáte „Ako zabiť – “, automatické dopĺňanie sa tam zastaví. Pri hľadaní „Ako sa zabiť“ Microsoft zobrazí číslo horúcej linky pre Samaritánov v Spojenom kráľovstve a vyzýva používateľov, aby zavolali na horúcu linku a získali pomoc. Ak hľadáte „samovražda“ alebo „ako spáchať samovraždu“, spoločnosť Microsoft zaplaví hľadajúceho užitočnými zdrojmi, ktorých cieľom je prinútiť pátrajúceho získať pomoc. Toto všetko je dobré a treba tomu právom tlieskať.

Napriek tomu všetkému však vyhľadávanie Bing od Microsoftu v tejto oblasti nerobí dosť a často poskytuje „užitočné“ výsledky, najmä v porovnaní s ich hlavným konkurentom — Google.

Na ilustráciu, vyhľadávanie Bing pre „Ako sa zabiť“ má 3/5 prvých výsledkov buď nabádanie na samovraždu, alebo poskytuje návod s metódami, zatiaľ čo ďalšie dva výsledky sú nástenky. Kliknutie na výsledky zobrazené na stránke potvrdzuje, že tieto výsledky sú skutočne tým, čo by hľadajúci mohol chcieť, aj keď nie tak, ako to Microsoft pravdepodobne zamýšľa a nie to, čo potrebuje. Ekvivalentné vyhľadávanie Google má na rozdiel od toho úplne prvý výsledok vyhľadávania ako odkaz na webovú stránku NHS, druhý výsledok je odkaz na svojpomoc a potom niekoľko pochybných výsledkov, za ktorými nasledujú zdroje pomoci, všetky na prvej stránke .

Čo je znepokojujúcejšie ako výsledky, spoločnosť Microsoft vám ponúka aj alternatívne vyhľadávania, pre prípad, že by vám prvých niekoľko výsledkov nebolo príliš užitočné. Zdá sa, že Bing sa pýta používateľa: „Ako sa zabiť“, pričom vám neprináša výsledky, ktoré ste chceli? čo tak „Ako sa otráviť“, „bezbolestné spôsoby samovraždy“ alebo „najlepší spôsob, ako sa obesiť?“. Google ešte raz neponúka žiadne alternatívne návrhy.

Na ilustráciu toho, ako to podkopáva ich predchádzajúce úsilie, ak hľadáte „ako spáchať samovraždu“, spoločnosť Microsoft užitočne naplní stránku zdrojmi. V pravej hornej časti obrazovky však Bing ponúka alternatívne vyhľadávanie. "Najlepšie tablety na samovraždu", "tabletky na samovraždu." Ak niekto urobí preklep alebo mierne preklepy, Microsoft napodiv neponúka žiadne z užitočných zdrojov, aj keď si uvedomuje, že hľadaný výraz je s najväčšou pravdepodobnosťou nesprávny, zatiaľ čo Google to stále robí. Môžem uviesť ešte niekoľko príkladov, ale pointa by mala byť jasná. Microsoftu sa neustále nedarí vykonávať prácu navyše potrebnú na ochranu zraniteľných používateľov svojho vyhľadávacieho nástroja Bing.

Vyhľadávače sú v dnešnej dobe silné a môžu a boli zmanipulované tak, aby presadili určité výsledky nad ostatnými. Microsoft, Google, Apple a všetci poznajú a chápu túto silu, a preto zaviedli záruky na obsah určitých výsledkov, najmä tých, ktoré sa týkajú samovrážd a sebapoškodzovania.

Samaritáni, charitatívna organizácia na prevenciu samovrážd, najvýznamnejšia v Spojenom kráľovstve, sa podelila o niekoľko myšlienok Samovražda a online svet späť do 2013.

Sme presvedčení, že poskytovatelia vyhľadávacích nástrojov majú spoločenskú zodpovednosť za zabezpečenie podpory dôveryhodných zdrojov podpory, keď ľudia zadávajú do vyhľadávačov výrazy súvisiace so samovraždou.

Je tiež možné urobiť viac, aby sa zredukovali neužitočné funkcie „automatického dokončovania“ pri čiastočne zadaných hľadaných výrazoch.

Máme dobré vzťahy s niektorými poskytovateľmi vyhľadávacích nástrojov, ale je toho viac, čo oni a my môžeme v tejto veci urobiť. Sú aj takí, ktorí v tejto problematike ešte nereagovali.

Aj keď spoločnosť Microsoft pridala svoju horúcu linku k odkazom súvisiacim so samovraždou, ako je uvedené vyššie, ich poskytovanie alternatívnych hľadaných výrazov je také, ktoré by sa dalo skonštruovať tak, aby zodpovedali neužitočným výrazom automatického dopĺňania, ktoré charitatívna organizácia uvádza vyššie.

Je tu diskusia o koncepte cenzúry, ale to je určite nezmysel. Sloboda prejavu nie je – najmä v tomto prípade – záväzok k samovražednému paktu. Vyhľadávacie nástroje môžu, samozrejme, stále zobrazovať problematické výsledky, ale ich propagácia na prvej stránke je úplne neužitočná. Spoločnosť Microsoft by nemala propagovať spôsoby, ako sa zabiť, ani vám navrhovať alternatívne vyhľadávania na dosiahnutie lepších výsledkov. Jeho algoritmy môžu byť vyladené a zmenené tak, aby podporovali ideálnejšie výsledky, a firma by sa mala viac zamyslieť nad tým, ako jej výsledky skutočne ovplyvňujú ľudí.

Výsledky vo vyhľadávačoch sa môžu zdať obzvlášť triviálne a nenápadné, ale výskum ukázal, že samovražda je veľmi impulzívna vec, ktorej možno v mnohých prípadoch zabrániť, dokonca aj triviálnymi, bariérami. Článok New York Times o postavení samovražedných bariér na moste Golden Gate (ktorý by ste si mali prečítať) cituje prácu akademických výskumníkov, ktorí to podporujú.

Dr Blaustein povedal: "Najčastejším mýtom, ktorý vybuchne, je, že ľudia pôjdu inam."

V štúdii z roku 1978 „Kde sú teraz?“ Richard H. Seiden, bývalý profesor na Kalifornskej univerzite v Berkeley, School of Public Health, sa zaoberal otázkou, či niekto, kto zabráni spáchať samovraždu na jednom mieste, pôjde niekam inam. Študoval ľudí, ktorí sa v rokoch 1937 až 1971 pokúsili o samovraždu pri moste Golden Gate, a zistil, že viac ako 90 percent bolo v roku 1978 stále nažive alebo zomrelo prirodzenou smrťou.

Je potrebné posilniť bariéry spoločnosti Microsoft. Ako poznamenal Satya Nadella začiatkom tohto roka, technológie by sa mali budovať s empatiou. Dobrá lekcia, ktorú treba použiť.