Bing da Microsoft é irresponsável com suicídio

Novembro é tipicamente o mês de conscientização sobre a saúde mental, quando homens de todo o mundo deixam o bigode crescer para chamar a atenção para a preocupante tendência do suicídio masculino. Para fornecer uma perspectiva de um ângulo de tecnologia, há um aspecto disso que está sendo negligenciado aqui: a culpabilidade de mecanismos de busca agora onipresentes e sempre presentes como Google e Bing no processo, e se suas empresas controladoras podem fazer mais.

Para dar crédito onde o crédito é devido, a Microsoft fez algum trabalho aqui. Se alguém pesquisar “Como matar – ” o preenchimento automático para por aí. Ao pesquisar “Como se matar”, a Microsoft mostra o número da linha direta para os samaritanos no Reino Unido, pedindo aos usuários que liguem para a linha direta para obter ajuda. Se você pesquisar “suicídio” ou “como cometer suicídio”, a Microsoft inundará o pesquisador com recursos úteis destinados a fazer com que o pesquisador obtenha ajuda. Tudo isso é bom e deve ser justamente aplaudido.

No entanto, apesar de tudo isso, a busca Bing da Microsoft não está fazendo o suficiente nesta área, e muitas vezes fornece resultados “úteis”, especialmente em comparação com seu principal concorrente – o Google.

Para ilustrar, uma pesquisa no Bing por “Como se matar” tem 3/5 dos primeiros resultados pedindo suicídio ou fornecendo um guia com métodos, enquanto os outros dois resultados são quadros de mensagens. Um clique nos resultados exibidos na página confirma que esses resultados são realmente o que o pesquisador pode querer, embora não da maneira que a Microsoft provavelmente pretende, e não o que eles precisam. A pesquisa equivalente do Google, por outro lado, tem o primeiro resultado de pesquisa como um link para uma página da Web do NHS, o segundo link de resultado para auto-ajuda e, em seguida, alguns resultados questionáveis ​​seguidos por recursos de ajuda, todos na primeira página .

Mais preocupante do que os resultados, a Microsoft também oferece pesquisas alternativas, caso seus primeiros resultados não tenham sido muito úteis. O Bing parece perguntar ao usuário: “Como se matar” não dando os resultados que você queria? que tal “Como se envenenar”, “maneiras indolores de suicídio” ou “melhor maneira de se enforcar?”. O Google, mais uma vez, não oferece nenhuma sugestão alternativa.

Para ilustrar como isso prejudica seus esforços anteriores, se você pesquisar “como cometer suicídio”, a Microsoft preenche a página com recursos. No canto superior direito da tela, no entanto, o Bing oferece pesquisas alternativas. “Melhores comprimidos para suicídio”, “pílulas para tomar para suicídio”. Se alguém cometer um erro de digitação ou um pequeno erro de ortografia, a Microsoft estranhamente não oferece nenhum dos recursos úteis, mesmo reconhecendo que o termo de pesquisa provavelmente está incorreto, enquanto o Google ainda o faz. Há mais alguns exemplos que eu poderia dar, mas o ponto deve ser claro. A Microsoft está constantemente deixando de fazer o trabalho extra necessário para proteger os usuários vulneráveis ​​de seu mecanismo de busca Bing.

Os motores de busca são poderosos nos dias de hoje e podem e foram manipulados para empurrar certos resultados sobre outros. Microsoft, Google, Apple e todos conhecem e entendem esse poder, e é por isso que instituíram salvaguardas sobre o conteúdo de certos resultados, especialmente aqueles relacionados a suicídio e automutilação.

The Samaritans, uma instituição de caridade de prevenção ao suicídio mais proeminente no Reino Unido, compartilhou alguns pensamentos sobre Suicídio e o mundo online de volta em 2013.

Acreditamos que os provedores de mecanismos de pesquisa têm a responsabilidade social corporativa de garantir que fontes confiáveis ​​de suporte sejam promovidas quando as pessoas inserem termos relacionados ao suicídio nos mecanismos de pesquisa.

Há também mais coisas que podem ser feitas para reduzir funções inúteis de 'autocompletar' em termos de pesquisa parcialmente inseridos.

Temos bons relacionamentos com alguns provedores de mecanismos de pesquisa, mas há mais coisas que eles e nós podemos fazer sobre isso. Há também alguns que realmente não se posicionaram sobre essa questão.

Embora a Microsoft tenha adicionado sua linha direta a links relacionados ao suicídio, como mencionado acima, sua oferta de termos de pesquisa alternativos pode ser construída para ser equivalente a termos de pesquisa de preenchimento automático inúteis que a instituição de caridade chama acima.

Há uma discussão que pode ser feita em relação ao conceito de censura, mas isso certamente é um absurdo. A liberdade de expressão não é – especialmente neste caso – compromisso com um pacto de suicídio. É claro que os mecanismos de pesquisa ainda podem exibir os resultados ofensivos, mas promovê-los na primeira página é profundamente inútil. A Microsoft não deveria estar promovendo métodos para se matar ou sugerindo pesquisas alternativas para obter melhores resultados. Seus algoritmos podem ser ajustados e alterados para promover resultados mais ideais, e a empresa deve pensar mais sobre como seus resultados realmente afetam as pessoas.

Os resultados dos motores de busca podem parecer frutos particularmente triviais e fáceis, mas a pesquisa mostrou que o suicídio é uma coisa muito impulsiva que, em muitos casos, pode ser evitada pelas barreiras, mesmo as triviais. Um artigo do New York Times sobre a construção de barreiras ao suicídio na ponte Golden Gate (que você deve ler) cita o trabalho de pesquisadores acadêmicos que apoiam isso.

Dr. Blaustein disse: “O mito mais comum a explodir é que as pessoas irão para outro lugar”.

Em um estudo de 1978, “Onde eles estão agora?” Richard H. Seiden, ex-professor da Escola de Saúde Pública da Universidade da Califórnia, Berkeley, analisou a questão de saber se alguém impedido de cometer suicídio em um lugar iria para outro. Ele estudou pessoas que tentaram suicídio na ponte Golden Gate de 1937 a 1971 e descobriu que mais de 90% ainda estavam vivos em 1978 ou morreram de causas naturais.

As barreiras da Microsoft precisam ser reforçadas. Como Satya Nadella observou no início deste ano, a tecnologia deve ser construída com empatia. Uma boa lição, que precisa ser aplicada.