Facebook está lançando IA para ajudar usuários suicidas

O Facebook está melhorando a detecção de postagens de usuários vulneráveis ​​e em risco de suicídio com a ajuda de inteligência artificial.

No início deste ano, a empresa desenvolveu e testou pela primeira vez os algoritmos para detecção de suicídio, sinalizando postagens e status feitos por pessoas que precisavam de ajuda. A empresa só o lançou e testou nos EUA na época, mas agora, após uma recepção positiva, será lançado em outras regiões, além da UE, devido a regulamentos de privacidade.

“No último mês, trabalhamos com socorristas em mais de 100 verificações de bem-estar com base em relatórios que recebemos por meio de nossos esforços de detecção proativa. Isso se soma aos relatórios que recebemos de pessoas da comunidade do Facebook”, disse Guy Rosen, do Facebook. explicou os benefícios do programa, “Também usamos o reconhecimento de padrões para ajudar a acelerar os relatórios mais preocupantes. Descobrimos que esses relatórios acelerados – que sinalizamos exigem atenção imediata – são encaminhados às autoridades locais duas vezes mais rápido que outros relatórios.”

A IA do Facebook é útil para reduzir os tempos de resposta a usuários em risco, priorizando o conteúdo que considera especialmente preocupante para que os moderadores humanos possam revisá-los e tomar as medidas mais apropriadas, dependendo do nível de risco.

“Fornecemos às pessoas várias opções de suporte, como a opção de entrar em contato com um amigo e até oferecer modelos de texto sugeridos. Sugerimos também entrar em contato com uma linha de ajuda e oferecer outras dicas e recursos para as pessoas se ajudarem nesse momento.” diz Rosen.

O Facebook é para muitos, o centro de suas vidas digitais. Essa é apenas uma das muitas medidas que a empresa está adotando agora - após anos de atitude indiferente - para garantir que lide com esse poder com responsabilidade.