Facebook führt KI ein, um suizidgefährdeten Nutzern zu helfen

Facebook verbessert mit Hilfe künstlicher Intelligenz die Erkennung von Beiträgen gefährdeter und suizidgefährdeter Nutzer.

Früher in diesem Jahr, entwickelte und testete die Firma zunächst die Algorithmen zur Suiziderkennung und markierte Posts und Status, die von Menschen erstellt wurden, die Hilfe brauchten. Das Unternehmen hat es damals nur in den USA eingeführt und getestet, aber jetzt, nach einem positiven Empfang, wird es es aufgrund von Datenschutzbestimmungen in anderen Regionen sowie außerhalb der EU einführen.

„Im letzten Monat haben wir mit Ersthelfern an über 100 Gesundheitschecks auf der Grundlage von Berichten gearbeitet, die wir über unsere proaktiven Erkennungsbemühungen erhalten haben. Dies ist zusätzlich zu den Berichten, die wir von Leuten in der Facebook-Community erhalten haben“, Guy Rosen von Facebook erläuterte die Vorteile des Programms, „Wir verwenden auch die Mustererkennung, um die besorgniserregendsten Meldungen zu beschleunigen. Wir haben festgestellt, dass diese beschleunigten Meldungen – von denen wir signalisiert haben, dass sie sofortige Aufmerksamkeit erfordern – doppelt so schnell an die lokalen Behörden eskaliert werden wie andere Meldungen.“

Die KI von Facebook ist hilfreich, um die Antwortzeiten für gefährdete Benutzer zu verkürzen und Inhalte zu priorisieren, die sie als besonders besorgniserregend erachtet, damit menschliche Moderatoren sie überprüfen und je nach Risikograd die am besten geeigneten Maßnahmen ergreifen können.

„Wir bieten den Menschen eine Reihe von Support-Optionen, z. B. die Möglichkeit, sich an einen Freund zu wenden und sogar vorgeschlagene Textvorlagen anzubieten. Wir empfehlen auch, sich an eine Hotline zu wenden und andere Tipps und Ressourcen anzubieten, damit sich die Menschen in diesem Moment selbst helfen können.“ sagt Rosen.

Facebook ist für viele der Mittelpunkt ihres digitalen Lebens. Dies ist nur eine von vielen Maßnahmen, die das Unternehmen jetzt – nach Jahren der Nachlässigkeit – ergreift, um sicherzustellen, dass es verantwortungsvoll mit dieser Macht umgeht.