1

Künstliche Intelligenz Facebook will mit KI Suizide verhindern

Im Oktober beging ein Vater in der Türkei Suizid - live gestreamt in einem Video auf Facebook. Es ist nicht der erste Fall. Nun hat das soziale Netzwerk eine Technologie entwickelt, die ab sofort Selbsttötungsabsichten seiner Nutzer verhindern soll. Von Marcus Schuler.

Von: Marcus Schuler für tagesschau.de

Stand: 28.11.2017

Facebook-Nutzerin (Symbolbild) | Bild: picture-alliance/dpa

Facebook weiß vieles über seine Nutzer - auch, wenn Suizidgefahr besteht. Das soziale Netzwerk will nun in den USA und vielen anderen Ländern Selbsttötungsabsichten seiner Nutzer erkennen und Gegenmaßnahmen einleiten. Das Unternehmen analysiert ab sofort die Einträge seiner Nutzer und informiert gegebenenfalls Freunde und Bekannte sowie Psychologen, um eine mögliche Selbsttötung rechtzeitig zu verhindern.

Nicht verfügbar in der EU

Nur in Ländern der EU soll die neue Technologie aus Gründen des Datenschutzes nicht zum Einsatz kommen. Künstliche Intelligenz - kurz KI - soll das massenhafte Durchforsten von Nutzereinträgen erleichtern. Facebook will damit frühzeitig Selbstmordabsichten identifizieren und im Ernstfall Hilfe durch Freunde oder Psychologen organisieren.

Monatelanger Testlauf

Das soziale Netzwerk testet wohl seit Monaten die neue Technologie. Am Hauptsitz in Menlo Park hat man speziell geschulte Moderatoren eingestellt, die mit suizidgefährdeten Personen direkt Kontakt aufnehmen sollen. Außerdem arbeitet das soziale Netzwerk in den USA mit Einrichtungen wie "Save.org", "National Suicide Prevention Lifeline" und "Forefront" zusammen.

"Wir haben in den vergangenen Monaten mehr als 100 Checks von selbstmordgefährdeten Nutzern vorgenommen", zitiert das Techblog "Techcrunch" den Facebook Produktchef Guy Rosen. In vielen Fällen habe der Nutzer noch mit anderen Nutzern gechattet, als Ersthelfer am Einsatzort eintrafen und mit der Personen sprechen konnten, sagt Rosen.

Funktion nicht abschaltbar

Allerdings: Wer nicht möchte, dass das Unternehmen das eigene Profil auf mögliche Selbsttötungsgedanken scannt, hat keine Chance, denn die Funktion lässt sich weder an- noch abschalten. Dem Unternehmen geht es auch darum, Suizide vor laufender Kamera und damit bei Facebook Live zu verhindern. So wie beispielsweise im vergangenen Monat geschehen, als sich ein 54-jähriger Familienvater in der Türkei vor laufender Kamera erschoss, weil sich die Tochter ohne Erlaubnis verlobt hatte.

Facebook geht es auch ums Image

Genau solche Taten sollen künftig verhindert werden. Wer sich selbst tötet, soll keine Chance bekommen, posthum glorifiziert zu werden. Auch sollen solche Videos nicht mehr rasant weiterverbreiten können. Facebook geht es dabei natürlich nicht nur um den Schutz seiner Nutzer, sondern auch um die eigene weiße Weste. Beides ist und muss legitim sein. Denn das soziale Netzwerk trägt längst mehr Verantwortung als dem Unternehmen oder seinem Chef Mark Zuckerberg vermutlich bewusst ist. Das hat die Wahlbeeinflussung durch Russland mehr als deutlich bewiesen.

Einsatz der Technologie soll ausgeweitet werden

Gleichwohl ist man sich bei Facebook darüber im Klaren, dass man mit dem Einsatz der neuen Technologie auch Phantasien nähren könnte. So stelle eine derartige Anwendung in den Händen von Kriminellen ein Risiko dar, räumt Facebook Sicherheitschef Alex Stamos ein. Doch so weit will es das Netzwerk natürlich nicht kommen lassen. Zuckerberg lobt jedenfalls das neue Produkt - und geht noch weiter: In Zukunft werde KI auch subtile Nuancen von Sprache verstehen und in der Lage sein, Mobbing und Hass-Botschaften zu identifizieren.


1