Bildrechte: colourbox.com

Algorithmen im Netz, Netz-Algorithmen

Artikel mit Bild-InhaltenBildbeitrag

Daten: Inwieweit wird unser Verhalten schon jetzt bewertet?

Wie gesund ernähre ich mich und wie rede ich über die Regierung? Verhalten, das in einem Sozialkredit-System darüber entscheidet, ob ich einen Kredit oder eine Wohnung bekomme. Sind wir noch sicher vor der totalen Überwachung durch Algorithmen?

Über dieses Thema berichtet: Theo.Logik am .

Ein Klick auf dem Smartphone und der Kellner im Cafe bekommt eine Bewertung von fünf Sternen. Das ist in der Welt der britischen Science-Fiction-Serie "Black Mirror" mehr wert als Trinkgeld. Die Menschen in der fiktiven westlichen Stadt bewerten sich im Alltag ständig gegenseitig. Mittels Gesichtserkennung bekommen sie den "sozialen Punktestand" ihres Gegenübers eingeblendet und sehen damit seine Position in der Gesellschaft. Der Kellner steht bei drei von maximal fünf Punkten, seine Kundin bei 4,2, die "Reichen und Schönen" haben eine Punktzahl von 4,5 und höher. Sie bekommen schönere Wohnungen, bessere Jobs und wer mit ihnen befreundet ist, steigt selbst im Punktesystem auf.

Punkte für IQ oder Religion

Die Fernseh-Dystopie ist erst vor eineinhalb Jahren erschienen, wird aber heute schon von der Realität eingeholt: Mit dem chinesischen Sozialkredit-System, dem sogenannten "Social Scoring", das zwar anders funktioniert, aber die gleichen Auswirkungen haben könnte: Die Abhängigkeit der Bürger von einem Punktestand, der sich aus digitalen Daten errechnet.

Auch in der westlichen Welt bekommen Menschen bereits Punkte für ihr Verhalten, ohne es zu wissen, so der niederländische Datenschutz-Aktivist Tijem Schep. Der durchschnittliche Europäer werde heute schon in 600 Lebensbereichen von Computern bewertet: etwa beim IQ, seiner Religion oder seiner Leichtgläubigkeit. Viele dieser Daten, die für das social scoring in China verwendet werden, existierten hier und würden auch täglich verfasst, so Falk Garbsch, Sprecher des Chaos Computer Clubs, wie zum Beispiel der Amazon Echo Sprachassisten Alexa:

"Alexa ist das eine, das Wohnzimmer, das uns belauscht. Die Alexa fürs Schlafzimmer gibt es schon mit Kamera, die uns dann Stilberatung anbieten soll. Was Facebook an Datenmengen erfasst, ist unglaublich, was unsere Telefonanbieter an Daten erfassen, was Behörden im Prinzip an Bewegungsprofilen über unsere Telefone abrufen können. Das sind enorme Datenmengen. Was noch nicht passiert ist, ist, dass diese Daten zu einem Scoring-System zusammengeführt werden." Falk Garbsch, Sprecher des Chaos Computer Clubs

Das verhindern momentan die strengen Datenschutz-Regelungen in Deutschland und der EU, zumindest was den legalen Datenhandel angeht.

Überwachung in allen Lebensbereichen

Doch das Interesse an Daten, mit denen sich Menschen nach persönlichen Merkmalen beurteilen lassen, wächst. So passen Online-Shops ihre Preise automatisch an den Kunden an und Krankenkassen denken darüber nach, Prämien an Menschen zu verteilen, die ihre Gesundheit und ihr Sportverhalten mittels Fitnessarmbändern freiwillig bewerten lassen.

"Wir werden als Arbeitnehmer immer weiter überwachbar, weil die Technologien, mit denen wir im Unternehmensumfeld kommunizieren, ins Unternehmensnetzwerk einwählen, sind alle in der Lage unsere Arbeitsschritte nachzuvollziehen und immer detaillierter zu erfassen." Hans Sterr, Ansprechpartner für Digitalisierung bei der Gewerkschaft Verdi

Fälle, in denen Unternehmen ihre Mitarbeiter überwacht haben, kennt Hans Sterr zur Genüge: Von Kameras an Supermarktkassen über Taschenkontrollen bis dahin, dass Chefs Privatdetektive auf ihre Mitarbeiter angesetzt haben. Immer unter der Mutmaßung, dass etwas gestohlen werden soll.

Ein Hinweis auf eine Bedrohung für die Freiheitsrechte sei in der Arbeitswelt etwa, wenn der Chef die Überwachung zur Bedingung für einen Arbeitsvertrag mache, so Sterr weiter. Wenn mehr und mehr Leute das mit sich machen lassen, befürchtet Sterr, könnte sich eine Art Social-Scoring-System, wie es in China vom Staat angeordnet wird, auch bei uns unter dem Vorwand der Freiwilligkeit einschleichen.

Gesellschaftliche Selbstzensur?

Der niederländische Datenaktivist Tijem Schep beschreibt das Phänomen als „Social Cooling“, also gesellschaftliche Abkühlung, eine Art Selbstzensur: Zum Beispiel, wenn sich Jugendliche auf Partys gemäßigter verhalten als früher, weil sie befürchten, am nächsten Tag peinliche Fotos von sich auf Facebook zu finden.


Autor: Markus Kaiser