Kann eine Software erkennen, ob jemand schwul oder lesbisch ist? Dieser Frage sind zwei Forscher an der Stanford University nachgegangen. Dazu fütterten sie den Computer mit über 35.000 Fotos aus einer Dating-Plattform, auf denen die Mitglieder Angaben zu ihrer sexuellen Orientierung gemacht hatten. Das Programm lernte selbstständig Merkmale für eine bestimmte sexuelle Orientierung zu identifizieren, etwa den Kleidungsstil, die Mimik oder die Gesichtsproportionen. Am Ende konnte die Software Homosexualität 81 Prozent aller schwulen Männer erkennen und 74 Prozent aller homosexuellen Frauen, Menschen kamen nur auf eine Trefferquote von 61 beziehungsweise 54 Prozent.
Ausgrenzung per Software
Schnell sahen sich die beiden Forscher einem Shitstorm ausgesetzt, sie selbst sagen allerdings, dass sie mit ihrer Forschung zeigen möchten, welche potenziellen Gefahren von Gesichtserkennungs-Technologien ausgehen könnte. Tatsächlich sind diverse Missbrauchsszenarien denkbar: Staaten, in denen Homosexualität unter Strafe steht, könnten mit Hilfe einer solchen Software Schwule und Lesben noch effizienter ausgrenzen und Unternehmer schon anhand des Bewerbungsfotos homosexuelle Jobkandidaten aussortieren.
Kann Software potenzielle Gewaltäter erkennen?
Dass Gesichtserkennungssoftware ethische Fragen aufwirft, zeigen auch andere Studien. Chinesische Forscher haben beispielsweise eine Software entwickelt, die mit hoher Wahrscheinlichkeit anhand eines Bildes voraussagen kann, ob jemand kriminell ist und ein israelisches Unternehmen vermarktet Software, die verspricht potenzielle Gewalttäter zu erkennen - und das nur anhand des Gesichts.
Wie viel Ethik brauchen Algorithmen?
Die neuen Erkenntnisse dürften die Diskussion über den ethischen Umgang mit künstlicher Intelligenz und Algorithmen weiter anheizen. Bundesjustizminister Heiko Maas (SPD) hat erst vor Wochen ein „digitales Antidiskriminierungsgesetz“ ins Spiel gebracht und vor einigen Tagen hat die die ehemalige Verbraucherschutzministerin Renate Künast (Grüne) eine Enquete-Kommission zur Macht von Algorithmen gefordert.