BR24 Logo
BR24 Logo
Netzwelt

US-Firma sammelt Milliarden Fotos für Gesichtsdatenbank | BR24

© BR

Der Fall "Clearview AI"

2
Per Mail sharen
Teilen
  • Artikel mit Audio-Inhalten

US-Firma sammelt Milliarden Fotos für Gesichtsdatenbank

"Clearview AI" soll eine Datenbank mit Milliarden Fotos von Gesichtern aufgebaut haben. Dafür hat die US-Firma wohl auch öffentlich zugängliche Bilder auf Facebook genutzt. Die "New York Times" spricht vom "Ende der Privatsphäre, wie wir sie kennen."

2
Per Mail sharen
Teilen

Was wäre, wenn man die Straße entlang läuft und eine Person, die uns entgegenkommt, könnte in Sekundenschnelle allein an Hand unseres Gesichts herausfinden, wer wir sind? Name, Wohnort, vielleicht noch die Adresse oder das Geburtsdatum. Was nach einer Orwellschen Dystopie klingt, ist - zumindest in der Theorie - mit der Software der US-Firma "Clearview AI" möglich.

Laut einer Recherche der Reporterin Kashmir Hill von der "New York Times" nutzen in den USA aktuell mehr als 600 Kunden die Software zur Gesichtserkennung. Darunter seien vor allem lokale und regionale Polizeibehörden, aber auch das FBI und das Heimatschutzministerium. Eine genaue Liste, wer zu den Kunden gehört, gibt das Unternehmen laut dem Bericht der Zeitung nicht heraus. Allerdings soll "Clearview AI" auch mit privaten Unternehmen zusammenarbeiten.

Gigantische Datenbank mit drei Milliarden Fotos

Die Polizeibehörden, die "Clearview AI" bereits nutzen, wollen mit Hilfe der Software Verbrechen aufklären, Täter ausfindig machen. Was die Software für die Behörden so attraktiv macht, ist ihr gigantischer Datenpool an Fotos: Drei Milliarden Fotos können angeblich innerhalb von Sekunden durchsucht werden. Bislang waren Behörden bei Gesichtserkennung auf "offizielle" Bilder beschränkt - beispielsweise von Führerscheinen, Ausweisen oder bei Festnahmen.

Die "New York Times" berichtet, dass Beamte auf Bundes- und Landesebene die Software genutzt hätten, ohne wirklich zu wissen, wie sie eigentlich funktioniert oder wer genau dahinter steckt. Sie wurde demnach eingesetzt, um Ladendiebstahl aufzuklären, Kreditkartenbetrug, Mord und Kindesmissbrauch.

Fotos von Facebook und Youtube für Datenbank runtergeladen

Wie aber hat die US-Firma, die bis zum Bericht der "New York Times" eher im Verborgenen agiert hat, diese immens große Datenbank überhaupt aufbauen können? Zunächst hat Clearview ein Programm entwickelt, das automatisch Bilder sammelt, die im Internet frei zugänglich sind - von Plattformen wie Facebook, YouTube, Twitter oder Instagram, aber auch von Webseiten, wo Menschen und ihre Arbeit vorgestellt werden oder Nachrichtenseiten.

In einem zweiten Schritt hat "Clearview AI" einen Algorithmus entwickelt, der die Bilder analysiert. Fotos werden in mathematische Modelle umgerechnet, und zwar auf Basis ihrer Gesichtsmerkmale, also zum Beispiel, wie weit die Augen auseinander stehen. Lädt man ein Foto in die Datenbank hoch, sucht das System nach Übereinstimmungen an Hand dieser mathematischen Modelle. Werden welche gefunden, liefert es gleich noch die Links zur Quelle des Bildes mit dazu.

"Facebook weiß das."

Dass das Unternehmen mit dem Runterladen von Fotos von Plattformen wie Facebook gegen die Nutzungsbedingungen verstößt, ist nur ein höchst fragwürdiger Punkt in dieser Geschichte. Für den Gründer von "Clearview AI", Australier Hoan Ton-That, zudem offenbar auch unerheblich. Er sagte der "New York Times" dazu nur: "Viele Menschen tun das. Facebook weiß das."

Bisher war die Firma mehr oder weniger unbekannt. Die Times-Reporterin Kashmir Hill schreibt, zu Beginn ihrer Recherche sei die Webseite von "Clearview AI" praktisch leer gewesen. Es habe kaum Inhalt gegeben und zudem eine falsche Adresse in Manhattan - ein Tippfehler, sagt die Firma inzwischen. Auf dem Berufsnetzwerk LinkedIn fand sich das Profil eines "John Good", das einen Verweis auf die Firma enthielt. Tatsächlich steckt aber Gründer Hoan Ton-That dahinter, der einen falschen Namen benutzte.

Wer hinter "Clearview AI" steckt

Wochenlang recherchierte Hill der Firma hinterher und wurde ignoriert, bis es schließlich zu Treffen mit Ton-That kam. Bis zu ihrem Artikel in der "New York Times" war das Unternehmen quasi unbekannt.

Neben Ton-That ist auch Richard Schwartz an "Clearview AI" beteiligt. Schwartz hat lange für den republikanischen Politiker Rudolph Giuliani gearbeitet, als dieser noch Bürgermeister in New York war. Finanziert wird "Clearview AI" laut dem Bericht zudem von Peter Thiel, der auch ein Investor bei Facebook ist und Mitgründer von Paypal.

Nie von unabhängigen Experten überprüft

Wie "Clearview AI" seine Kommunikation nach außen betreibt, und unter welchen Bedingungen es die Software zur Gesichtserkennung anbietet, ist höchst fragwürdig. Neben dem Verstoß gegen Nutzungsbedingungen sozialer Netzwerke, ist da noch das unübersehbare Problem des Datenschutzes. Wenn Polizeibehörden sensible Fotos auf die Server eines Privatunternehmens hochladen, wer soll sicherstellen, dass sie entsprechend behandelt werden und nicht anderweitig verwendet oder ausgelesen werden? Laut der "New York Times" wurde "Clearview AI" bislang nie von unabhängigen Experten überprüft - weder was den Datenschutz angeht, noch ob sich deren Service überhaupt mit dem geltenden Recht in den USA vereinen lässt.

Des Weiteren birgt das System auch Potenzial, missbraucht zu werden: Ein Polizist, der Zugang zur Software hat, könnte damit beispielsweise Frauen stalken, die er attraktiv findet, sagte Eric Goldman, Co-Direktor des High Tech Law Instituts der Santa Clara Universität der "New York Times". Die Umwandlung all dieser Möglichkeiten zu einer Art Waffe seien unendlich, so Goldman.

Clearview hat Prototypen für Augmented Reality-Brille entwickelt

Des weiteren bestätigte "Clearview AI" gegenüber der "New York Times", dass es einen Prototypen für eine Augmented Reality-Brille entwickelt habe. Damit könnte der Träger Menschen zum Beispiel auf der Straße identifizieren, falls die Gesichter in der Datenbank vorhanden sind. Laut Ton-That soll die Brille aber nicht in den Verkauf gehen.

Zudem kontrolliert das Unternehmen offenbar auch, nach wem die Behörden suchen. Nachdem Kashmir Hill Polizisten gebeten hatte, ein Foto von ihr in die Datenbank hochzuladen, zeigte das System wohl keine Treffer an - obwohl von der Reporterin einige Bilder im Internet existieren. Kurze Zeit später habe die Firma bei den Behörden nachgefragt, ob sie mit der Presse sprächen. Firmengründer Ton-That wiegelt ab: Die Software habe nur so reagiert, weil sie "ungewöhnliche Suchanfragen" erkannt habe.

EU-Kommission diskutiert Regeln für Gesichtserkennung

Der Bericht der "New York Times" erscheint zu einem Zeitpunkt, an dem ohnehin viel über die Fehleranfälligkeit von Algorithmen bei der Gesichtserkennung diskutiert wird. Erst am Wochenende hatte auf der DLD-Konferenz in München die Forscherin Joy Buolamwini über die hohe Fehlerquote bei Gesichtserkennung gesprochen, die insbesondere schwarze Frauen treffe.

Während Bundesinnenminister Horst Seehofer Gesichtserkennung - zumindest für Teilbereiche - in Deutschland einführen möchte, hat die EU-Kommission nun erstmal abgebremst. In den nächsten drei bis fünf Jahren soll der Einsatz von automatischer Gesichtserkennung im öffentlichen Raum zunächst ausgesetzt werden.

Die Pläne für dieses Moratorium stammen aus dem sogenannten Weißbuch der EU-Kommission zum künftigen Einsatz Künstlicher Intelligenz (KI) in Europa. Wie Golem.de schreibt, denkt die EU-Kommission über besondere Regeln und Vorgaben für den Einsatz KI-basierter Gesichtserkennung nach - und zwar unabhängig davon, ob sie von privaten oder staatlichen Akteuren eingesetzt werde.

"Darüber spricht Bayern": Der neue BR24-Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!