Zündfunk Generator Wie undurchschaubare KI-basierte Systeme unseren Alltag prägen

Automatisierte Entscheidungen
Wie undurchschaubare KI-basierte Systeme unseren Alltag prägen
Von Markus Metz
Diese Sendung zum Nachhören unter: www.bayern2.de/zuendfunk
Diese Sendung hören Sie auch in der BR Radio App und ist als Podcast verfügbar.

Im öffentlichen Diskurs über Künstliche Intelligenz geht es meist darum, wann die KI den Menschen nicht nur im Schach schlägt, sondern der Menschheit generell überlegen sein wird. Viel weniger geht es darum, wo und wie wir alle bereits heute mit KI zu tun haben - und zwar in Gestalt von Systemen automatisierter Entscheidungsfindung. Solche Systeme zum automatisierten Entscheiden (ADMS, automated decision making systems) verwendet die öffentliche Verwaltung, etwa die Bundesagentur für Arbeit bei der Arbeitslosenhilfe, das Finanzamt für maschinell erstellte Steuerbescheide oder die Polizei für predicitve policing. Unternehmen setzen KI-basierte Systeme für das Personalmanagement ein, ADM-Systeme finden Verwendung in der Corona-Warn-App zur Kontaktverfolgung und Benachrichtigung bei Risikobegegnungen. In europäischen Ländern wird in steigendem Maß Gesichtserkennung getestet und eingesetzt. Nach welchen Kriterien die Systeme ihre Entscheidungen treffen, bleibt für Betroffene weitgehend intransparent, und damit auch, ob diese mit Menschenrechten und Demokratie vereinbar sind. "Nur durch eine informierte, inklusive und evidenzbasierte demokratische Debatte
wird es uns gelingen, die richtige Balance zu finden zwischen den Vorteilen, die ADM-Systeme im Hinblick auf Schnelligkeit, Effizienz, Fairness, bessere Prävention und besseren Zugang zu staatlichen Dienstleistungen bieten können - und dies auch tun - und den Gefahren, die sie für die Rechte von uns allen darstellen.", schreibt die gemeinnützige Forschungs- und Advocacy-Organisation AlgorithmWatch in ihrem "Automating Society Report 2020". Ein Zündfunk Generator über die Tücken des automatisierten Entscheidens.