BR24 Logo
BR24 Logo
Startseite
© Michael Dziedzic/Unsplash
Bildrechte: Michael Dziedzic/Unsplash

Die EU schlägt Regeln für künstliche Intelligenz vor

7
Per Mail sharen

    Künstliche Intelligenz: Diese Regeln schlägt die EU vor

    Die Europäische Kommission hat einen Vorschlag für umfassende Regulierungen von künstliche Intelligenz vorgelegt. "Social Scoring" soll verboten werden, automatische Gesichtserkennung aber in bestimmten Fällen erlaubt.

    7
    Per Mail sharen
    Von
    • Gregor Schmalzried
    • BR24 Redaktion

    Die EU-Kommission will Künstliche Intelligenz (KI) in Europa mit einem neuen Maßnahmenpaket zugleich fördern und ethisch einhegen. Sie hat am Mittwoch einen entsprechenden Vorschlag vorgelegt. Das Dokument, das im Vorfeld viel diskutiert wurde, könnte weitreichende Folgen haben, wenn es von der Europäischen Union gesetzlich umgesetzt wird.

    Mit künstlicher Intelligenz (KI) werden zumeist Technologien bezeichnet, mit denen "selbstlernende" Computer anhand von großen Datenmengen die Erledigung von Aufgaben beigebracht wird, bis diese schließlich bis zu einem gewissen Grad selbstständig agieren können. Diese Technologien stellen nach Expertenmeinungen wohl die größte technologische Revolution des 21. Jahrhunderts dar. Doch die Gefahr von Missbrauch und Gefahren für das Persönlichkeitsrecht machen das Feld der künstlichen Intelligenz zu einem umkämpften Thema.

    Vertrauen in KI soll hergestellt werden

    "Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk", sagt Margrethe Vestager, die geschäftsführende Vizepräsidentin der Europäischen Kommission, in einem Statement. "Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist. Mit der Schaffung der Standards können wir weltweit den Weg für ethische Technik ebnen und dafür sorgen, dass die EU hierbei wettbewerbsfähig bleibt.“

    Nach der Datenschutzgrundverordnung und der Urheberrechtsreform könnten die Regeln zur künstlichen Intelligenz die nächste vieldiskutierte Gesetzesinitative der EU in Sachen Technologie werden." Unsere Vorschriften werden zukunftssicher und innovationsfreundlich sein und nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen", sagt Margrethe Vestager.

    Diese Maßnahmen schlägt die EU-Kommission vor

    KI-Systeme, die als "klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten" sollen verboten werden. Dazu sollen etwa Social Scoring-Systeme gehören, mit denen Behörden das Verhalten von Menschen algorithmisch bewerten.

    Das Papier identifiziert verschiedene KI-Systeme mit "hohem Risiko", darunter die Strafverfolgung, Schulausbildung und kritische Infrastruktur. Dort sollen "strenge Vorgaben" gelten, um sicherzustellen, dass Menschen nicht aufgrund der Entscheidungen künstlicher Intelligenz benachteiligt oder diskriminiert werden (beispielsweise indem eine Software zur Bewertung von Prüfungen falsch entscheidet). Zudem sollen solche Systeme mit "hohem Risiko" unter einer Aufsichtspflicht stehen und ihre Entscheidungen protokollieren und nachverfolgbar machen.

    Streit um Gesichtserkennung

    Besonders diskutiert wurde im Vorfeld das Thema der automatischen Gesichtserkennung. Anders als von manchen Datenschützern gefordert, soll Gesichtserkennung durch künstliche Intelligenz nicht verboten werden. Ein grundsätzliches Verbot soll nur für die "Echtzeit-Nutzung im öffentlichen Raum zu Strafverfolgungszwecken" gelten. Zudem soll algorithmische Gesichtserkennung nur in einem eng abgesteckten Rahmen stattfinden können.

    Förderung für "KI-Exzellenz"

    Der Vorschlag sieht außerdem den "Aufbau einer strategischen Führungsrolle" der Europäischen Union in Sachen künstliche Intelligenz vor. KI, die "den Menschen nützt" soll gefördert werden.

    Wie geht es weiter?

    Der nun vorliegende Vorschlag der Europäischen Kommission wäre, wenn umgesetzt, eine der schärfsten Regulierungen von Künstlicher Intelligenz und Privatsphäre-Eingriffen der Welt. Über den Inhalt wird sicher auch in den kommenden Monaten und Jahren weiter gestritten werden. Denn auf den Vorschlag der Kommission folgt der Gesetzgebungsprozess im Europäischen Parlament und den Mitgliedsstaaten. Die neuen Regeln zur KI haben damit noch einen weiten Weg vor sich.

    "Darüber spricht Bayern": Der neue BR24-Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!