Vergangene Woche hat die italienische Datenschutzbehörde ChatGPT in Italien gesperrt. Die Behörde wirft OpenAI, dem Entwickler von ChatGPT vor, sich nicht an Datenschutz- und Jugendschutzregeln gehalten zu haben. OpenAI hat bis zum 20. April Zeit, die Missstände zu beheben. Andernfalls droht dem US-Unternehmen eine Strafe von bis zu 20 Millionen Euro oder von bis zu vier Prozent des globalen Jahresumsatzes.
Die Entscheidung hat für Aufsehen gesorgt - und könnte Schule machen. Datenschutzbehörden aus Frankreich und Irland haben die italienischen Kollegen gebeten, sie im Fall OpenAI auf dem Laufenden zu halten. Kanada hat ebenfalls eine Untersuchung eingeleitet. Auch der Bundesdatenschutzbeauftragte hält eine Sperrung von ChatGPT für möglich.
Hält OpenAI die Datenschutzgrundverordnung ein?
Nun nehmen auch die Datenschutzbeauftragten aus den Bundesländern ChatGPT ins Visier und prüfen, ob OpenAI die Anforderungen der europäischen Datenschutzgrundverordnung (DSGVO) einhalten, wie die Konferenzvorsitzende, die schleswig-holsteinische Datenschutzbeauftragte Marit Hansen, dem digitalen Medienhaus Table.Media sagte.
Die DSGVO schreibt unter anderem vor, dass es eine Rechtsgrundlage dafür geben muss, wenn jemand personenbezogene Daten erheben will.
Keine Rechtsgrundlage für Speicherung personenbezogener Daten
ChatGPT wurde mit massenhaft Webseiten aus dem Internet trainiert, darunter das komplette Wikipedia. Aber auch mit Daten aus sozialen Netzwerken oder Blogs, bei denen man eine Menge persönlicher Daten eingibt. Und für diese Sammlung personenbezogener Daten in den massiven Datenmengen, die zur Schulung von ChatGPT verwendet werden, gibt es - nach Ansicht der italienischen Datenschutzbehörde - keine rechtliche Grundlage.
Dass daraus mal ein Datenschutz-Problem werden könnte - zumindest in Europa - hätte OpenAI wissen können. Die Entwicklung von ChatGPT-Entwickler begann 2018 - dem Jahr, in dem die DSGVO in Kraft getreten ist.
Nutzer werden nicht informiert, wie ihre Daten gespeichert werden
Die zweite große Datenquelle für ChatGPT sind die Millionen Nutzer weltweit. Mit jeder Eingabe trainieren sie das dahinter liegende Sprachmodell. Zwar muss man dazu die Datenschutzerklärung von OpenAI akzeptieren, mit der man dem Unternehmen die Verarbeitung personenbezogener Daten erlaubt.
Doch die italienischen Datenschützer werfen OpenAI vor, dass es seinen Nutzern nicht mitteile, welche Informationen von ihnen gespeichert werden. Außerdem sei es zu Datenpannen gekommen, bei denen ChatGPT-Nutzer Informationen aus den Chats anderer ChatGPT-Nutzer zu sehen bekommen hätten.
Man sollte ChatGPT keine sensiblen persönlichen Informationen geben
Ohnehin sollte man auch gut überlegen, mit welchen - persönlichen - Daten man ChatGPT "füttert". Darauf weist der Chatbot bei jedem neuen Login auch selbst hin: "Bitte geben Sie in Ihren Gesprächen keine sensiblen Informationen preis." Auch IT-Experte Peter Welchering rät zur Vorsicht: "ChatGPT sollte nicht für Aufgaben oder Auskünfte herangezogen werden, bei denen es um persönliche Daten wie Finanzdaten, Gesundheitsdaten geht", sagte Welchering in einem Interview mit dem BR.
KI-Gesetz der EU soll auch Chatbots regulieren
Die Frage nach der Transparenz von Trainingsdaten und wie sie erhoben wurden, stellt sich bei allen KI-Anwendungen und wird gerade auch auf EU-Ebene heiß diskutiert. Die EU plant ein KI-Gesetz, das noch in diesem Jahr verabschiedet werden soll. Es dürfte aber überaus schwierig sein, die Chatbots zugrunde liegenden Datenbanken rückwirkend noch datenschutzkonform zu gestalten. Die spannende Frage wird nun erst einmal sein, ob auch die Datenschützer der Bundesländer die Nutzung von ChatGPT in Deutschland untersagen.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!