KI-Gesetz : Europäische Union will Schritt halten
Italien setzt ein Zeichen: Die Datenschutzbehörde verbietet dem amerikanischen Start-up OpenAI mit seinem Chatbot Chat GPT vorerst die Verarbeitung von Nutzerdaten.
Nicht oft ist Italien das erste Land, das auf die Einhaltung europäischer Regeln pocht - doch Ende März sorgte eine Entscheidung der dortigen Datenschutzbehörde "Garante" für Aufsehen: Diese entschied, dass das amerikanische Start-up hinter dem Sprachmodell Chat GPT, OpenAI, vorerst Anfragen aus Italien nicht verarbeiten dürfe - und sperrte damit faktisch die Anwendung. Auch untersagte die Behörde dem Unternehmen, Nutzerdaten aus Italien zu verarbeiten. Der Grund: Vermutete Verstöße gegen den Daten- und den Jugendschutz und die Europäische Datenschutz-Grundverordnung (DSGVO).
Auskunftsbitten an OpenAI übersandt
Diese gilt immer dann, wenn personenbezogene Daten verarbeitet werden. Dass große Mengen der Daten, mit denen Unternehmen wie OpenAI, Google oder Bing ihre KI-Modelle trainiert haben, aus dem Internet stammen, gilt als belegt. Die italienischen Datenschützer fordern nun, dass OpenAI die Rechtsgrundlage klärt, auf der die Verarbeitung von Personendaten stattfindet und eine Mitteilung über die Datenverarbeitung veröffentlicht. Auch soll eine Altersbeschränkung eingeführt werden, um zu verhindern, dass Minderjährige das System nutzen. Bis vergangenen Sonntag hatte OpenAI Zeit mitzuteilen, welche Maßnahmen ergriffen werden - ansonsten drohe eine Strafe von bis zu vier Prozent des weltweiten Jahresumsatzes. Auch Kanadas Datenschutzbeauftragte leitete Anfang April eine Untersuchung gegen das Unternehmen, an dem Microsoft beteiligt ist, ein. In Deutschland schickten die Landesdatenschutzbeauftragten Fragen mit Auskunftsbitten an OpenAI.
Mit den Sprachmodellen und Bildgeneratoren ist Künstliche Intelligenz (KI) für viele Menschen erstmals erlebbar geworden. In Sozialen Medien verbreitete, von KI-Tools erstelle Fotos wie von der angeblichen Verhaftung von Ex-US-Präsident Donald Trump wurde zuletzt deutlich, welche Macht in den digitalen Werkzeugen steckt. Schnell folgten auch realistisch anmutende Video-Fakes.
Hoffnung auf einen weltweiten Standard
Die Bemühungen für das erste Regelwerk für Künstliche Intelligenz (AI Act) auf europäischer Ebene laufen seit über zwei Jahren - damals war generative KI, unter die auch die Chatbots fallen, noch kein Thema. Aktuell wird versucht, die Verhandlungsposition von Dezember 2022 um diese zu ergänzen. Die Hoffnung ist groß, dass Brüssel damit, wie schon mit der DSGVO, einen weltweiten Standard setzen kann. Seit September 2022 liegt auch der Entwurf der Kommission für ein Regelwerk für KI-Produkthaftung vor, mit dem das Privatrecht an die neuen Bedingungen angepasst werden soll.
Für Kontroverse sorgt momentan vor allem das Spannungsverhältnis von wirkungsvollen Regeln auf der einen und der Gefahr der Überregulierung auf der anderen Seite. Vorgesehen ist im Verordnungsentwurf eine Risikoeinstufung für KI-Systeme mit Blick auf Grundrechte, Sicherheit und Privatsphäre. Während KI mit geringem Risiko weitgehend unreguliert bleiben soll, sollen mit dem Einsatz von KI mit hohem Risiko strenge Regeln und Auflagen verbunden sein. Dabei gilt: Je gefährlicher eine KI eingestuft wird, desto höher die Pflichten für die Hersteller und diejenigen, die die Systeme implementieren. So müssten Betreiber zum Beispiel eine Risikoeinschätzung durch Dritte einholen und auch eine kontinuierliche Risiko-Überwachung würde Pflicht. Wie in der DSGVO sind auch in der KI-Verordnung Sanktionsmöglichkeiten und Anordnungen, aber auch Bußgelder in Milliardenhöhe vorgesehen.
Etwa fünf bis 15 Prozent aller KI-Anwendungen als Hochrisiko-System klassifiziert
Bislang sind acht Bereiche sogenannter Hochrisiko-KI-Systeme aufgeführt. Dazu zählt etwa der Einsatz in der biometrischen Identifizierung, der Rechtspflege oder im Betrieb kritischer Infrastrukturen. Bislang seien etwa fünf bis 15 Prozent aller KI-Anwendungen von einer Klassifizierung als Hochrisiko-System betroffen, erläuterte die Bundesregierung kürzlich dem Digitalausschuss des Bundestages. Debattiert wird im Parlament allerdings auch, ob grundsätzlich zwischen allgemeiner KI und sogenannten Basismodellen, zu denen Chat GPT zählt, unterschieden werden soll. Ob dies Teil des finalen Entwurfs wird, ist offen. Voraussichtlich im Mai sollen die Ausschüsse im Europaparlament und im Juni das Plenum abstimmen. Danach können die sogenannten Trilog-Verhandlungen beginnen. In Kraft treten soll die eigentlich für 2023 geplante KI-Verordnung frühestens 2025.