Erleichterung nach Trilog-Einigung : EU will Künstliche Intelligenz an die Leine nehmen
Die EU hat sich nach Marathonverhandlungen auf Regeln für Künstliche Intelligenz in Europa geeinigt. Über zwei Punkte der Regulierung wurde besonders gestritten.
"Deal!" ließ EU-Kommissar Thierry Breton in der Nacht zum vergangenen Samstag in den sozialen Netzwerken verlauten: Nach mehr als 36 Stunden Verhandlungen über die geplante KI-Verordnung (AI Act) konnten die Trilogparteien vermelden, dass sich das Europäische Parlament und der Rat auf eine finale Version geeinigt haben. Damit ist nun weitgehend geklärt, wie Künstliche Intelligenz (KI) in der EU reguliert werden soll. In Brüssel hofft man, mit dem weltweit ersten KI-Gesetz eine Art "Goldstandard" zu setzen und die EU als Standort für erfolgreiche KI-Unternehmen zu stärken. Ziel ist eine nachvollziehbare, transparente, faire, sichere und umweltfreundliche KI, heißt es im Entwurf. Sollten sich Unternehmen nicht an die Regelungen halten, drohen Geldstrafen orientiert am Jahresumsatz, kündigte die Kommission an.
Die Einigung war bis zuletzt vor allem wegen Details zu den sogenannten Basismodellen (Foundation Models) und der biometrischen Fernidentifikation ungewiss. Vertreter der Bundesregierung zeigten sich am Mittwoch im Digitalausschuss des Bundestages zufrieden mit der Einigung: Der Kompromiss sei sehr nahe an den Positionen der Bundesregierung, sagte die Parlamentarische Staatssekretärin Franziska Brantner (Grüne) vom Bundesministerium für Wirtschaft und Klimaschutz. Man sei froh über die Transparenzpflichten, denn gerade kleinere Unternehmen bräuchten Zugang zu relevanten Informationen, um Produkte zu entwickeln, sagte Brantner. Positiv bewertete sie auch, dass nun klar sei, dass es in Europa keine Emotionserkennung am Arbeitsplatz oder Social Scoring mit KI geben werde. Solche Systeme erfassen, bewerten und sanktionieren soziales Verhalten.
Die Zeit drängt: Legislaturperiode des Europäischen Parlaments endet
Die politische Einigung muss nun von Parlament und Rat formell genehmigt werden. Von Verzögerungen gehe man dabei nicht aus, so Brantner. Nach der Billigung, die wegen des Endes der Legislaturperiode bis April 2024 geschehen müsste, haben die Mitgliedstaaten zwei Jahre Zeit, das Gesetz in nationales Recht umzusetzen. Wie die Regulierung in den Nationalstaaten umgesetzt und die Aufsicht ausgestaltet wird, soll in den kommenden Monaten im Detail geklärt werden. Digitalminister Volker Wissing (FDP) äußerte sich etwas vorsichtiger zu dem Kompromiss und betonte, man werde sich das vorliegende Ergebnis sehr genau anschauen. Der Gesamttext soll nach Angaben der Bundesregierung im Ausschuss kurz vor oder nach den Weihnachtstagen vorliegen.
Während Wirtschaftsverbände besorgt auf das Trilog-Ergebnis reagieren, nennt EU-Binnenmarkt-Kommissar Thierry Breton die Einigung "historisch".
Dem Trilog waren zweijährige Beratungen und einige Last-Minute-Änderungen generative KI betreffend vorausgegangen. Nicht geändert hat sich im Trilog der grundsätzliche Ansatz, KI-Anwendungen verschiedenen Risikoklassen zuzuordnen: von "minimal" über "hoch" bis hin zu einem "unannehmbaren Risiko." Programme mit minimalem Risiko - etwa Spam-Filter - werden kaum reguliert, während solche mit einem hohen Risiko Sicherheitsanforderungen unterliegen. Dazu gehören etwa KI-Systeme, die Bewerbungen sortieren. Systeme, die eine Bedrohung für die Grundrechte darstellen, also menschliches Verhalten manipulieren, werden verboten. Dazu gehört etwa Spielzeug mit Sprachassistenz.
Sorge vor Abwanderung europäischer KI-Champions
Besonders heftig gestritten wurde über die Regulierung von Basismodellen wie GPT-4 oder Gemini, die mit sehr großen Datenmengen trainiert werden und die für verschiedene Zwecke eingesetzt werden können. Die Einigung sieht für solche Multifunktions-KI vor, dass sie mit einer "technischen Dokumentation" Details zu Trainingsdaten und Testverfahren, aber auch Nachweise über die Einhaltung geltenden Urheberrechts vorlegen müssen.
Was ist der AI Act?
🌐 EU als Vorreiter: Die KI-Verordnung soll der erste umfassende Rechtsrahmen für Künstliche Intelligenz weltweit werden.
👾 Vertrauenswürdige KI: Der AI Act soll für alle Anbieter von Produkten oder Dienstleistungen auf KI-Basis gelten, die in der EU in Verkehr oder Betrieb genommen werden sowie für alle Nutzer von KI-Systemen in der EU.
🔎 Umsetzung und Durchsetzung: Die nationalen Marktaufsichtsbehörden sollen die Durchsetzung der Vorschriften auf nationaler Ebene überwachen. Zudem ist ein europäisches AI-Office geplant.
Die Bundesregierung hatte sich zusammen mit Frankreich und Italien für eine verpflichtende Selbstregulierung durch einen Verhaltenskodex ausgesprochen. Wirtschaftsverbände reagierten besorgt auf die Einigung. Der Digitalverband Bitkom betonte, das geplante Gesetz schieße insbesondere bei der Regulierung von generativer KI "über das Ziel hinaus" und greife tief in die Technologie ein. Auch der Verband der Computer und Kommunikationsindustrie in Europa warnte davor, dass der Kompromiss viele Aspekte von KI überreguliere und die dringend benötigten europäischen Champions abwandern könnten.
Mehr zum Chatbot Chat GPT
In einer Bremer Schule hat der Chatbot bereits Einzug in den Unterricht gehalten. Die Technologie dürfte Einfluss auf Prüfungen, Hausaufgaben und Co. nehmen.
Ein "Gespräch" mit ChatGPT über Lernen, den Turing-Test, Regulierung und Korrektheit.
Hart verhandelt wurde auch über Systeme, die verboten werden sollen: Deutschland habe sich dafür eingesetzt, dass ein Verbot der biometrischen Fernerkennung im öffentlichen Raum verankert wird. Dafür habe es aber keine Mehrheit im Rat gegeben, berichtete Klaus Meyer-Cabri vom Bundesjustizministerium dem Ausschuss. Es handele sich nun um ein grundsätzliches Verbot mit wenigen Ausnahmen bei schweren Straftaten, einem Richtervorbehalt und einem Verbot der Identifizierung anderer Personen, sagte er. Insgesamt unterliege der Bereich "hohen Anforderungen an die Verhältnismäßigkeit." So müsse "beim Ob, beim Wie und der zeitlichen Dimension" geprüft werden. Es sei positiv zu bewerten, dass auch beim retrograden Einsatz der Richtervorbehalt gelten soll. Gegen Ausnahmen hatten sich Bürgerrechtler und Verbraucherschützer ausgesprochen und auf die Gefahr möglicher Massenüberwachungen verwiesen.