Update: EU-Parlament verabschiedet KI-Gesetz

Update vom 14. März 2024: Das EU-Parlament hat am 13. März 2024 grünes Licht für das Gesetz über künstliche Intelligenz gegeben. Die Abgeordneten nahmen die historische Verordnung mit 523 zu 46 Stimmen bei 49 Enthaltungen an, wie aus einer Mitteilung hervorgeht. Parlament und Rat hatten sich im Dezember auf den Gesetzestext geeinigt (siehe vergangene Updates). 

Das steht im Gesetz

Biometrische Kategorisierung anhand sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken sind künftig verboten. Dasselbe gilt für Emotionserkennungssysteme am Arbeitsplatz, das Bewerten von sozialem Verhalten mit KI, "Predictive Policing" und Anwendungen, die das Verhalten von Menschen beeinflussen.

Biometrische Fernidentifizierung ist auch für Strafverfolgungsbehörden grundsätzlich verboten, wie das EU-Parlament schreibt. Ausnahmen gibt es unter strengen Sicherheitsmassnahmen und nur in Sonderfällen, etwa bei der Suche nach vermissten Personen oder zur Verhinderung von Terroranschlägen. 

KI-Systeme müssen neu bestimmte Transparenzanforderungen erfüllen, um etwa das Urheberrecht nicht zu verletzen. Deepfakes müssen eindeutig als solche gekennzeichnet werden. Mitgliedsstaaten müssen ausserdem Reallabore für die Entwicklung von KI-Systemen einrichten, die auch für KMUs und Start-ups zugänglich sind.

"Wir haben durchgesetzt, dass bei der Entwicklung künstlicher Intelligenz der Mensch sowie die europäischen Werte im Vordergrund stehen", zitiert das Parlament den italienischen Abgeordneten Brando Benifei von der Partito Democratico, Co-Berichterstatter des Binnenmarktausschusses.

"Das KI-Gesetz ist ein Ausgangspunkt für ein neues Modell des Regierens, das auf Technologie aufbaut", sagt der rumänische Abgeordnete Dragos Tudorache. "Wir müssen uns jetzt darauf konzentrieren, dieses Gesetz in die Praxis umzusetzen."

So geht’s weiter

Der Rat muss das neue Gesetz noch förmlich annehmen. Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung in Kraft und soll 24 Monate nach dem Inkrafttreten uneingeschränkt anwendbar sein, also ab April 2026. Auch hier gibt es Ausnahmen: Verbote sogenannter verbotener Praktiken gelten laut dem EU-Parlament bereits sechs Monate nach Inkrafttreten, Verhaltenskodizes neun Monate nach Inkrafttreten. Regeln für künstliche Intelligenz mit allgemeinem Verwendungszweck, inklusive Governance, gelten nach 12 Monaten, Verpflichtungen für Hochrisikosysteme 36 Monate nach Inkrafttreten des AI Act.

Die Mitgliedsländer der EU müssen bis dahin Sanktionen beschliessen, wenn Unternehmen die Vorschriften nicht einhalten, etwa in Form von Geldstrafen, wie die "NZZ" berichtet. Privatpersonen können Verstösse bei den nationalen Behörden melden. In der Zwischenzeit sollen freiwillige Absprachen mit Unternehmen gelten. Experten kritisieren die lange Dauer bis zur finalen Umsetzung, wie unter anderem der deutsche "Tagesspiegel" schreibt. Angesichts der rasend schnellen Entwicklung in diesem technischen Bereich würden viele Experten davon ausgehen, dass die EU-Vorgaben in zwei Jahren bereits wieder veraltet sein könnten.

Update vom 11. Dezember 2023:

EU-Parlament und Staaten einigen sich auf KI-Gesetz

Update vom 11.12.2023: Der "AI Act" ist so gut wie unter Dach und Fach. Nach mehrtägigen Verhandlungen wurden sich das Europäische Parlament sowie die Abgeordneten der EU-Staaten einig, wie die EU mitteilt. In den besonders kontrovers diskutierten Punkten vereinbarten die Parteien Kompromisse: So dürfen etwa Strafverfolger in einigen Fällen Systeme zur biometrischen Identifizierung – also etwa Gesichtserkennungssysteme – einsetzen, wenn ein Gericht dies bewilligt. Erlaubt sind diese Systeme etwa in Zusammenhang mit sexuellem Missbrauch von Kindern, Menschenhandel oder Terrorismus.

Als weiterer Kompromiss verpflichtet der "AI Act" Hersteller von KI-Modellen zu mehr Transparenz. Sie sollen künftig technische Dokumentationen der KI-Modelle offenlegen, sich an europäische Urheberrechtsgesetze halten sowie mehr Informationen zu den Trainingsdaten zur Verfügung stellen. Noch strengere Auflagen gelten für grosse KI-Modelle mit hohen systemischen Risiken. Dazu gehören eine obligatorische Folgenabschätzung, die Verpflichtung zu Cybersicherheitsmassnahmen sowie eine Meldepflicht für schwerer Vorfälle.

Die beiden erzielten Kompromisse stossen auf Kritik, wie "Heise" zusammenfasst. So bemängeln etwa die Organisationen Algorithmwatch und European Digital Rights Initiative (EDRi) den grossen Spielraum, den das Gesetz KI-Entwicklern bei der Einstufung ihrer Systeme gebe. Sie könnten damit die hohen Anforderungen für hochriskante Systeme umgehen.

EU-Verbraucherschutzdachverband Beuc bemängelt, es gebe unzureichende Vorschriften für virtuelle Assistenten oder KI-gesteuerte Spielzeuge, da sie nicht als Hochrisikosysteme gälten, wie Heise zusammenfasst.

Als Nächstes müssen EU-Staaten und europäisches Parlament über den Gesetzestext abstimmen. Dies, schreibt die "Zeit", gelte jedoch als Formsache.

Update vom 6.12.2023:

Verhandlungen um europäisches KI-Gesetz werden härter

Noch ist der vom EU-Parlament präsentierte "AI Act" nicht in trockenen Tüchern. Tatsächlich herrscht aktuell Uneinigkeit zwischen dem EU-Parlament und den EU-Staaten, wie "Reuters" berichtet. So fordern etwa Frankreich, Deutschland und Italien harte Regeln für generative KI-Modelle aus dem Gesetz zu streichen. Stattdessen soll eine verbindliche Selbstregulierung für Hersteller solcher Modelle eingeführt werden. Wie "Der Standard" weiter ausführt, pochen ein paar Staaten auch darauf, das Verbot KI-basierter, automatisierter Gesichtserkennung aufzuweichen und Ausnahmen zuzulassen, etwa zum Schutz der nationalen Verteidigung.

Wie es unter Berufung auf Insider heisst, hätten diese Konflikte in den Vorbereitungstreffen nicht entschärft werden können. Eigentlich hätten sich Parlament und Staaten anlässlich der Verhandlungen vom 6. Dezember 2023 auf den "AI Act" einigen sollen. Doch dies steht nun auf Messers schneide, wie es "Der Standard" ausdrückt. Die Verabschiedung des Gesetzes droht sich damit zu verspäten, möglicherweise bis nach der Europawahl im Jahr 2024.

Update vom 16.6.2023:

EU-Parlament beschliesst Verordnung für KI-Regulierung

Der "AI Act" kommt. Die Abgeordneten des EU-Parlaments stimmten am 14. Juni für einen Gesetzesentwurf für die Regulierung von künstlicher Intelligenz, wie unter anderem "Watson" berichtet. Künftig sollen im EU-Raum also strengere Regeln für den Einsatz von KI-Anwendungen gelten. Es wäre das weltweit erste KI-Gesetz.

Was steht im neuen "AI Act"?

Allgemein sehe der Entwurf vor, KI-Anwendungen in verschiedene Risikobereiche einzustufen, schreibt "Watson" weiter. Je nach Einstufung sollen unterschiedliche Auflagen gelten: Lösungen, die ein "inakzeptables Risiko" darstellen, werden verboten. Dazu zählen etwa alle Formen von Social Scoring, wie es seit Jahren in der Volksrepublik China Anwendung findet.

Das Reich der Mitte gilt als der Überwachungsstaat schlechthin - wie viel China in dieser Hinsicht in der Schweiz steckt, erfahren Sie hier.

Auch die Echtzeitnutzung biometrischer Daten, beispielsweise für KI-gestützte Gesichtserkennung, soll der AI Act verbieten. Aufzeichnungen dürften weiterhin genutzt werden - allerdings nur in der Strafverfolgung und mit richterlichem Beschluss.

Anwendungen der höchsten Sicherheitsstufe, des Hochrisikobereichs, sollen strengen Kontrollen unterliegen, heisst es weiter. Dies betreffe etwa KIs der kritischen Infrastruktur, Anwendungen, die Wahlen beeinflussen können oder aber jene, die in grossen sozialen Netzwerken (mehr als 45 Millionen Nutzende) für Inhaltsempfehlungen eingesetzt werden.

Hier müsse eine strenge menschliche Kontrolle gewährleistet sein. Darüber hinaus müsse dokumentiert werden, mit welchen Datensätzen die KI trainiert wird.

Kennzeichnung für KI-Inhalte

Von Anwendungen wie Chatbots geht gemäss dem Entwurf ein limitiertes Risiko aus. Hierbei soll es ausreichen, die Nutezrinnen und Nutzer darauf hinzuweisen, dass sie KI nutzen. Auch das Endresultat unterliegt nach dem AI Act einer Kennzeichnungspflicht: Bilder oder Texte, die mit Hilfe sogenannter Foundation Models erstellt wurden, müssen als solche erkennbar sein. Zudem müsse die KI so gestaltet sein, dass sie keine illegalen Inhalte erzeugen kann.

Welche Behörden die Kontrolle übernehmen sollen, ist laut "Watson" noch nicht geklärt. Auch sei noch nicht absehbar, wie sich KI in den nächsten Jahren entwickeln wird - das Gesetz müsste also womöglich laufend angepasst werden. Der deutsche Digitalverband Bitkom fürchtet ausserdem nach wie vor eine "Überregluierung" durch das Gesetz, wie das Portal "Onlinehändler.de" schreibt. 

Der finale Gesetzestext soll bis Ende des Jahres feststehen. Unternehmen hätten danach zwei Jahre Zeit, um sich an die neuen Auflagen anzupassen. Die EU fordert grosse Tech-Konzerne und KI-Entwickler bis dahin zur "freiwilligen Selbstkontrolle" auf.

Originalmeldung vom 16.5.2023: 

EU-Parlament fordert Verschärfung des "AI Act"

Seit Ende 2022 arbeitet die EU an einem Gesetz zur Regulierung von künstlicher Intelligenz. Im Dezember wurde ein erster Entwurf für den "Artificial Intelligence Act", wie das Gesetz heissen soll, der Europäischen Kommission vorgelegt.

Das Europäische Parlament fordert nun deutlich strengere Regeln für den Einsatz von KI, wie unter anderem das "Handelsblatt" berichtet. Die beiden zuständigen Ausschüsse für Binnenmarkt und Inneres erarbeiteten demnach am 11. Mai 2023 in Strassburg Änderungsvorschläge am Entwurf des "AI Act".

Grenzen für die KI

Das KI-Gesetz verfolge einen risikobasierten Ansatz, schreibt das "Handelsblatt". Je riskanter eine Anwendung sei, desto mehr Auflagen müssten ihre Entwickler erfüllen. Dies betreffe unter anderem Offenlegungs- und Berichtspflichten, etwa für Programme wie ChatGPT. Das Parlament fordere, dass nicht jede KI automatisch als hochriskant eingestuft werde. Stattdessen sollen konkrete Überprüfungen auf ein "signifikantes Risiko" stattfinden. Die Ausschüsse ergänzen die Liste an "hochriskanten Bereichen" der EU-Kommission. Neben Gesundheit, Sicherheit, Grundrechten und Umwelt sollen auch Systeme zur Wählerbeeinflussung und Empfehlungssysteme grosser Social-Media-Plattformen dazu gehören, wie die deutsche "Tagesschau" schreibt. 

Grenzen soll es ausserdem vor allem beim Einsatz von Gesichtserkennung geben, wie das "Handelsblatt" weiter erläutert. Hier hätten sich die Liberalen gegen die Konservativen durchgesetzt. Der Abgleich biometrischer Daten einzelner Personen soll bis auf wenige Ausnahmen verboten werden, heisst es weiter. "Je weniger biometrische Daten verarbeitet werden dürfen, desto geringer das Risiko missbräuchlichen Nutzens", lässt sich KI-Experte Fritz-Uli Pieper zitieren.

Tech-Branche fürchtet Überregulierung

Aus der Tech-Branche bekommen die Parlamentarier Gegenwind. Übertrieben scharfe Auflagen würden nur dafür sorgen, dass die KI-Entwicklung künftig ausserhalb Europas stattfinde, zitiert das "Handelsblatt" etwa Achim Berg vom Bitkom, dem deutschen Fachverband für die Informations- und Telekom-Branche. Es sei wichtig, die Risiken der KI-Entwicklung zu adressieren, aber man brauche Raum für Innovationen, wird Oliver Süme vom Verband der Internetwirtschaft Eco zitiert.

Das gesamte Parlament muss nun über die Änderungsanträge der beiden Ausschüsse abstimmen. Dies sei für die Sitzung vom 12. bis 15. Juni geplant, schreibt die "Tagesschau".

Übrigens: Im grossen Interview mit der Netzwoche erklärt die Anwältin und Dozentin Anne-Sophie Morand, wie sich das KI-Gesetz auch auf die Schweiz auswirken könnte. Lesen Sie hier mehr dazu.