Über die EU-KI-Verordnung

Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) ist der weltweit erste umfassende Rechtsrahmen für Künstliche Intelligenz. 2024 vom Europäischen Parlament und dem Rat verabschiedet, legt sie harmonisierte Regeln für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Nutzung von KI-Systemen innerhalb der Europäischen Union fest.

Dies ist keine unverbindliche Leitlinie oder ein Satz freiwilliger Grundsätze. Es handelt sich um eine bindende Verordnung mit unmittelbarer Wirkung in allen 27 EU-Mitgliedstaaten, mit Durchsetzungsmechanismen, die Bußgelder von bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes umfassen.

Was ist die EU-KI-Verordnung

Die EU-KI-Verordnung ist eine Verordnung — die stärkste Form der EU-Gesetzgebung. Im Gegensatz zu einer Richtlinie, die von jedem Mitgliedstaat in nationales Recht umgesetzt werden muss, gilt eine Verordnung ab dem Zeitpunkt ihres Inkrafttretens unmittelbar und einheitlich in der gesamten EU.

Die formelle Bezeichnung der Verordnung lautet Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2018/1725 und der Richtlinien 2000/14/EG, (EU) 2006/42/EG und (EU) 2011/65/EU (Gesetz über Künstliche Intelligenz).

Sie wurde am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht und trat am 1. August 2024 in Kraft. Ihre Pflichten werden über einen Zeitraum von drei Jahren wirksam, mit vollständiger Durchsetzung der meisten Bestimmungen bis zum 2. August 2027.

Geschichte und Gesetzgebungsprozess

Die KI-Verordnung hat ihren Ursprung in der breiteren KI-Strategie der Europäischen Kommission, die ab 2018 Gestalt annahm.

April 2018 — Die Kommission veröffentlicht ihre Mitteilung „Künstliche Intelligenz für Europa".

April 2019 — Die Hochrangige Expertengruppe für KI veröffentlicht ihre Ethikleitlinien für vertrauenswürdige KI.

Februar 2020 — Die Kommission veröffentlicht das Weißbuch zur KI und startet eine öffentliche Konsultation.

21. April 2021 — Die Kommission nimmt ihren Gesetzgebungsvorschlag für die KI-Verordnung an (COM/2021/206).

Dezember 2022 — Der Rat der EU nimmt seinen allgemeinen Standpunkt an.

14. Juni 2023 — Das Europäische Parlament nimmt seinen Verhandlungsstandpunkt an.

8. Dezember 2023 — Nach Marathon-Trilogverhandlungen wird eine politische Einigung erzielt. Die Verhandlungen dauerten in der letzten Sitzung über 36 Stunden.

13. März 2024 — Das Europäische Parlament verabschiedet die KI-Verordnung förmlich mit 523 Ja-Stimmen, 46 Gegenstimmen und 49 Enthaltungen.

21. Mai 2024 — Der Rat nimmt die KI-Verordnung förmlich an.

12. Juli 2024 — Die KI-Verordnung wird im Amtsblatt der Europäischen Union veröffentlicht.

1. August 2024 — Die KI-Verordnung tritt in Kraft.

Zweck und Ziele

Die KI-Verordnung verfolgt mehrere miteinander verbundene Ziele:

Grundrechte schützen. Die Verordnung gründet auf der EU-Grundrechtecharta. Sie soll verhindern, dass KI-Systeme die Menschenwürde, Privatsphäre, Nichtdiskriminierung, Meinungsfreiheit und andere EU-rechtlich geschützte Rechte untergraben.

Sicherheit gewährleisten. KI-Systeme sollen keine unannehmbaren Risiken für Gesundheit, Sicherheit oder Umwelt darstellen.

Innovation fördern. Die Verordnung soll Rechtssicherheit für KI-Entwickler und -Betreiber schaffen. Regulatorische Sandkästen, KMU-Bestimmungen und verhältnismäßige Anforderungen für risikoärmere Systeme spiegeln dieses Ziel wider.

Einen Binnenmarkt schaffen. Durch die Schaffung harmonisierter Regeln in allen Mitgliedstaaten verhindert die KI-Verordnung eine Fragmentierung des Binnenmarkts.

Vertrauen aufbauen. Die Verordnung soll das öffentliche Vertrauen in KI stärken.

Anwendungsbereich und territoriale Anwendung

Für wen gilt sie

Die KI-Verordnung gilt für Anbieter, Betreiber, Einführer, Händler und Produkthersteller — einschließlich Unternehmen außerhalb der EU, wenn ihre KI-Systeme Ausgaben erzeugen, die in der EU verwendet werden.

Was ausgenommen ist

Militär, Verteidigung, nationale Sicherheit; Forschung und Entwicklung vor Markteinführung; rein persönliche Nutzung; bestimmte Open-Source-Modelle (mit Einschränkungen).

Schlüsseldefinitionen

KI-System (Artikel 3 Absatz 1): Ein maschinenbasiertes System, das mit unterschiedlichem Grad an Autonomie operiert und Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generiert.

Anbieter (Artikel 3 Absatz 3): Eine Person oder Stelle, die ein KI-System entwickelt und es unter eigenem Namen in Verkehr bringt.

Betreiber (Artikel 3 Absatz 4): Eine Person oder Stelle, die ein KI-System unter ihrer Verantwortung nutzt.

Der risikobasierte Ansatz

Unannehmbares Risiko (Verbotene Praktiken — Artikel 5)

Vollständig verbotene KI-Praktiken seit dem 2. Februar 2025.

Hohes Risiko (Artikel 6-49)

Umfassende Anforderungen an Risikomanagement, Datengovernance, Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht und Genauigkeit.

Begrenztes Risiko (Artikel 50 — Transparenzpflichten)

Offenlegungspflichten für Chatbots, Deepfakes, Emotionserkennung und KI-generierte Inhalte.

Minimales Risiko

Keine verbindlichen Pflichten. Freiwillige Verhaltenskodizes empfohlen.

Governance-Struktur

Das KI-Büro

Innerhalb der GD CONNECT der Europäischen Kommission angesiedelt, durchsetzt Regeln für GPAI-Modelle, entwickelt Leitlinien und koordiniert mit nationalen Behörden.

Der Europäische Ausschuss für Künstliche Intelligenz

Ein Vertreter pro Mitgliedstaat, berät die Kommission und fördert einheitliche Anwendung.

Nationale zuständige Behörden

Jeder Mitgliedstaat benennt mindestens eine notifizierende Behörde und eine Marktüberwachungsbehörde.

Beziehung zu anderen Verordnungen

DSGVO

Ergänzend. Beide müssen eingehalten werden, wo sie sich überschneiden. Artikel 10 Absatz 5 erlaubt die Verarbeitung sensibler Daten zur Bias-Erkennung.

Produktsicherheitsgesetzgebung

Integration mit bestehenden EU-Produktsicherheitsrahmenwerken (MDR, Maschinenverordnung usw.).

Digital Services Act und Digital Markets Act

Wo KI im Kontext von Online-Plattformen eingesetzt wird, gelten sowohl KI-Verordnung als auch DSA/DMA.

Globaler Kontext

Die EU-KI-Verordnung ist die erste umfassende KI-Regulierung weltweit. Die USA verfolgen einen fragmentierteren Ansatz, das Vereinigte Königreich einen „pro-innovativen" Ansatz, China hat mehrere KI-bezogene Verordnungen erlassen, und Kanada entwickelt mit AIDA ein ähnliches Rahmenwerk.

Durchsetzung und Sanktionen

• Bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes für Verstöße gegen verbotene Praktiken
• Bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes für Verstöße gegen die meisten anderen Pflichten
• Bis zu 7,5 Millionen EUR oder 1 % des weltweiten Jahresumsatzes für falsche Angaben gegenüber Behörden

Für KMU und Start-ups gilt der jeweils niedrigere der beiden Beträge.

Warum dies wichtig ist

Die EU-KI-Verordnung stellt einen grundlegenden Wandel dar, wie Gesellschaften Künstliche Intelligenz regulieren. Für Organisationen, die KI-Systeme entwickeln oder einsetzen, schafft die Verordnung sowohl Pflichten als auch Chancen. Die Disziplin des Risikomanagements, der Transparenz und der menschlichen Aufsicht, die die Verordnung verlangt, baut auch bessere KI-Systeme — Systeme, die zuverlässiger, vertrauenswürdiger und besser auf die Werte der von ihnen betroffenen Menschen abgestimmt sind.