Anforderungen an die technische Dokumentation für KI-Systeme

Technische Dokumentation ist eine der grundlegenden Anforderungen für Hochrisiko-KI-Systeme unter der EU-KI-Verordnung (Verordnung 2024/1689). Artikel 11 verlangt von Anbietern, technische Dokumentation zu erstellen, bevor ein Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird, und diese über den gesamten Lebenszyklus des Systems aktuell zu halten. Anhang IV legt genau fest, was diese Dokumentation enthalten muss.

Dies ist keine Formalität. Technische Dokumentation ist das primäre Mittel, mit dem Anbieter nachweisen, dass ihr KI-System die Anforderungen der Verordnung erfüllt. Sie ist das, was Benannte Stellen bei Konformitätsbewertungen durch Dritte prüfen. Sie ist das, was Marktüberwachungsbehörden bei Untersuchungen anfordern.

Anhang IV: Die vollständige Liste der erforderlichen Dokumentation

1. Allgemeine Beschreibung des KI-Systems

Verwendungszweck, Name und Version, Identität des Anbieters, Interaktion mit Hardware/Software, Bereitstellungsformen.

2. Detaillierte Beschreibung der Systemelemente und des Entwicklungsprozesses

Entwicklungsmethoden, Designspezifikationen, Systemarchitektur, Rechenressourcen, Datenanforderungen.

3. Trainings-, Test- und Validierungsdaten

Beschreibung der Datensätze, deren Herkunft, Umfang, Hauptmerkmale, Kennzeichnungsverfahren, Bereinigungsmethoden, Testergebnisse und Datengovernance-Maßnahmen.

Datendokumentation ist ein Bereich, in dem viele Organisationen versagen. Sie können die Datenherkunft und Governance-Entscheidungen nicht nachträglich dokumentieren. Wenn Sie diese Informationen nicht während der Entwicklung erfassen, werden Sie sie später kaum produzieren können. Integrieren Sie die Datendokumentation von Anfang an in Ihre ML-Pipeline.

4. Risikomanagement-Dokumentation

Identifizierung und Analyse von Risiken, Bewertung der Risikomanagementmaßnahmen, Beschreibung der Restrisiken und deren Akzeptabilität.

5. Änderungen und Modifikationen

Jede wesentliche Änderung am KI-System über seinen Lebenszyklus muss dokumentiert werden.

6. Überwachung, Funktionsweise und Kontrolle

Fähigkeiten und Grenzen, vorhersehbare unbeabsichtigte Ergebnisse, Maßnahmen zur menschlichen Aufsicht, Eingabedatenspezifikationen.

Schwierigkeiten mit den KI-Dokumentationsanforderungen?

Ctrl AI generiert und pflegt automatisch Compliance-Dokumentation aus den Metadaten Ihres KI-Systems — reduziert den Dokumentationsaufwand bei gleichzeitiger Sicherstellung der Vollständigkeit nach Anhang IV.

Learn About Ctrl AI

7. Konformitätsbewertungsinformationen

Beschreibung des befolgten Verfahrens, relevante Berichte und Zertifikate, EU-Konformitätserklärung, CE-Kennzeichnungsinformationen.

8. Plan zur Marktüberwachung nach dem Inverkehrbringen

Wie der Anbieter aktiv und systematisch Daten sammeln, dokumentieren und analysieren wird.

Praktische Anleitung: Aufbau eines Dokumentationssystems

Während der Entwicklung beginnen, nicht danach

Der wichtigste Ratschlag: Integrieren Sie die Dokumentation in Ihren Entwicklungsprozess. Effektive Praktiken umfassen automatische Protokollierung mit MLOps-Tooling, Versionskontrolle für Dokumentation, standardisierte Vorlagen und klare Verantwortlichkeitszuweisung.

Ein lebendes Dokument pflegen

Technische Dokumentation ist keine statische Lieferung. Sie muss bei jeder wesentlichen Änderung aktualisiert werden.

Aufbewahrungs- und Sprachanforderungen

Technische Dokumentation muss für einen Zeitraum von 10 Jahren nach dem Inverkehrbringen aufbewahrt werden. Sie muss in einer Sprache verfügbar sein, die von den zuständigen Behörden der Mitgliedstaaten leicht verstanden werden kann.

Die 10-jährige Aufbewahrungsfrist ist deutlich länger als viele Organisationen derzeit technische Aufzeichnungen aufbewahren. Stellen Sie sicher, dass Ihr Dokumentationsmanagementsystem für die Langzeitspeicherung und -abfrage konzipiert ist.

Sanktionen bei Nichteinhaltung

Die Nichteinhaltung der Anforderungen des Artikels 11 und Anhang IV kann zu Verwaltungsgeldbußen von bis zu 15 Millionen EUR oder 3 % des weltweiten Gesamtjahresumsatzes führen. Praktisch gesehen wird eine unzureichende Dokumentation dazu führen, dass eine Konformitätsbewertung scheitert — ohne Konformitätsbewertung kein CE-Kennzeichen, und ohne CE-Kennzeichen darf das System nicht legal auf den EU-Markt gebracht werden.

Fazit

Technische Dokumentation ist keine Bürokratie um ihrer selbst willen — sie ist der Mechanismus, durch den Anbieter nachweisen, dass ihr KI-System sicher, fair und konform ist. Die Anforderungen nach Anhang IV sind detailliert und anspruchsvoll, aber auch vorhersehbar. Organisationen, die Dokumentation von Anfang an in ihre Entwicklungs-Workflows einbauen, werden die Compliance beherrschbar finden. Diejenigen, die sie als nachträgliche Ergänzung behandeln, werden sie schmerzhaft und kostspielig finden.