Einhaltung des EU-KI-Gesetzes: Anforderungen, Pflichten und Umsetzungsleitfaden für Unternehmen

Die Fristen des EU-KI-Gesetzes stehen nun fest. Die Verordnung (EU) 2026/1744 über digitale Technologien im Bereich der KI trat am 27. Juli 2026 in Kraft und beendete damit acht Monate der Unsicherheit darüber, wann welche Verpflichtungen in Kraft treten würden. Zwei dieser Verpflichtungen wurden um mehr als ein Jahr verschoben. Eine blieb unverändert.

Hier ist der für Sie geltende Zeitplan. Verbotene Praktiken und die Pflichten zur KI-Kompetenz gelten seit dem 2. Februar 2025. Governance-Regeln und Pflichten für allgemeine KI-Modelle gelten seit dem 2. August 2025. Die Transparenzpflichten gemäß Artikel 50 gelten ab dem 2. August 2026, mit einer Übergangsfrist bis zum 2. Dezember 2026 für bereits auf dem Markt befindliche generative Systeme. Die eigenständigen Anforderungen für Hochrisikosysteme gemäß Anhang III gelten ab dem 2. Dezember 2027, und die Anforderungen für in regulierte Produkte eingebettete Hochrisiko-KI gemäß Anhang I gelten ab dem 2. August 2028.

Die Verschiebungen verschafften den meisten Teams rund 16 zusätzliche Monate für die wichtigsten Aufgaben: Bestandsaufnahme, Klassifizierung, technische Dokumentation, Lieferantenprüfung und Steuerungskonzeption. Teams, die die Verschiebung als Freifahrtschein zum Aufhören interpretieren, werden im Dezember 2027 mit demselben Rückstand dastehen wie heute – nur ohne den zusätzlichen Zeitpuffer.

So könnte es ablaufen: Ein US-amerikanisches SaaS-Unternehmen, das eine KI-gestützte Bewerberauswahlfunktion an europäische Arbeitgeber verkauft, fällt unter die DSGVO, selbst wenn das Modell auf US-amerikanischer Infrastruktur läuft. Der Grund dafür ist, dass das System auf dem EU-Markt angeboten wird und einem Beschäftigungszweck gemäß Anhang III dient. Übermittelt dasselbe System personenbezogene Daten aus der EU in die USA, gelten die internationalen Übermittlungsregeln der DSGVO gesondert. Das US-amerikanische KI-Gesetz regelt das System und Ihre Rolle in der Wertschöpfungskette. Die DSGVO regelt die personenbezogenen Daten, die über dieses System übertragen werden.

Wenn Ihr Produkt Modelle von OpenAI, Anthropic oder Google einbindet und Sie europäische Kunden bedienen, prüfen Sie zunächst den Anwendungsbereich mit unserem zweiminütigen EU-KI-Gesetz-Check . Im Folgenden wird davon ausgegangen, dass die Antwort „Ja“ lautet: Was genau verlangt die jeweilige Anforderung, welche Verpflichtungen ergeben sich für Sie und wie Sie das Programm umsetzen, ohne Ihren Fahrplan zu gefährden.

Was ist das EU-KI-Gesetz?

Der EU-KI-Act ist das weltweit erste umfassende, horizontale Gesetz zur Regulierung künstlicher Intelligenz. Er klassifiziert KI nach Risiko, verbietet bestimmte Anwendungen gänzlich, legt strenge Auflagen für Systeme mit hohem Risiko fest, fordert Transparenz für Systeme mit geringem Risiko wie Chatbots und lässt die meisten alltäglichen KI-Anwendungen unberührt. Er gilt für öffentliche und private Akteure innerhalb und außerhalb der EU, sobald sie ein KI-System oder ein allgemeines KI-Modell auf dem EU-Markt in Verkehr bringen, ein KI-System in Betrieb nehmen oder es in der EU nutzen. Das Gesetz trat am 1. August 2024 in Kraft, wobei die einzelnen Bestimmungen über mehrere Jahre hinweg schrittweise eingeführt wurden.

Sie benötigen keine Niederlassung in der EU, um in den Anwendungsbereich zu fallen. Wenn Ihr Produkt EU-Nutzer erreicht oder Ihre KI-Ergebnisse in der EU verwendet werden, kann das Gesetz für Sie gelten.

Ist das EU-KI-Gesetz mit der DSGVO vergleichbar?

Nein, und es als Nachfolger der DSGVO zu behandeln, ist der erste Fehler, den Ihr Compliance-Programm begehen kann.

Die DSGVO regelt den Umgang mit personenbezogenen Daten. Das KI-Gesetz reguliert KI-Systeme als Produkte, die auf dem europäischen Markt in Verkehr gebracht werden, und nutzt dabei dieselbe regulatorische Architektur, die die EU seit Jahrzehnten für Autos, Medizinprodukte und Maschinen anwendet. Diese Unterscheidung verändert die benötigten Instrumente: Konformitätsbewertung, technische Dokumentation und Marktbeobachtung sind wichtiger als Datenschutzerklärungen und Rechtsgrundlagen.

Man kann es sich so vorstellen: Wenn die DSGVO eine Datenschutzerklärung ist, die Sie einreichen, ist das KI-Gesetz ein Crashtest, den Sie bestehen. Bevor ein Autohersteller ein neues Fahrzeug in Europa verkauft, bestätigen unabhängige Tests, dass die Bremsen funktionieren, die Airbags auslösen und die Knautschzonen korrekt verformen. Der Hersteller bewahrt die entsprechenden technischen Dokumente auf. Nach der Markteinführung werden Mängel erfasst und gemeldet. Das KI-Gesetz wendet dasselbe Verfahren auf KI-Systeme an.

Abmessungen	Datenschutz	EU-KI-Gesetz
Reguliert	Verarbeitung personenbezogener Daten	KI-Systeme als Produkte
Hauptfrage	Werden personenbezogene Daten rechtmäßig verarbeitet?	Erfüllt das KI-System die Anforderungen an Sicherheit und Grundrechte?
Rechtsarchitektur	Rechtebasiert	Produktsicherheit
Kernpflichten	Einwilligung, Rechtsgrundlage, Datenschutzbeauftragter, Datenschutzfolgenabschätzung, Benachrichtigung über Datenschutzverletzungen	Konformitätsbewertung, technische Dokumentation, CE-Kennzeichnung, Marktüberwachung
Gilt für	Datenverantwortliche und -verarbeiter	Anbieter, Implementierer, Importeure, Distributoren, nachgelagerte Anbieter
Höchststrafe	20 Mio. € oder 4 % des weltweiten Umsatzes	35 Mio. € oder 7 % des weltweiten Umsatzes

Die beiden Gesetze gelten nebeneinander. Wenn Sie KI mit personenbezogenen Daten trainieren, finden beide Anwendung. Doch wenn Sie ein KI-Programm entwickeln, indem Sie Ihre DSGVO-Richtlinien erweitern, setzen Sie sich den tatsächlich relevanten Aspekten der Produktsicherheit aus.

Was die Einhaltung des EU-KI-Gesetzes tatsächlich bedeutet

Die Einhaltung des EU-KI-Gesetzes bedeutet, die rechtlichen Verpflichtungen zu erfüllen, die das Gesetz Ihrem Unternehmen auferlegt, basierend auf zwei Dingen: Ihrer Rolle in der KI-Wertschöpfungskette und der Risikoklassifizierung jedes Systems.

Ein Unternehmen, das beispielsweise ein eigenes KI-gestütztes Einstellungstool entwickelt, befindet sich nicht in derselben Lage wie eines, das ein standardmäßiges internes Notiztool verwendet. Ein SaaS-Team, das ein Basismodell in seine eigene Funktion integriert, ist nicht einfach nur ein Nutzer; der Modellanbieter ist vorgelagert, und die nachgelagerten Verpflichtungen bleiben bestehen.

Drei Begriffe – Compliance, Governance und Risikomanagement – ​​werden in diesen Gesprächen oft vermischt, und es ist wichtig, sie voneinander zu trennen: 

• Compliance erfüllt die Ihnen durch das Gesetz auferlegten verbindlichen rechtlichen Verpflichtungen.
• Governance ist die interne Struktur, die Richtlinien, die Verantwortlichkeiten und die Rollen, die die Einhaltung ermöglichen.
• Risikomanagement ist der fortlaufende Prozess der Erkennung und Bewältigung KI-spezifischer Risiken.

Die Einhaltung des AI Act ist kein Projekt, das ausschließlich von einem Rechtsteam durchgeführt wird. Alle von mir beobachteten Praktiker in Unternehmen kommen zum selben Schluss: Die Arbeit muss abteilungsübergreifend erfolgen, sonst scheitert sie.

Die Rechtsabteilung kann den Text interpretieren. Doch die Mitarbeiter aus Produktentwicklung, Engineering, Personalwesen, Marketing und Support wissen, welche KI in Ihrem Unternehmen tatsächlich zum Einsatz kommt. Diejenigen, die die Regeln im Arbeitsalltag befolgen müssen, sind Entwickler und Anwender. Überlassen Sie die Verantwortung ausschließlich den Juristen, erhalten Sie ein Richtliniendokument, das niemand umsetzen wird. Überlassen Sie sie hingegen ausschließlich den Entwicklern, implementieren Sie Kontrollmechanismen, die nicht den gesetzlichen Bestimmungen entsprechen.

Teams, die dies erfolgreich umsetzen, bilden häufig einen ständigen Ausschuss mit Vertretern aus den Bereichen Recht, Sicherheit, Produktentwicklung, ML/Daten und einem leitenden Sponsor. Sie treffen sich, diskutieren und dokumentieren ihre Ergebnisse. Sie betrachten Compliance als fortlaufende Verpflichtung, nicht als einmaliges Projekt.

Warum die frühzeitige Einhaltung der Vorschriften wichtig ist, und zwar nicht nur, um Bußgelder zu vermeiden

Ich werde später auf Bußgelder eingehen, aber zuvor möchte ich drei Konsequenzen besprechen, die für die meisten Unternehmen gravierender sind als Bußgelder:

1. Der Zugang zu EU-Fördermitteln wird zunehmend an die Einhaltung von Vorschriften geknüpft.
   Die EU-Strategie „Apply AI“ ist eine 1 Milliarde Euro schwere Initiative zur Förderung von KI in den Bereichen Gesundheitswesen, Fertigung, Energie und öffentliche Dienstleistungen. Branchenexperten berichten von Vereinbarungen, in denen Unternehmen – unter der Voraussetzung der Einhaltung der KI-Gesetzgebung – zu nationalen Pilotprojekten eingeladen wurden. Für Unternehmen, die an den öffentlichen Sektor oder regulierte Branchen der EU verkaufen, haben sich die Rahmenbedingungen bereits geändert.
2. Die Unternehmensbeschaffung holt auf.
   Finanzinvestoren integrieren die KI-Risikobewertung in ihre Transaktionsstrategien. Große Unternehmenskäufer ergänzen ihre Fragebögen an Anbieter um Fragen zum AI Act. Wer an EU-Unternehmen verkauft, kann es sich nicht länger leisten, abzuwarten, wann das Gesetz in Kraft tritt.
3. Compliance entwickelt sich zu einem strategischen Unterscheidungsmerkmal, nicht nur zu einem Kostenfaktor.
   Die anspruchsvollsten Käufer warten nicht auf das Eingreifen der Regulierungsbehörden. Sie betrachten gute Unternehmensführung als Indikator dafür, dass ein Anbieter bereit ist, sein Geschäft auszubauen.
   Die wichtigere Einstiegsfrage ist nicht, ob das KI-Gesetz für Ihr Unternehmen gilt. Vielmehr geht es darum, welche Ihrer KI-Anwendungsfälle darunter fallen, welche Auswirkungen sie haben und was Sie jetzt umsetzen müssen.

Risikokategorien des EU-KI-Gesetzes

Die meisten KI-Systeme fallen in die niedrigste Risikokategorie und unterliegen im Wesentlichen keinen neuen Verpflichtungen. Das Gesetz basiert auf einem risikobasierten Ansatz, jedoch mit einer Besonderheit: Es fragt nicht, ob die KI abstrakt Schaden anrichten könnte, sondern ob sie in einem der im Gesetz explizit genannten Kontexte – wie etwa Beschäftigung, Bildung, Kreditvergabe, notwendige Dienstleistungen, Strafverfolgung, Migration, kritische Infrastruktur usw. (siehe Anhang III) – eine folgenreiche Entscheidung über eine Person trifft. 

Eine KI, die Marketingtexte oder Produktbilder generiert, trifft keine Entscheidungen über Personen. Eine KI, die Bewerber auswählt, trifft hingegen eine folgenreiche Entscheidung in einem festgelegten Kontext, weshalb die entsprechenden Verpflichtungen gelten.

Das Gesetz definiert vier Stufen. Hier sind sie, mit ihrer jeweiligen Bedeutung für Sie:

Tier	Was es bedeutet	Typische Beispiele	Was du tun musst
Inakzeptables Risiko	Komplett verboten	Soziale Bewertungssysteme, Emotionserkennung am Arbeitsplatz oder in Schulen, manipulative unterschwellige KI, ungerichtetes Auslesen von Gesichtsbildern	Diese sollten nicht gebaut oder eingesetzt werden.
Hohes Risiko	Schwere Verpflichtungen	KI in der Lebenslaufprüfung, Kreditentscheidung, Hochschulzulassung, Strafverfolgung, Migrationssteuerung, Kontrolle kritischer Infrastrukturen, KI-Sicherheitskomponenten in Medizinprodukten	Vollständige Konformitätsbewertung, Risikomanagementsystem, Dokumentation, menschliche Aufsicht, Registrierung in der EU-Datenbank
Begrenztes Risiko (Transparenz)	Transparenzverpflichtungen gemäß Artikel 50	Kundensupport-Chatbots (z. B. Intercom Fin, Zendesk AI), Deepfake-Erzeugungstools, KI-generierte Marketingbilder	Offenlegung der KI-Nutzung; Kennzeichnung von Deepfakes; Wasserzeichen für generative Inhalte
Minimales Risiko	Keine spezifischen Verpflichtungen	Spamfilter, KI-gestützte Codevervollständigung (z. B. GitHub Copilot für den internen Gebrauch), Verhalten von NPCs im Spiel, Empfehlungssysteme zur Inhaltsfindung	Freiwillige Verhaltenskodizes werden gefördert

Ein Produkt kann je nach Einsatzart in verschiedene Risikostufen eingestuft werden. Gesichtserkennung in der Foto-App Ihres Smartphones birgt ein minimales Risiko. Dieselbe Technologie, die von einem sicherheitsorientierten Startup verwendet wird, birgt hingegen ein hohes Risiko oder ist möglicherweise verboten. Die Klassifizierung richtet sich nach den Anwendungsfällen, nicht nach der Technologie.

Hinzu kommt eine Kategorie, die unabhängig von den Stufen geführt wird:

Allgemeine KI-Modelle (GPAI) : Basismodelle wie GPT, Gemini, Claude und Mistral unterliegen unabhängig von der nächsthöheren Stufe eigenen Verpflichtungen. Modelle, die mit mehr als 10²⁵ FLOPs trainiert wurden, bergen ein systemisches Risiko und ziehen daher strengere Verpflichtungen nach sich.

Die Einstufung als Hochrisikogruppe ist schwieriger als sie aussieht.

Hier scheitern die meisten Implementierungen, doch nun steht Ihnen mehr als nur der Gesetzestext zur Verfügung. Am 19. Mai 2026 veröffentlichte die Europäische Kommission einen Entwurf von Leitlinien zur Hochrisiko-KI-Klassifizierung, um Feedback von Interessengruppen einzuholen. Die Leitlinien verdeutlichen die Anwendung von Artikel 6 und enthalten praktische Beispiele für Systeme, die als Hochrisikosysteme eingestuft werden sollten bzw. nicht.

Die Leitlinien dienen als Klassifizierungshilfe, nicht als Abkürzung. Dokumentieren Sie für jedes KI-System den Verwendungszweck, die Nutzergruppe, den Einsatzkontext, die Relevanz gemäß Anhang III , die Anwendbarkeit von Artikel 6 Absatz 3 und die Person, die die Klassifizierung genehmigt hat. Wenn Sie entscheiden, dass ein System in einem sensiblen Kontext kein hohes Risiko birgt, bewahren Sie die Begründung auf. Das Risiko besteht nicht nur in der Wahl der falschen Risikostufe, sondern auch darin, nicht erklären zu können, wie Sie zu der gewählten Stufe gelangt sind.

Wenn die Rolle Ihrer KI beispielsweise eng genug gefasst ist (Daten alphabetisch sortieren, eine Zusammenfassung erstellen, Muster erkennen, ohne die endgültige Entscheidung zu treffen), dann besteht möglicherweise überhaupt kein hohes Risiko.

Wenn Sie sich auf Artikel 6 Absatz 3 stützen, um ein System gemäß Anhang III als nicht risikoreich einzustufen, dokumentieren Sie diese Bewertung, bevor das System in Verkehr gebracht oder in Betrieb genommen wird. Das AI Omnibus ist nun in Kraft und vereinfacht das zugehörige Registrierungsverfahren für EU-Datenbanken. Bewahren Sie die schriftliche Bewertung und die entsprechenden Registrierungsnachweise zusammen auf, damit die Einstufung im Rahmen einer behördlichen Überprüfung begründet werden kann.

Ein wichtiger Hinweis: Wenn Sie Artikel 6(3) anwenden, um zu behaupten, Ihr System sei nicht risikoreich, dokumentieren Sie Ihre Argumentation so, wie es eine Aufsichtsbehörde erwarten würde. Gehen Sie jedes der vier Kriterien durch, beschreiben Sie die Leistung Ihres Systems im Hinblick auf jedes einzelne Kriterium und dokumentieren Sie die Belege, die Ihre Schlussfolgerung stützen. Eine oberflächliche Behauptung reicht nicht aus; eine strukturierte Darlegung hingegen schon.

Verpflichtungen gemäß EU-KI-Gesetz nach Rolle

Ihre Pflichten hängen von Ihrer Rolle in der KI-Wertschöpfungskette ab, nicht nur von der KI selbst. Dasselbe KI-System bringt für verschiedene Akteure völlig unterschiedliche Aufgaben mit sich.

Folgende Rollen werden im Gesetz anerkannt:

• Provider: Entwickelt und platziert ein KI-System auf dem EU-Markt (größte Verpflichtungen)
• DeployerNutzt ein KI-System unter eigener Kontrolle (leichter, aber real)
• ImportErster Akteur, der ein KI-System von außerhalb der EU auf den EU-Markt bringt
• VertriebspartnerJede andere Partei in der Lieferkette, die das System zur Verfügung stellt
• Nachgelagerter Anbieter: Eine im AI Act definierte Rolle, die einen Anbieter eines KI-Systems umfasst, das ein KI-Modell integriert, unabhängig davon, ob das Modell intern entwickelt oder von einem anderen Unternehmen bereitgestellt wird.

Sie können mehrere Rollen gleichzeitig einnehmen. Wenn Sie ein KI-gestütztes Einstellungstool entwickeln und es intern zur Vorauswahl Ihrer eigenen Kandidaten einsetzen, sind Sie sowohl Anbieter als auch Anwender – mit jeweils eigenen Verpflichtungen.

1. Pflichten des Anbieters: Für ein KI-System mit hohem Risiko muss ein Anbieter die materiellen Anforderungen der Artikel 8–15 (Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht, Genauigkeit und Cybersicherheit) erfüllen, ein Qualitätsmanagementsystem gemäß Artikel 17 betreiben, eine Konformitätsbewertung durchführen, eine Konformitätserklärung erstellen, die CE-Kennzeichnung anbringen, das System in der EU-Datenbank registrieren und es nach der Inbetriebnahme überwachen sowie schwerwiegende Vorfälle melden. Die Liste ist umfangreich, weshalb sich dieser Artikel hauptsächlich damit befasst, ob Sie diese Maßnahmen überhaupt ergreifen müssen.
2. Verpflichtungen des EntsendeersDazu gehören die Nutzung des Systems gemäß den Anweisungen des Anbieters, die Zuweisung einer menschlichen Aufsicht, Überwachung und Protokollierung, die Sicherstellung der KI-Kompetenz der Mitarbeiter, die Information der Arbeitnehmer, wenn KI am Arbeitsplatz eingesetzt wird, und, für bestimmte Anwendungen im öffentlichen Sektor, die Durchführung einer Folgenabschätzung der Grundrechte.
3. Nachgelagerter Anbieter: Dies ist die Rolle, die die meisten SaaS-Unternehmen einnehmen werden. Wenn Sie KI-Funktionen auf Basis von OpenAI, Anthropic, Google, Mistral oder einem anderen universellen KI-Modell entwickeln, benötigen Sie dennoch einen eigenen Nachweis. Der GPAI-Verhaltenskodex dient als praktischer Leitfaden für die Fragen, die Sie an Anbieter von Basismodellen stellen sollten: ob sie den Kodex unterzeichnet haben, welche Dokumentation sie zur Verfügung stellen können, wie sie die Transparenz von Trainingsinhalten gewährleisten und wie sie Kunden über Modelländerungen, Sicherheitsupdates oder Verpflichtungen im Zusammenhang mit systemischen Risiken informieren. Die Einhaltung der Vorgaben durch den Anbieter ersetzt nicht Ihre eigene, sollte aber in Ihrer Dokumentation der Anbieter enthalten sein.

Was „wesentliche Änderungen“ betrifft, so werden Sie laut Gesetz als Anbieter eingestuft, sobald Sie ein KI-System maßgeblich verändern und Ihren Namen darauf anbringen. Optimieren Sie ein Basismodell für Ihr Produkt? Dann gelten Sie wahrscheinlich bereits als Anbieter. Versehen Sie eine KI eines Drittanbieters mit Ihrem eigenen Logo? Gleiches Ergebnis. Und die Pflichten als Anbieter sind umfangreich: Konformitätsbewertung, technische Dokumentation, Registrierung und Haftung für die Weiterverwendung.

Wenn Ihre Produktstrategie die Vermarktung von KI unter Eigenmarken umfasst, sollten Sie dies vorher und nicht erst im Nachhinein mit der Rechtsabteilung besprechen.

Die Verpflichtung zur KI-Kompetenz (bereits in Kraft)

Seit dem 2. Februar 2025 sind Anbieter und Betreiber von KI-Systemen verpflichtet, Maßnahmen zur Förderung der KI-Kompetenz ihrer Mitarbeiter und aller anderen Personen zu ergreifen, die in ihrem Auftrag KI-Systeme bedienen oder nutzen. Gemäß Artikel 4 des KI-Omnibus ist es Organisationen nicht mehr vorgeschrieben, ein bestimmtes oder „ausreichendes“ Kompetenzniveau zu garantieren. Die Maßnahmen sollen vielmehr das technische Wissen, die Erfahrung, die Ausbildung und die Schulung der Nutzer sowie den jeweiligen Nutzungskontext der Systeme berücksichtigen.

Das Gesetz schreibt keinen einheitlichen Kurs oder eine Zertifizierung vor. In der Praxis können Organisationen rollenbasierte Schulungen, Leitfäden zur sicheren Nutzung, Einarbeitungsprogramme, Eskalationsverfahren und interne Aufzeichnungen nutzen, die die ergriffenen Maßnahmen dokumentieren. Mitarbeiter, die Hochrisikosysteme betreuen, benötigen möglicherweise zusätzliche Schulungen, um eine effektive menschliche Aufsicht zu gewährleisten.

Anforderungen des EU-KI-Gesetzes: Was Unternehmen tun müssen

Wenn ich das Gesetz auf seine Grundzüge reduziere, lassen sich die Anforderungen in eine Handvoll wiederkehrender Arbeitsabläufe unterteilen.

Du musst wissen:

1. Wissen Sie, welche KI Sie haben (Inventar).
2. Wissen Sie, welche Rolle Sie in jedem System spielen (Anbieter, Implementierer, Importeur, Distributor oder nachgelagerter Anbieter)?
3. Risiken so streng einstufen, dass die Entscheidung begründet werden kann.
4. Wenden Sie Kontrollen an, die den durch dieses System und diese Rolle ausgelösten Verpflichtungen entsprechen.
5. Legen Sie Dokumentationen und Nachweise vor, die belegen, dass die Kontrollen real sind.
6. Überwachen Sie Ihre Systeme, Anbieter und Anwendungsfälle kontinuierlich, denn diese werden nicht stillstehen, nur um Ihnen entgegenzukommen.

Bei KI-Systemen mit hohem Risiko konzentrieren sich die wesentlichen Anforderungen auf die Artikel 8–15:

• Artikel 9: Risikomanagementsystem (kontinuierlich, nicht einmalig)
• Artikel 10: Daten-Governance: Trainings-, Validierungs- und Testdaten müssen „relevant, repräsentativ, fehlerfrei und vollständig“ sein.
• Artikel 11: Technische Dokumentation (im Umfang ähnlich einer technischen Dokumentation für die CE-Kennzeichnung)
• Artikel 12: Automatische Aufzeichnung (Protokolle)
• Artikel 13: Transparenz und Information für die Anwender
• Artikel 14: Menschliche Aufsicht
• Artikel 15: Genauigkeit, Robustheit, Cybersicherheit

Hinzu kommen gesonderte Verpflichtungen zur Registrierung, zur Überwachung nach dem Inverkehrbringen (Artikel 72), zur Meldung von Vorfällen und zur Konformitätsbewertung.

Die unangenehme Wahrheit über diese Anforderungen ist, dass sie bewusst allgemein gehalten sind. Menschliche Aufsicht bedeutet für einen Einstellungsalgorithmus etwas anderes als für ein Medizinprodukt. Die operativen Details sollen aus harmonisierten Normen des CEN-CENELEC JTC21 hervorgehen. Diese Normen sollten ursprünglich bis April 2025 vorliegen. Dieser Termin wurde verpasst, und nun wird Ende 2026 angepeilt.

Sie können sich nicht darauf berufen, dass die Standards noch nicht fertig seien. Standards stellen einen freiwilligen Weg zur Einhaltung der Vorschriften dar, sind aber keine Voraussetzung für die Anwendung des Gesetzes. Wenn Sie vor Gericht argumentieren, Sie seien nicht vorbereitet gewesen, weil die Standards noch nicht veröffentlicht waren, werden Sie höchstwahrscheinlich verlieren.

Was tun Sie also in der Zwischenzeit? Sie arbeiten mit dem Gesetzestext, den fortlaufend aktualisierten Leitlinien der Kommission, den Verhaltensregeln und den veröffentlichten Auslegungen von Anwaltskanzleien. Sie dokumentieren Ihre Argumentation. Sie gestalten Ihre Kontrollmechanismen auf Grundlage der Prinzipien. Sobald die Standards in Kraft treten, gleichen Sie Ihre bisherige Arbeit damit ab.

Einhaltung des EU-KI-Gesetzes durch die Industrie

Sie kennen nun die Grundlagen des Gesetzes. Es handelt sich um eine Produktsicherheitsgesetzgebung; Ihre Pflichten hängen von Ihrer Rolle und der Risikostufe des jeweiligen Systems ab, wobei die meisten Systeme kein hohes Risiko aufweisen. Nun gilt es zu prüfen, wie das Gesetz auf die Besonderheiten Ihrer Branche anwendbar ist, da dieselben Regeln je nach Produktart sehr unterschiedliche Auswirkungen haben.

1. Finanzdienstleistungen: Dieser Bereich könnte am stärksten und sichtbarsten betroffen sein. Kreditscoring und KI-gestützte Kreditvergabe sind in Anhang III ausdrücklich als Hochrisikobereiche aufgeführt. KI, die zur Beurteilung der Kreditwürdigkeit einer Person oder zur Ermittlung eines Kredit-Scores eingesetzt wird, kann gemäß Anhang III ein Hochrisikobereich darstellen. KI, die ausschließlich zur Aufdeckung von Finanzbetrug verwendet wird, ist von diesem Anwendungsfall in Anhang III ausdrücklich ausgenommen, obwohl andere Pflichten des KI-Gesetzes und Vorschriften für Finanzdienstleistungen weiterhin gelten können. Hinzu kommen DORA, NIS2 und branchenspezifische Regulierungsbehörden – Finanzdienstleistungsunternehmen müssen somit die größte Überschneidung aller Branchen bewältigen.
2. Gesundheitswesen und Medizinprodukte: Diese Branche trägt die größte Gesamtlast: Die EU-Datenschutz-Grundverordnung (MDR), die Regelungen der DSGVO zu besonderen Datenkategorien und die Anforderungen des KI-Gesetzes für risikoreiche Daten wirken sich gegenseitig aus. Das Zusammenspiel des Gesetzes mit der MDR/IVDR ist eines der konkreten Umsetzungsprobleme, die der Digital Omnibus bisher mit unterschiedlichem Erfolg zu klären versucht.
3. Kritische Infrastruktur, Bildung, Automobilindustrie und Strafverfolgung: Diese Branchen unterliegen alle expliziten Bestimmungen von Anhang III oder Anhang I und folgen dem üblichen Compliance-Pfad für Hochrisikobereiche.
4. HR-Technologie: Ein weiterer Bereich, der ebenso direkt in die Hochrisikokategorie fallen kann. Lebenslaufprüfung, Leistungsbeurteilung und Interviewbewertung fallen alle unter Anhang III. Eine einzige Produktfunktion kann Sie von einer SaaS-Lösung mit eingeschränkter Compliance zu einem Komplettanbieter mit Konformitätsbewertung machen. Hier ist die Analyse nach Artikel 6(3) besonders wichtig: Die Grenze zwischen KI, die die Einstellungsentscheidung unterstützt, und KI, die sie steuert, ist die Grenze zwischen zwei grundverschiedenen Compliance-Programmen.

EU-KI-Gesetz für SaaS-Unternehmen

Die Prüfung von Drittanbieter-KI ist keine einmalige Angelegenheit. Angenommen, ein Anbieter, den Sie letztes Jahr ausgewählt haben, fügt eine LLM-basierte Funktion hinzu, die Ihre Daten an einen neuen Modellanbieter weiterleitet. Ohne erneute Bewertung ändert sich Ihre Risikosituation unbemerkt. Sie sind nun einem Unterauftragnehmer ausgesetzt, den Sie nie geprüft haben und der unter Bedingungen arbeitet, die Sie nie eingesehen haben. Und da der Anbieter vertraglich nicht verpflichtet war, die Änderung offenzulegen, kann sie monatelang unentdeckt bleiben.

Sprintos autonomes TPRM basiert genau darauf: Es erkennt Anbieter, sobald sie in Ihre Umgebung eintreten, bewertet das Risiko anhand der Daten, die sie tatsächlich berühren, und führt die Due-Diligence-Prüfung erneut durch, wenn sich eine Abhängigkeit ändert, nicht erst bei einer jährlichen Überprüfung.

Das ist die Realität, für die die meisten Compliance-Programme für SaaS-Unternehmen nicht ausgelegt sind. Das KI-Gesetz sieht keine Sonderkategorie für Ihre Situation vor; es stellt dieselben Fragen wie jedes andere Unternehmen, doch die Antworten hängen stark davon ab, was Sie tatsächlich anbieten und wo die KI in Ihrem Produkt integriert ist.

Drei Archetypen decken den Großteil dieser realen Fälle ab.

Archetyp 1: Reiner Deployer.

Möglicherweise nutzen Sie intern Standard-KI-Tools wie HubSpot AI, Notion AI oder einen KI-Programmierassistenten. Im Grunde genommen integrieren Sie keine KI-Funktionen in Ihr Produkt.

Ihre Pflichten sind am geringsten. Nutzen Sie die Tools gemäß den Anweisungen des Anbieters, sorgen Sie für die menschliche Aufsicht, führen Sie Schulungen zum Thema KI durch, protokollieren Sie Vorfälle und legen Sie den Einsatz von KI am Arbeitsplatz offen. Das ist im Wesentlichen alles.

Archetyp 2: Anbieter eingebetteter KI.

Sie entwickeln Produktfunktionen auf Basis von Drittanbieter-Basismodellen wie OpenAI, Anthropic, Google und Mistral. Hier findet der Großteil der modernen SaaS-Lösungen statt.

Sie sind sowohl Anbieter (Ihres eigenen Produkts) als auch nachgelagerter Anbieter (des GPAI-Modells). Sie benötigen Ihre eigenen Anbieterpflichten sowie eine funktionierende Geschäftsbeziehung mit Ihrem Modellanbieter, die eine angemessene Dokumentation gewährleistet. Der GPAI-Verhaltenskodex verdeutlicht Ihre Erwartungen. Ihre Verträge müssen dies widerspiegeln.

Archetyp 3: Anbieter nativer KI.

Sie entwickeln eigene Modelle oder KI-Systeme von Grund auf.

Sie sind ein Komplettanbieter mit allen damit verbundenen Verpflichtungen: Konformitätsbewertung, technische Dokumentation, Registrierung und, falls Sie die Schwelle für hohe Risiken überschreiten, CE-Kennzeichnung. Dies ist die größte im Gesetz vorgesehene Auflage.

Wenn Ihr Modellanbieter außerhalb des EWR ansässig ist

ChatGPT, Gemini und Copilot werden alle in den USA betrieben. Jedes Mal, wenn Ihr Produkt europäische Kundendaten an einen dieser Dienste sendet, handelt es sich um eine grenzüberschreitende Datenübermittlung im Sinne von Kapitel V der DSGVO. Die DSGVO stellt bereits hohe Anforderungen. Das AI Act bringt zusätzliche Verpflichtungen mit sich.

Es gibt drei architektonische Muster, um damit umzugehen:

1. Dienstleistungen für Unternehmen in der EU mit Datenverarbeitungsvereinbarungen: Nutzen Sie Azure, Google Cloud oder AWS in EU-Regionen mit Datenschutzvereinbarungen, die Schulungen mit Ihren Daten untersagen und die Verarbeitung auf den EWR beschränken. Der EU-US-Datenschutzrahmen gewährleistet die Angemessenheit des Datenschutzes für notwendige Datenübermittlungen.
2. Bringen Sie das Modell zu den Daten: Betreiben Sie Open-Source- oder Enterprise-Modelle in Ihrer eigenen Umgebung, Private Cloud, On-Premise oder VPC. Ihre Daten verlassen niemals Ihren kontrollierten Bereich. Dies wird zunehmend zum Standard für SaaS-Lösungen im Gesundheitswesen, Finanzwesen und Rechtsbereich.
3. Hybrid mit strikter Datenminimierung: Sensible Daten werden lokal verarbeitet, und an externe KI-Dienste werden nur anonymisierte oder aggregierte Signale gesendet.

Warnsignale im Bereich SaaS-Compliance derzeit

• Eine Einwilligung genügt: Ein gefährlicher Mythos. Der Europäische Datenschutzausschuss hat offiziell klargestellt, dass Ausnahmen für einwilligungsbasierte Datenübermittlungen gemäß Artikel 49 DSGVO nur für einmalige, außergewöhnliche Übermittlungen gelten. Routinemäßige Uploads zu einem in den USA gehosteten KI-Dienst fallen nicht darunter. Sie benötigen einen geeigneten Übermittlungsmechanismus: die Teilnahme am EU-US-Datenschutzrahmen, Standardvertragsklauseln oder verbindliche Unternehmensregeln.
• Die Verantwortung für die Einhaltung der Lieferantenrichtlinien wird an Sie übertragen: Nein. Die Compliance Ihres Lieferanten deckt dessen Verpflichtungen ab. Sie als nachgelagerter Anbieter haben eigene Verpflichtungen, die nicht automatisch übernommen werden.
• Chatbots ohne Offenlegung der KI-Funktionen: Ein billiger, vermeidbarer Fehler. Integrieren Sie ihn standardmäßig in Ihre Benutzeroberfläche.
• Feinabstimmung ohne die Konsequenzen zu verstehen: Wesentliche Änderungen können dazu führen, dass Sie zum Anbieter des geänderten Systems werden. Dadurch verlagert sich die Verantwortung für die Einhaltung der Vorschriften auf Sie.
• Die Annahme, Anonymisierung sei einfacher als sie tatsächlich ist: Metadaten, Ausreißer, seltene Grenzfälle und der Hintergrundkontext können allesamt eine Reidentifizierung ermöglichen. Die Anforderungen der DSGVO an die Anonymität sind hoch: Das Risiko einer Reidentifizierung muss vernachlässigbar gering sein, und eine formale Bewertung ist erforderlich.

Anforderungen an die kundenorientierte Transparenz

Artikel 50 regelt die Transparenz für KI-Systeme mit begrenztem Risiko. Vier Anforderungen sind für SaaS-Teams besonders wichtig:

• Die Nutzer müssen darüber informiert werden, wenn sie mit einem KI-System wie einem Chatbot interagieren, es sei denn, dies ist aus dem Kontext offensichtlich.
• Deepfakes müssen klar gekennzeichnet werden.
• Von einer KI generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen als künstlich generiert oder manipuliert gekennzeichnet werden, es sei denn, es liegt eine Ausnahme vor.
• Anbieter von generativen KI-Systemen müssen gegebenenfalls die maschinenlesbare Kennzeichnung synthetischer Audio-, Bild-, Video- oder Textausgaben unterstützen.

Diese Verpflichtungen gelten ab dem 2. August 2026. Eine befristete Übergangsfrist bis zum 2. Dezember 2026 gilt ausschließlich für die Verpflichtung zur maschinenlesbaren Kennzeichnung gemäß Artikel 50 Absatz 2 für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden. Die übrigen Pflichten gemäß Artikel 50 bleiben davon unberührt. Hinweise, Kennzeichnungskontrollen und Offenlegungen sind vor der Markteinführung in das Produkt zu integrieren und nicht nachträglich hinzuzufügen.

Schritt-für-Schritt-Leitfaden zur Umsetzung des EU-KI-Gesetzes

Auf Grundlage von Gesprächen mit Praktikern und der Analyse von Expertenkommentaren habe ich die Umsetzung des EU-KI-Gesetzes in sieben Schritten zusammengefasst. Diese decken zwar nicht jeden Sonderfall ab, bieten Ihnen aber eine gute Orientierung.

Schritt 1: KI-Systeme und Anwendungsfälle identifizieren

Beginnen Sie mit einer Bestandsaufnahme. Nicht nur der gekauften Werkzeuge. Nicht nur der Modellanbieter. Nicht nur dessen, was der Einkauf weiß.

Sprechen Sie mit den Abteilungen Produktentwicklung, Entwicklung, Sicherheit, IT, Personalwesen, Support, Marketing, Rechtsabteilung und Betrieb. Fragen Sie, welche KI sie einsetzen, welche KI-Funktionen in bestehende Tools integriert sind, welche Daten diese Systeme verarbeiten und welche Ansätze die Teams informell erprobt haben.

Kategorisieren Sie Ihre Ergebnisse: Eigenentwicklung, Standardprodukte, in Software von Drittanbietern integrierte KI oder Schatten-KI. Erstellen Sie anschließend einen Aufnahmeprozess für die Einführung neuer KI-Systeme. Ist der Genehmigungsprozess absurd, werden die Nutzer ihn umgehen.

Die erste operative Frage nach der Bestandsaufnahme ist nicht, welches Tool angeschafft werden soll, sondern wer wofür verantwortlich ist. Ausgereifte Programme beginnen mit der Klärung der Zuständigkeiten für Bestandsaufnahme, Klassifizierung, Richtlinienaktualisierungen, Modelldokumentation, Anbieterbewertungen, Vorfallsmeldungen und Schulungen. Andernfalls wird das Programm nur notdürftig anhand von Meilensteinterminen zusammengeflickt und gerät ins Wanken, sobald die Produktteams mehr Zeit investieren und die Auditphase abgeschlossen ist.

Schritt 2: Risikoklassifizierung

Prüfen Sie jedes System anhand von Anhang III (Anwendungsfälle mit hohem Risiko) und Anhang I (produktregulierte KI). Gehen Sie bei allen potenziell risikoreichen Systemen sorgfältig die Kriterien gemäß Artikel 6 Absatz 3 durch. Dokumentieren Sie die Begründung, nicht nur das Ergebnis.

Hier zeigen sich später die meisten Lücken. Ein Prüfer oder eine Aufsichtsbehörde möchte wissen, wie Sie zu Ihrer Entscheidung gelangt sind, nicht nur, was Sie entschieden haben.

Schritt 3: Risiko- und Folgenabschätzungen durchführen

In Schritt 3 tritt die Verpflichtung gemäß Artikel 9 zur Einrichtung eines Risikomanagementsystems in Kraft. Bestimmte Anwender, insbesondere im öffentlichen Sektor, benötigen zudem eine Folgenabschätzung der Grundrechte. Das Dänische Institut für Menschenrechte und das Europäische Zentrum für Gemeinnützigkeitsrecht haben einen fünfstufigen Leitfaden zur Folgenabschätzung der Grundrechte mit einer herunterladbaren Vorlage veröffentlicht. Nutzen Sie diesen.

Behandeln Sie beide Beurteilungen als kontinuierliche Prozesse, die mit Ihrem Softwareentwicklungszyklus verbunden sind, und nicht als einmalige Übungen, die abgelegt werden.

Schritt 4: Erforderliche Kontrollen implementieren

Hier wird der Rechtstext zur praktischen Realität. Dafür können Sie folgendermaßen vorgehen:

• TransparenzKönnen Sie erklären, warum die KI diese Entscheidung getroffen hat?
• VerantwortlichkeitGibt es eine namentlich genannte verantwortliche Person?
• FairnessSind die Trainingsdaten unverzerrt?
• Schutz und SicherheitSind Sie vor sofortiger Einschleusung, Datenlecks und IP-Exfiltration geschützt?

Definieren Sie für jeden Prüfpunkt spezifische Prüfungen und führen Sie diese, wo möglich, automatisch in Ihrer Bereitstellungspipeline aus. Ziel ist Compliance-as-Code: Regeln, die in die bereits von Entwicklern verwendeten Tools integriert sind, sodass der konforme Weg auch der einfachste ist.

Schritt 5: Richtlinien, Prozesse und Modelle dokumentieren

Ein gutes Programm hinterlässt eine lückenlose Dokumentation. Für jedes KI-System sollten der vorgesehene Zweck, die Person, die die Klassifizierung vorgenommen hat, die Begründung für die Klassifizierung, die genehmigten Kontrollmaßnahmen, die erhaltenen Herstellerdokumente und spätere Änderungen festgehalten werden. Die technische Dokumentation für Hochrisikosysteme ist umfangreich (ähnlich dem Umfang einer CE-Kennzeichnungsdokumentation). Beginnen Sie daher frühzeitig und versionieren Sie die Dokumentation parallel zum System.

Die Dokumentation erfüllt eine doppelte Funktion: Sie dient als rechtlicher Schutz bei Fragen der Aufsichtsbehörden und ist ein zunehmend nützliches Marketinginstrument, wenn Unternehmenskäufer oder Investoren danach fragen.

Schritt 6: Überwachung und Berichterstattung einrichten

Ihr Lagerbestand wird sich verändern. Ihre Lieferanten werden wechseln. Ihre Modelle werden aktualisiert. Ihre Mitarbeiter werden Tools verwenden, die Sie nicht genehmigt haben. Ihr Produktteam wird Funktionen schneller hinzufügen, als die Richtlinien aktualisiert werden. Die Überwachung verhindert, dass das Programm zu einer Momentaufnahme verkommt.

Die meisten Kontrollmechanismen sind retrospektiv. Audits sind Rückblicke: Sie zeigen, wie ein System vor Monaten funktionierte, nicht aber, ob es heute sicher arbeitet. Momentaufnahmen sind zwar notwendig, aber nicht ausreichend. 

Sie benötigen wirksame Kontrollmechanismen: Protokollierung gemäß Artikel 12, Drift-Erkennung, versionsabhängiges Änderungsmanagement, definierte Schwellenwerte für Vorfälle und eine Überwachungsebene, die auch bei kurzfristigen Änderungen, Modellwechseln, Feinabstimmungen und neuen nachgelagerten Nutzungen erhalten bleibt. Bei Hochrisikosystemen müssen Anbieter schwerwiegende Vorfälle unverzüglich nach Feststellung eines ursächlichen Zusammenhangs oder der begründeten Wahrscheinlichkeit eines solchen melden, spätestens jedoch 15 Tage nach Kenntnisnahme des Vorfalls. Die Frist beträgt zwei Tage bei einem weit verbreiteten Verstoß oder einem schwerwiegenden Vorfall, der eine Verletzung von Grundrechten beinhaltet, und zehn Tage im Todesfall.

Schritt 7: Vorbereitung auf Audits und behördliche Prüfungen

Bevor sich eine Regulierungsbehörde darum kümmert, werden es Ihre Käufer tun. Sie sollten in der Lage sein, Ihr Inventar, Ihre Rollenzuordnung, Ihre Klassifizierungsentscheidungen, Ihren Ansatz zur KI-Kompetenz, Ihre Transparenzmaßnahmen, Ihre Verantwortlichen für die Governance und Ihre Vorgehensweise bei der Überwachung von KI-Systemen Dritter im Laufe der Zeit zu erläutern.

Ein oft unterschätzter Kostenfaktor ist der Aufwand für die Beweiserhebung. Auditmüdigkeit entsteht, wenn Ingenieure täglich Protokolle, Screenshots und Einzelnachweise für Kontrollen sammeln müssen, die nicht in ihren Zuständigkeitsbereich fallen. Ein besseres Modell ist es, die GRC-Ebene möglichst selbstständig Beweise liefern zu lassen und die menschliche Aufmerksamkeit auf Ausnahmen, Beurteilungen und Korrekturmaßnahmen zu beschränken. Dadurch wird ein Programm skalierbar und nicht nur auditierbar.

Eine weitere zukunftsweisende Option, die Sie in Betracht ziehen sollten, sind regulatorische Testumgebungen. Das Gesetz schafft einen Rahmen für kontrollierte Testumgebungen, in denen Sie KI-Systeme unter behördlicher Aufsicht entwickeln und validieren können, bevor Sie sie vollständig auf den Markt bringen. Wenn Ihr Anwendungsfall neuartig ist, Sie in einer stark regulierten Branche tätig sind oder frühzeitig Klarheit seitens der Regulierungsbehörden wünschen, lohnt sich eine Bewerbung für eine Testumgebung. Verfügbarkeit und Teilnahmeberechtigung variieren je nach Mitgliedstaat. Das KI-Omnibusgesetz erweitert nun den Zugang zu regulatorischen Testumgebungen und führt eine Testumgebung auf EU-Ebene ein.

Checkliste zur Einhaltung des EU-KI-Gesetzes

Die sieben oben genannten Schritte beschreiben die Arbeit; die fünfstufige Checkliste unten ist das Dokument, das Sie während der Arbeit erstellen. Diese Checkliste dient als praktisches Nachschlagewerk für Stand-up-Meetings, Auditvorbereitungen oder einfach für den Montagmorgen, wenn Sie sich an Ihren aktuellen Arbeitsstand erinnern müssen. Betrachten Sie sie als Kontrollinstrument, nicht als Ersatz für die vollständige Arbeit.

Schicht 1: Fundament 

• KI-Inventar erstellt: Sie verfügen über ein vollständiges Verzeichnis aller im Einsatz befindlichen KI-Systeme, einschließlich in Drittanbieter-Tools eingebetteter Funktionen und von Mitarbeitern eingesetzter Schatten-KI, wobei jedes System als selbst entwickelt, gekauft, eingebettet oder informell kategorisiert ist.
• Rollenzuordnung pro System: Für jedes KI-System haben Sie angegeben, ob Sie Anbieter, Implementierer, Importeur, Distributor oder Downstream-Anbieter sind, und Sie haben Fälle dokumentiert, in denen Sie mehrere Rollen innehaben.
• Risikokategorie: Sie haben jedes System als verboten, risikoreich, risikoarm oder minimal eingestuft, und für die in Anhang III aufgeführten Systeme, für die Sie die Ausnahmeregelung nach Artikel 6(3) in Anspruch nehmen, haben Sie die Begründung schriftlich dokumentiert.
• Programm zur Förderung der KI-Kompetenz gestartet: Die Mitarbeiter, die mit KI-Systemen arbeiten, haben eine Schulung erhalten, die ihrer Rolle und dem Risikoprofil des Systems entspricht; die Schulungsnachweise werden aufbewahrt.
• Benannte Governance-Eigentümer: Sie verfügen über einen ständigen Ausschuss oder eine Arbeitsgruppe, die sich mit den Bereichen Recht, Sicherheit, Produkt, ML und Daten befasst, sowie über einen verantwortlichen Manager, der die Zuständigkeiten für Inventarisierung, Klassifizierung, Lieferantenbewertungen, Vorfallsmeldung und Schulung klar definiert hat.

Schicht 2: Für Hochrisikosysteme 

• Risikomanagementsystem aktiv: Sie führen den Risikomanagementprozess gemäß Artikel 9 kontinuierlich durch, nicht als einmalige Maßnahme.
• Dokumentierte Datengovernance: Ihre Trainings-, Validierungs- und Testdaten erfüllen die Anforderungen von Artikel 10 hinsichtlich Relevanz, Repräsentativität, Genauigkeit und Vollständigkeit.
• Technische Dokumentation gepflegt: Ihre Artikel-11-Datei umfasst die Systemarchitektur, die Herkunft der Trainingsdaten, die Testergebnisse, die Mechanismen der menschlichen Überwachung und die bekannten Einschränkungen und wird zusammen mit dem System versionskontrolliert.
• Automatische Protokollierung aktiviert: Die Protokollierung nach Artikel 12 ist eingerichtet, wobei die Aufbewahrungsfristen den regulatorischen Erwartungen entsprechen.
• Transparenzinformationen erstellt: Ihre Dokumentation gemäß Artikel 13 richtet sich an Anwender und erläutert die Systemfunktionen und -grenzen klar und verständlich.
• Menschliche Aufsicht eingebaut: Die in Artikel 14 beschriebenen Mechanismen werden bereits bei der Konstruktion berücksichtigt und nicht erst nach der Markteinführung nachträglich angebracht.
• Qualitätsmanagementsystem aktiv: Artikel 17 QMS ist in den Bereichen Design, Entwicklung, Test und Implementierung dokumentiert und operativ umgesetzt.
• Konformitätsbewertung abgeschlossen: Sie haben die Bewertung abgeschlossen, die EU-Konformitätserklärung erstellt, die CE-Kennzeichnung angebracht und das System in der EU-Datenbank registriert.
• Marktbeobachtung aktiv: Die Verpflichtungen gemäß Artikel 72 werden umgesetzt, wobei Vorfallkategorien definiert und Meldeverfahren klar geregelt sind.

Schicht 3: Für Betreiber von Hochrisikosystemen

• Die Anweisungen des Anbieters wurden befolgt: Sie nutzen das System gemäß der Dokumentation des Anbieters, da Abweichungen eine Haftung begründen.
• Menschliche Aufsicht zugewiesen: Benannte Personen haben die Befugnis, einzugreifen, wenn das System nicht ordnungsgemäß funktioniert.
• Einrichtung der Überwachung und Protokollierung: Es wird lokal protokolliert, und die Protokolle werden für den gesetzlich vorgeschriebenen Zeitraum aufbewahrt.
• Mitarbeiter benachrichtigt: Die Beschäftigten werden informiert, wenn KI eingesetzt wird, um Entscheidungen über sie am Arbeitsplatz zu treffen.
• FRIA abgeschlossen: Eine Folgenabschätzung für die Grundrechte wird gegebenenfalls vor dem Einsatz dokumentiert (Nutzung im öffentlichen Sektor, Bonitätsprüfung, Preisgestaltung für Lebens- und Krankenversicherungen, biometrische Kategorisierung).

Schicht 4: Speziell für SaaS 

• Offenlegung der Chatbot-KI veröffentlicht: Die Offenlegung ist standardmäßig in die Benutzeroberfläche integriert und muss nicht optional aktiviert werden.
• Deepfake-Kennzeichnung implementiert: Wo erforderlich, sind Etiketten angebracht.
• KI-generierte Inhalte gekennzeichnet: Inhalte von öffentlichem Interesse sind deutlich gekennzeichnet.
• Lieferantenverträge aktualisiert: Die Verträge enthalten AI Act-spezifische Klauseln, die die Dokumentation des Anbieters, Konformitätserklärungen, Prüfungsrechte, Haftungsverteilung, Benachrichtigung über wesentliche Änderungen und die Einhaltung des GPAI-Verhaltenskodex regeln.
• Mechanismus für grenzüberschreitende Transfers vorhanden: Ihr KI-Anbieter beteiligt sich am EU-US-Datenschutzrahmen, oder Sie verwenden Standardvertragsklauseln oder verbindliche Unternehmensregeln, wobei etwaige einwilligungsbasierte Ausnahmen als Ausnahmen dokumentiert sind.
• GPAI-Verhaltenskodex verfolgt: Sie behandeln den Code als Ihre Spezifikation dafür, was Sie von Anbietern von Fundamentmodellen fordern.

Schicht 5: Kontinuierlich

• Lagerbestand wird vierteljährlich aktualisiert: Sie überprüfen das KI-Inventar viermal im Jahr anstatt jährlich, da wöchentlich neue KI-Tools in Ihr Unternehmen gelangen und eine jährliche Überprüfung die meisten davon nicht erfassen würde.
• Klassifizierungen wurden aufgrund von Änderungen erneut überprüft: Risikoklassifizierungen werden neu bewertet, wenn sich ein System wesentlich ändert, wenn Leitlinien der Kommission veröffentlicht werden oder wenn Änderungen des Digital Omnibus in Kraft treten.
• Dokumentation stets aktuell halten: Die technische Dokumentation wird parallel zum System aktualisiert, nicht im Nachhinein.
• Vorfallprotokoll wird geführt: Das Protokoll erfasst sowohl meldepflichtige als auch untergeordnete Ereignisse, da der Nachweis von Sorgfalt genauso viel wert ist wie die Abwesenheit von Vorfällen.
• Überwachung der regulatorischen Entwicklungen: Sie verfolgen die formelle Annahme des Digital Omnibus, des GPAI-Verhaltenskodex und der zugehörigen Leitlinien der Kommission, des Entwurfs der Hochrisikoklassifizierungsleitlinien vom Mai 2026, der harmonisierten Standards nach deren Veröffentlichung sowie der Benennungen der Marktüberwachungsbehörden auf Ebene der Mitgliedstaaten.
• Interne Gap-Audits werden durchgeführt: Sie führen mindestens einmal jährlich und vor jeder externen Überprüfung Audits durch, da die Kosten für das Aufspüren einer Lücke in Eigenregie nur einen Bruchteil der Kosten für deren Aufspüren im Rahmen einer Überprüfung durch die Aufsichtsbehörde ausmachen.

Diese Checkliste hilft Ihnen, Ihren aktuellen Status zu dokumentieren. Sie allein garantiert jedoch nicht die Compliance von morgen. Dafür ist das Programm zuständig. Der Grund, warum eine Plattform wie Sprinto hier so wichtig ist, liegt genau darin: Die meisten dieser Prüfungen sind keine einmaligen Entscheidungen, sondern kontinuierliche Zustände, die sich mit jeder Systemänderung verändern. Auf Ebene 5 versagen Compliance-Programme oft im Stillen, und hier spielt die Automatisierung ihre Stärken aus.

Bußgelder bei Nichteinhaltung

Ich möchte zunächst die feineren Ebenen erläutern, denn sie sind zwar wichtig, aber nicht der interessanteste Teil.

Verstoß	Höchststrafe
Verbotene Praktiken (Artikel 5)	35 Mio. € oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
Die meisten anderen Verstöße	15 Mio. € oder 3 % des weltweiten Jahresumsatzes
Falsche Informationen an die Aufsichtsbehörden weitergeben	7.5 Mio. € oder 1 % des weltweiten Jahresumsatzes

Kleine und mittlere Unternehmen (KMU) erhalten im Gesetz eine moderate Entlastung. Für kleinere Unternehmen ist die Geldstrafe auf den niedrigeren, nicht auf den höheren Berechnungsbetrag begrenzt.

Nun zu den interessanteren Fragen. Wer ist eigentlich für die Durchsetzung dieser Regeln verantwortlich?

• Nationale Marktüberwachungsbehörden (viele Mitgliedstaaten haben diese erst spät benannt)
• Das Büro für Künstliche Intelligenz bei der Europäischen Kommission, das ab dem 2. August 2026 die ausschließliche Zuständigkeit für Anbieter von GPAI-Modellen hat.
• Nationale Gerichte, für Privatklagen
• Nachgelagerte Anbieter können Beschwerden gegen GPAI-Anbieter einreichen.
• Ein wissenschaftliches Gremium kann das KI-Büro auf systemische Risiken aufmerksam machen.

Die Durchsetzung wird anfangs wahrscheinlich nicht sehr streng sein, da die Infrastruktur noch im Aufbau ist. Dies ist jedoch ein Weckruf, kein Freifahrtschein.

Die weitreichenderen Konsequenzen jenseits von Geldstrafen:

• Marktabhebungsaufträge: Die Regulierungsbehörden können den Rückruf und die Rücknahme nicht konformer KI-Systeme anordnen.
• Verlust der EU-Förderberechtigung: Im Rahmen der Strategie „KI anwenden“.
• Ausschlusskriterien für das Beschaffungswesen: Von Unternehmenskäufern, die die Sorgfaltspflichten gemäß dem AI Act in ihre Lieferantenprozesse integriert haben.
• Reibungsverluste bei der Investorenprüfung: Wenn Private-Equity- und Venture-Capital-Gesellschaften KI-Governance in ihre Transaktionsstrategien integrieren.

Für die meisten SaaS-Unternehmen stellen die Strafen ein eher geringes Risiko dar. Die Auswirkungen auf Beschaffung und Transaktionsgeschwindigkeit könnten sich hingegen unmittelbarer bemerkbar machen.

Häufige Herausforderungen bei der Einhaltung des EU-KI-Gesetzes

Die meisten Probleme mit der Einhaltung von KI-Vorschriften beginnen als Transparenzprobleme.

1. KI-Inventar und -Transparenz: Was man nicht sieht, kann man nicht einhalten. Schatten-KI, also Tools, die Mitarbeiter ohne zentrale Genehmigung einsetzen, ist die häufigste Schwachstelle. Das daraus resultierende Risiko ist das, was Experten als „Datenblutung“ bezeichnen: Betriebsgeheimnisse und personenbezogene Kundendaten gelangen in ungeprüfte Modelle und sind unwiederbringlich verloren.
2. Ermüdung durch die Vielzahl an Rahmenbedingungen. Sie müssen sich wahrscheinlich auch mit DSGVO, NIS2, DORA, dem Colorado AI Act, Texas TRAIGA und dem NYC Local Law 144 auseinandersetzen. ISO 42001 , NIST AI RMF und SOC 2Laut Orrick wurden allein im Jahr 2025 in den USA über 1,000 Gesetzesentwürfe zu KI auf Ebene der Bundesstaaten eingebracht. Die meisten Unternehmen entscheiden sich in der Praxis für einen Ansatz, der auf Basis eines bestehenden Systems entwickelt wird und Anpassungen vorsieht: Gemeinsame Anforderungen verschiedener Frameworks werden identifiziert, ein einheitliches Programm entwickelt und anschließend um die jeweiligen Zuständigkeiten ergänzt.
3. Regulierungsfluss: Digital Omnibus im November 2025. Position des Parlaments im April 2026. Position des Rates parallel. Die Trilogverhandlungen laufen. Verhaltenskodizes werden noch erarbeitet. Standards werden noch finalisiert. Und worauf ich immer wieder zurückkomme: Gehen Sie nicht davon aus, dass Sie sich zurücklehnen können, nur weil Änderungen anstehen. Bis die Änderungen formell in Kraft treten, gelten die bestehenden Regeln.
4. Produktentwicklungsgeschwindigkeit versus Compliance-Governance: Die meisten Compliance-Programme gehen von langen Prüfzyklen aus. Die meisten KI-Produkte hingegen sind innerhalb weniger Tage verfügbar. Diese Diskrepanz führt zu gegenseitigen Schuldzuweisungen, dazu, dass sich die Rechtsabteilung übergangen fühlt und die Entwicklung blockiert wird. Die Lösung liegt darin, Compliance in den Entwicklungsablauf zu integrieren, anstatt sie parallel durchzuführen. Das bedeutet einen schlanken Aufnahmeprozess für neue KI-Tools (statt einer sechswöchigen Prüfung) und Genehmigungswege mit standardmäßig schnellen und klaren Richtlinien, die Entwickler anwenden können, ohne den Gesetzestext selbst lesen zu müssen.
5. Die Geschwindigkeitslücke: Dieser Aspekt wird oft vernachlässigt. US-Forschungsteams können Projekte innerhalb weniger Wochen starten, für die vergleichbare EU-Teams Monate benötigen, was mitunter zum Abbruch von Projekten führt. Dasselbe gilt für die Entwicklungsgeschwindigkeit von SaaS-Produkten. Die Kosten für Compliance bestehen nicht in Bußgeldern, sondern in der Markteinführungszeit. Unternehmen, die Compliance als vorab bereitgestellte Nachweise, Lieferantenfreigaben und Klassifizierungsvorlagen betrachten und diese in die Entwicklungsumgebung integrieren, verringern diese Lücke erheblich.

Die Lösung ist bei allen fünf Fällen dieselbe: Die Einhaltung der Vorschriften muss in den Entwickler-Workflow integriert werden, anstatt sie parallel zu implementieren. Dazu gehören schlanke Aufnahmeprozesse, schnelle Genehmigungswege und klare Anleitungen, die Entwickler anwenden können, ohne den Gesetzestext selbst lesen zu müssen.

Wie sich das EU-KI-Gesetz mit anderen Rahmenwerken vereinbaren lässt

Kurz gesagt: ISO 42001 , NIST AI RMF , DSGVO und SOC 2 allein gewährleisten keine Konformität mit dem EU-KI-Gesetz. Ausführlicher: Diese Rahmenwerke sind in bestimmten Bereichen hilfreich.

1. ISO / IEC 42001Es handelt sich um einen internationalen Standard für KI-Managementsysteme. Er ist zertifizierbar, weltweit anerkannt und nützlich. Wichtig ist jedoch: ISO 42001 begründet keine Konformitätsvermutung gemäß EU-KI-Gesetz. Es ist ein Rahmenwerk für gute Unternehmensführung, keine Abkürzung zur Erfüllung der Vorschriften. Das Europäische KI-Büro hat sogar darauf hingewiesen, dass ein von ihm geprüfter ISO-Qualitätsmanagementstandard nicht dem von der EU gewünschten Ansatz entspricht.
2. NIST AI Risk Management FrameworkEs ist freiwillig, US-amerikanischen Ursprungs und weltweit anerkannt. Seine vier Kernfunktionen – Regieren, Kartieren, Messen und Verwalten – decken sich weitgehend mit den Anforderungen des EU-Gesetzes zur künstlichen Intelligenz, jedoch auf einem höheren Niveau. Es bildet ein hervorragendes Gerüst für die Prinzipienebene.
3. DSGVO: Es besteht parallel zum EU-KI-Gesetz. Sie heben sich nicht gegenseitig auf. Das Training von KI mit personenbezogenen Daten bedeutet, dass beide Gesetze Anwendung finden. Das Omnibusgesetz zur Digitalisierung ändert zudem die DSGVO (separat), was die Angelegenheit weiter verkompliziert. Es ist mit Überschneidungen, aber nicht mit einem vollständigen Ersatz zu rechnen.
4. SOC 2Es gibt wesentliche Überschneidungen mit den Cybersicherheitsanforderungen des AI Act (Artikel 15). SOC 2 allein ist nicht ausreichend und geht nicht auf KI-spezifische Risiken wie Verzerrungen oder Nachvollziehbarkeit ein. Wer jedoch über SOC 2 verfügt, beginnt nicht bei null.

Der von den meisten externen Beratern empfohlene und von den meisten fortschrittlichen Unternehmen bereits angewandte Ansatz ist eine Basis-plus-Delta-Architektur. Man beginnt mit den Prinzipien, die in den OECD-Richtlinien, NIST, ISO 42001 und dem AI Act (Integrated Artificial Intelligence Act) übereinstimmen. Darauf aufbauend entwickelt man ein einheitliches Programm. Anschließend werden länderspezifische Anpassungen hinzugefügt.

Wie Sprinto zur Einhaltung des EU-KI-Gesetzes beiträgt

Ich habe bisher mit dem Thema Sprinto gewartet, weil ich das Problem zunächst ehrlich darlegen wollte. Hier zeigt sich, wo unsere Plattform ihre Stärken hat und wo nicht.

Sprinto basiert auf einer zentralen Idee: Compliance sollte kein reaktives, manuelles Projekt sein, das Ihr Team jedes Jahr neu aufsetzt. Sie sollte kontinuierlich, im Hintergrund und autonom laufen. Wir nennen dies eine Autonome Vertrauensplattform . Konkret bedeutet das: Die Plattform erkennt Veränderungen in Ihrer Umgebung, identifiziert Risiken und ergreift Maßnahmen in den Bereichen Compliance, Lieferantenrisiko, KI-Governance und mehr.

Für die Einhaltung des EU-Gesetzes zur künstlichen Intelligenz sind insbesondere drei Dinge wichtig:

1. Schatten-KI-Erkennung: Jede Compliance-Prüfung beginnt mit einer Bestandsaufnahme. Die meisten Unternehmen erstellen dabei jedoch Fehler, weil sie die KI-Tools übersehen, die Mitarbeiter informell eingeführt haben. Schatten-KI verändert das Lieferantenrisiko auf subtile Weise. Sprinto erkennt den Einsatz von KI-Tools in Ihrem gesamten Unternehmen, führt ein Live-Register, klassifiziert Risiken nach Datensensibilität und ordnet Ihre KI-Aktivitäten den Normen ISO 42001, NIST AI RMF und dem EU-KI-Gesetz zu.
2. Kontinuierliche Abbildung über verschiedene Frameworks hinweg: Wenn Sie bereits SOC 2, ISO 27001 oder HIPAA auf Sprinto verwenden, ist die Plattform Automatische Zuordnung vorhandener BedienelementeRichtlinien und Nachweise werden an neue Standards, einschließlich des KI-Gesetzes, angepasst. Das ist die Basis-plus-Delta-Architektur, die nun in Betrieb genommen wird. Es werden keine neuen Compliance-Programme entwickelt, sondern bestehende erweitert.
3. Autonome Agenten, die handeln, nicht nur alarmieren: Wenn eine Kontrollmaßnahme abweicht, senden die meisten Tools eine E-Mail und warten ab. Die Agenten von Sprinto schließen Lücken, aktualisieren Nachweise und leiten Genehmigungen weiter; Sie genehmigen Entscheidungen, und die Plattform übernimmt die Ausführung. Für ein Compliance-Programm, das kontinuierlich auf Dutzenden von Systemen laufen muss, verändert dies die Arbeitsweise grundlegend.

Wo Sprinto nicht hilft: Es kann Ihnen nicht sagen, ob Ihr System gemäß Artikel 6 ein hohes Risiko darstellt; dafür ist eine rechtliche Beurteilung erforderlich, die einen Anwalt oder ein internes Risikokomitee erfordert. Es erstellt Ihre technische Dokumentation nicht von Grund auf neu. Es verhandelt auch nicht Ihre Lieferantenverträge. Es kümmert sich um die kontinuierlichen, wiederholbaren Aspekte der Compliance – jene, die Zeit kosten und zu Abweichungen führen.

Wenn Sie heute SOC 2 oder ISO 27001 einsetzen, erfüllen Sie bereits die meisten Anforderungen des AI Act: Transparenz, Verantwortlichkeit, Nachweise und Überwachung. Die Frage ist, ob sich Ihre bestehende Infrastruktur nahtlos auf die KI-Governance erweitern lässt oder ob Sie sie komplett neu aufbauen müssen. 

Sehen Sie, wie Ihr KI-Fußabdruck dem EU-KI-Gesetz zugeordnet wird.

Häufig gestellte Fragen