AI Act und Shadow AI: vom Sicherheitsrisiko zur gesetzlichen Pflicht

Der regulatorische Tatbestand: eine geltende Verordnung, stufenweise Anwendung

Am 1. August 2024 ist die Verordnung (EU) 2024/1689, bekannt als AI Act, in der Europäischen Union in Kraft getreten. Es ist das erste horizontale Regelwerk der Welt, das ausschließlich der künstlichen Intelligenz gewidmet ist.

Die Anwendung erfolgt stufenweise. Verbotene Praktiken gelten ab dem 2. Februar 2025, die Pflichten für Allzweck-KI-Modelle ab dem 2. August 2025.

Die vollständige Anwendbarkeit tritt am 2. August 2026 ein. Dieser Zeitplan definiert das operative Fenster, innerhalb dessen Organisationen Prozesse, Verträge und Dokumentation ausrichten müssen. Der entscheidende Stichtag bleibt auf dieses Datum festgelegt.

Shadow AI: vom Sicherheitsrisiko zur rechtlichen Exposition

Der Begriff Shadow AI beschreibt den Einsatz von KI-Tools durch Mitarbeitende außerhalb genehmigter Kanäle. Eine von TechRadar^[1] veröffentlichte Analyse ordnet dieses Phänomen an der Schnittstelle von IT-Sicherheit und Recht ein.

Das Governance-Signal ist eindeutig: Informelle Nutzung erzeugt formelle Pflichten.

Wenn ein Mitarbeiter Unternehmensdaten in ein externes System eingibt, nimmt das Unternehmen im Sinne der Verordnung die Stellung eines Betreibers ein. Die Verantwortung folgt der tatsächlichen Nutzung – jenseits schriftlicher Richtlinien. Die Geschwindigkeit der Adoption übertrifft die Fähigkeit interner Regeln, sich anzupassen.

Wer haftet: die Rolle des Betreibers

Der AI Act unterscheidet zwischen Anbieter und Betreiber eines Systems. Der Betreiber ist die Partei, die KI im Rahmen ihrer beruflichen Tätigkeit einsetzt.

Die offizielle Zusammenfassung der Verordnung listet die Pflichten des Betreibers auf, darunter menschliche Aufsicht und Einhaltung der Nutzungsanweisungen, wie in der offiziellen Übersicht^[2] dargestellt.

Diese Architektur verlagert den Schwerpunkt. Der Anbieter entwickelt das Modell, der Betreiber steuert dessen täglichen Einsatz. Beide Rollen tragen unterschiedliche und kumulierbare Verantwortlichkeiten.

Artikel 50 und die Transparenzpflicht

Artikel 50 des AI Act verpflichtet bestimmte Systemkategorien zur Transparenz. Nutzer müssen wissen, wenn sie mit einer Maschine oder mit künstlich erzeugten Inhalten interagieren.

Shadow AI untergräbt diese Transparenz an der Wurzel. Ein eigenständig eingesetztes Tool entgeht der Erfassung und umgeht damit die gesetzlich vorgesehenen Informationspflichten.

Das Ergebnis ist ein doppeltes Defizit – technisch und dokumentarisch. Die Organisation verliert die Sichtbarkeit über Datenflüsse und häuft gleichzeitig Exposition gegenüber der Aufsichtsbehörde an. Der Prüfungsumfang erstreckt sich auf jedes tatsächlich genutzte Tool.

Accountability mit einem Namen, schriftlich, vor dem Einsatz

Eine Leitthese durchzieht diese Analyse: Accountability ohne Namen ist Compliance-Theater. Regulatorische Rahmenwerke, die es vermeiden, eine verantwortliche Rolle zu benennen, produzieren Dokumentation – nicht echte Governance.

Die operative Frage bleibt eine einzige. Welche Rolle, namentlich und schriftlich vor dem Einsatz bestimmt, antwortet für die regelkonforme Nutzung von KI-Systemen?

Unternehmen, die diese Verantwortung explizit zuweisen, verwandeln Compliance in einen Wettbewerbsvorteil. Wer Governance jetzt strukturiert, gewinnt einen Vorsprung von 18 bis 24 Monaten, wenn die Durchsetzung in Kraft tritt.

Risikoklassifizierung und Tool-Inventar

Die Verordnung folgt einem risikobasierten Ansatz. Anhang III listet die Hochrisiko-Anwendungsfälle auf, die verstärkte Pflichten für Management, Dokumentation und Überwachung auslösen.

Shadow AI macht es unmöglich, das zu klassifizieren, was unsichtbar bleibt. Ein außerhalb offizieller Kanäle eingesetztes System entgeht der Risikokartierung.

Eine Compliance-Haltung, die auf klassische IT ausgelegt ist, erweist sich in diesem Kontext als unterdimensioniert. Das Audit bleibt notwendig, aber der Umfang hat sich verändert: Er umfasst nun alle tatsächlich im Unternehmen aktiven KI-Tools.

Die Sanktionen: das Ausmaß der Exposition

Die Verordnung legt Sanktionen fest, die der Schwere des Verstoßes entsprechen. Für verbotene Praktiken erreichen die Geldbußen 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist – wie in der offiziellen Zusammenfassung^[2] angegeben.

Bei Verstößen gegen andere Pflichten sinkt die Schwelle auf 15 Millionen Euro oder 3 % des Umsatzes. Die Übermittlung unrichtiger Informationen an Behörden zieht Sanktionen von bis zu 7,5 Millionen Euro nach sich.

Diese Beträge definieren das Ausmaß der Exposition. Ein Chief Risk Officer, der sein Framework aktualisiert, beginnt mit dieser Größenordnung, um Prioritäten und Mitigationsbudget zu gewichten.

Jenseits Europas: die regulatorische Fragmentierung in den USA

Die regulatorische Landschaft in den USA folgt einer entgegengesetzten Entwicklung zur europäischen Kohärenz. Einzelstaaten verabschieden Gesetze, um politische Positionen zu signalisieren, und erzeugen dabei ein Mosaik lokaler Regeln.

Colorado hat sein eigenes KI-Gesetz abgeändert, noch bevor es in Kraft trat – ein Muster, das die strukturelle Fragmentierung bestätigt.

Auf Basis der vorliegenden Erkenntnisse wird ein kohärentes Bundesgesetz voraussichtlich im Zeitraum 2028 bis 2030 kommen. Multinationale Unternehmen, die auf beiden Seiten des Atlantiks tätig sind, übernehmen den europäischen Standard als Ausgangsbasis, da er der stringenteste und am besten definierte bleibt.

Drei Entscheidungen für den Vorstand

Das Regelwerk fordert konkrete Entscheidungen von denjenigen, die die Organisation führen. Nachfolgend drei Entscheidungen, die dem General Counsel, dem Chief Risk Officer sowie dem Prüfungs- und Risikoausschuss vorgelegt werden sollten.

1. Inventarisierung. Ein vollständiges Verzeichnis der genutzten KI-Tools anlegen – einschließlich jener, die von Teams informell eingesetzt werden.
2. Benennung. Die verantwortliche Rolle für die regelkonforme Nutzung schriftlich bestimmen – vor jedem neuen Einsatz.
3. Offenlegung. Festlegen, welche Informationen der Vorstand über die aus Shadow AI resultierende Exposition erhalten soll.

Jede Entscheidung benötigt ein Datum und einen Verantwortlichen. Der Vorstand überführt so eine abstrakte Pflicht in einen nachprüfbaren Plan.

Regulatorischer Ausblick

Aktueller Stand: Die Verordnung gilt seit dem 1. August 2024, mit gestaffelter Anwendung. Die Zuständigkeit liegt bei der Europäischen Union, mit extraterritorialer Wirkung auf Anbieter und Betreiber, die auf dem Binnenmarkt tätig sind.

Der entscheidende Stichtag bleibt der 2. August 2026, das Datum der vollständigen Anwendbarkeit für Hochrisikosysteme. Die Transparenzpflichten aus Artikel 50 folgen demselben Horizont.

Die Frage nach der Natur von Shadow AI hat ihre Antwort gefunden: Es ist eine rechtliche Frage, nicht nur eine Sicherheitsfrage. Eine zweite Frage öffnet sich – welche interne Rolle dafür namentlich verantwortlich sein wird.