KI-Governance: Der Öffentlichkeit echtes Mitspracherecht geben

Die Erklärung, die drei Gruppen zusammenrief und eine ausließ

Im Juli 2025 unterzeichneten mehr als 200 Ökonomen und KI-Forscher, darunter 17 Nobelpreisträger, eine Erklärung mit dem Titel "We Must Act Now". Der Text umfasst vier Sätze und formulierte die Debatte über KI-Governance auf höchster Ebene neu.

Er warnt, dass künstliche Intelligenz innerhalb eines Jahrzehnts radikal leistungsfähiger werden könnte. Anschließend fordert er Ökonomen, politische Entscheidungsträger und Technologieführer auf, die Anreize, Leitplanken und Institutionen zu schaffen, die nötig sind, um die Technologie zum öffentlichen Nutzen zu lenken.

Die Analyse des Noema Magazine identifiziert die strukturelle Lücke: Die Gesellschaft erscheint in der Erklärung nur einmal, als Nutznießer, nicht als Teilnehmer. Dies ist eine gestalterische Entscheidung, und sie hat Folgen für die Verantwortlichkeit.

Was sich im Prognosebild verändert hat

Die Erklärung verdichtet ein Jahr eskalierender Prognosen. "AI 2027", im April 2025 vom AI Futures Project veröffentlicht, bot eine Monat-für-Monat-Darstellung eines Wettlaufs zur Superintelligenz, der bis Ende 2027 reicht.

"Europe 2031", im Juni erschienen, zeichnete eine Fünfjahres-Trajektorie für die Region. Es beschrieb Europa mit einem Anteil von 5 % an der globalen Rechenleistung und einem einzigen Frontier-Labor, wobei den Regulierungsbehörden untersagt ist, die Werkzeuge zu nutzen, die sie beaufsichtigen.

Beide Essays teilen eine Annahme, die es zu benennen lohnt. Eine kleine Gruppe entscheidet für alle anderen. Die Öffentlichkeit wird als eine zu schützende Bevölkerung oder als zu mobilisierendes Publikum eingeordnet, nicht als Quelle legitimen Beitrags.

Für Governance-Fachleute ist der Unterschied prozeduraler Natur. Die Debatte hat sich vom Ob der Regulierung dahin verlagert, wer die Feder führt. Diese Verlagerung bestimmt, wo die rechtliche Haftung landet, und sie gestaltet den Prüfpfad neu, den ein Vorstand pflegen muss.

Das Governance-Signal: Legitimität ist eine Compliance-Variable

Das Governance-Signal: Die Gestaltung der Beteiligung prägt die Dauerhaftigkeit jedes KI-Rahmenwerks. Regeln, die von einem geschlossenen Kreis aus Experten und Anbietern verfasst werden, stehen einem Legitimitätsdefizit gegenüber, das später zutage tritt, bei Durchsetzung und öffentlicher Anfechtung.

Helene Landemore, Politiktheoretikerin an der Yale University und der University of Oxford, plädiert für Bürgerversammlungen als Mechanismus für die demokratische Governance von Technologie. Ihr Modell behandelt die Öffentlichkeit als beratendes Gremium, dem Informationen und Zeit gegeben werden, um zu wohlüberlegten Positionen zu gelangen.

Der Mechanismus ist für Risikoverantwortliche von Bedeutung. Ein durch Beratung aufgebautes Rahmenwerk trägt dokumentierte Zustimmung in sich. Ein von oben auferlegtes Rahmenwerk trägt das Risiko der Umkehr in sich, wenn sich die politischen Bedingungen ändern.

Verantwortlichkeit ohne Namen ist Compliance-Theater. Eine Struktur, die Experten zusammenruft, aber keine spezifische verantwortliche Rolle für öffentlichen Beitrag zuweist, erzeugt Dokumentation statt Legitimität. Dieses Muster wiederholt sich in KI-Programmen von Unternehmen.

Welche benannte Rolle den öffentlichen Beitrag verantwortet

Die operative Frage für jeden Vorstand: Welche benannte Rolle innerhalb der Organisation ist für die Legitimität der Stakeholder verantwortlich, namentlich, schriftlich, vor dem Deployment? Die meisten KI-Governance-Chartas lassen dieses Feld leer.

Der EU AI Act, seit August 2024 in Kraft, strukturiert Pflichten rund um Anbieter und Betreiber. Artikel 50 befasst sich mit Transparenz gegenüber betroffenen Personen. Anhang III listet die Hochrisiko-Kategorien auf, die einer verschärften Prüfung unterliegen.

Diese Bestimmungen weisen Pflichten zu. Sie schreiben jedoch keine öffentliche Beratung im Systemdesign vor. Diese Lücke lässt Organisationen die Freiheit, ihre Haltung zu wählen, und macht sie für die Folgen dieser Wahl verantwortlich.

Eine Compliance-Haltung, die auf eine expertengeführte Regelsetzung ausgerichtet ist, ist überkalibriert für einen Kontext, in dem Legitimität die Durchsetzung prägt. Die Prüfung bleibt erforderlich; ihr Umfang hat sich geändert und umfasst nun, wie betroffene Gruppen konsultiert wurden.

Argumente für und gegen öffentliche Beratung

Das Argument für Bürgerversammlungen beruht auf Legitimität und dem Erkennen blinder Flecken. Von einem System betroffene Menschen identifizieren oft Schäden, die Ingenieuren und Führungskräften entgehen.

Das Gegenargument sind Geschwindigkeit und Kompetenz. Frontier-KI bewegt sich schneller, als beratende Gremien zusammenkommen. Kritiker halten fest, dass technische Entscheidungen technische Expertise erfordern und dass breite Versammlungen die Präzision verwässern.

Beide Lesarten haben Gewicht, und ein Governance-Verantwortlicher sollte sie nebeneinander darstellen, statt sie vorschnell aufzulösen. Der Noema-Beitrag treibt die partizipative Position voran; die Unterzeichner von "We Must Act Now" verkörpern das expertengeführte Modell.

Die praktische Synthese zeigt sich in hybriden Strukturen. Expertengremien verfassen; beratende Gremien prüfen und legitimieren; benannte Verantwortliche führen die Aufzeichnung. Organisationen, die jetzt diese Architektur aufbauen, behalten Optionalität, während sich die Durchsetzung verschärft.

Drei Entscheidungen für den Vorstand

Die Belege übersetzen sich in drei konkrete Entscheidungen. Jede gehört einem benannten Verantwortlichen und wird vor dem nächsten Deployment-Zyklus dokumentiert.

1. General Counsel: rechtliche Haftung durch ausgeschlossene Stakeholder kartieren.
2. Chief Risk Officer: das Risiko-Rahmenwerk aktualisieren, um Legitimität einzupreisen.
3. Prüfungs- und Risikoausschuss des Vorstands: die erforderliche Offenlegung zur Beteiligung definieren.

Erstens prüft der General Counsel, ob betroffene Personen gemäß Artikel 50 eine bedeutsame Transparenz erhalten haben, und hält die Antwort fest. Diese Prüfung wandelt eine abstrakte Pflicht in eine verteidigungsfähige Akte um.

Zweitens behandelt der Chief Risk Officer Legitimität als messbaren Faktor. Ein Modell, das ohne dokumentierte Konsultation in Betrieb geht, birgt ein Reputations- und Umkehrrisiko, das ins Register gehört.

Drittens bestimmt der Ausschuss, was die Organisation Investoren und Regulierungsbehörden hinsichtlich ihrer Beteiligungspraktiken schuldet. Die Aufsicht prüft zunehmend den Governance-Prozess, über die Ergebnisse allein hinaus.

Die CEO-Entscheidung steht über diesen dreien. Die strategische Positionierung zur öffentlichen Beteiligung bindet die Ressourcenzuteilung und die Produktzeitpläne. Diese Entscheidung profitiert davon, explizit statt emergent zu sein, und sie gehört in das Vorstandsprotokoll.

Regulatorischer Horizont

Der regulatorische Horizont hält drei Fixpunkte bereit. Der EU AI Act ist seit August 2024 in Kraft, wobei die Hochrisiko-Pflichten bis 2026 und 2027 in den siebenundzwanzig Mitgliedstaaten schrittweise eingeführt werden.

Die Trajektorie der Vereinigten Staaten bleibt strukturell fragmentiert. Die einzelstaatlichen Parlamente signalisieren eine politische Position statt rechtlicher Sicherheit. Ein kohärentes Bundesgesetz erscheint vor 2028 bis 2030 unwahrscheinlich.

Rahmenwerke für öffentliche Beratung befinden sich in mehreren Rechtsräumen in der Konsultations- und Pilotphase. Sie tragen noch kein bindendes Mandat. Organisationen, die jetzt namentliche Verantwortlichkeit und Beteiligungsaufzeichnungen aufbauen, halten einen Vorsprung von 18 bis 24 Monaten, während die Durchsetzung reift.

Die Frage, ob KI Governance erfordert, ist beantwortet. Eine zweite Frage hat sich eröffnet: Wer hält die legitime Autorität, die Regeln zu schreiben, und durch welchen Prozess. Lesen Sie weitere Analysen im Agora Intelligence Blog.