KI-Governance regelt, wer im Unternehmen über KI entscheidet, wer Ergebnisse prüft und wer verantwortet, was eine KI-Anwendung tut. Sie ist der Rahmen um KI-Strategie, KI-Richtlinie und die Pflichten aus der KI-Verordnung, etwa die Pflicht zur KI-Kompetenz nach Artikel 4 seit Februar 2025. Der Kern passt in eine Tabelle: welche Rolle welche Entscheidung trifft. In der Praxis scheitern KI-Vorhaben selten am Gesetz. Sie stocken, weil vier verschiedene Menschen Ja sagen müssen und jeder ein anderes Argument braucht.

Was bedeutet Governance bei KI?

Governance heißt Steuerung. Bei KI beantwortet sie vier Fragen: Wer entscheidet, welche KI-Anwendungen es gibt? Wer prüft, ob sie tun, was sie sollen? Wer verantwortet Fehler? Und wie ändern sich diese Regeln, wenn das Unternehmen Erfahrung sammelt?

Mir fällt auf, dass schon das Wort ein Imageproblem hat. Wer „Governance“ hört, denkt an Gremien, an Freigabeformulare und an ein Dokument namens „Richtlinie_v3_final_neu“. Ich ehrlich gesagt auch. Darum fangen viele mit dem Organigramm an und erst sehr spät mit der Frage, wer bei der ersten echten KI-Anwendung eigentlich Ja sagen darf.

Drei Begriffe hängen eng zusammen und landen gern im selben Topf. Die KI-Strategie sagt, wohin ihr wollt: welche Abläufe sich mit KI ändern sollen. Die KI-Richtlinie sagt, wie sich alle im Alltag verhalten: welche Werkzeuge, welche Daten, was tabu ist. Die KI-Governance sagt, wer über beides entscheidet und wer es nachhält. Ohne Governance bleibt die Strategie ein Papier und die Richtlinie ohne Ansprechperson.

Die erste Antwort auf die Frage nach Governance ist fast immer eine Tabelle. Die Namen der Rollen unterscheiden sich von Haus zu Haus, die Aufgaben dahinter sind fast überall dieselben:

RolleAufgabeEntscheidet über
GeschäftsführungSetzt Ziele und BudgetOb und wofür Geld fließt, welche Risiken das Haus trägt
KI-Lead (auch KI-Manager oder Head of AI)Übersetzt zwischen Fachbereich und Technik, führt die Liste aller AnwendungsfälleReihenfolge, gemeinsame Standards, welcher Pilot in den Betrieb geht
Verantwortliche Person im FachbereichBetreibt eine KI-Anwendung im AlltagFreigaben im Ablauf, Änderungen an Anleitung und Vorlagen
Datenschutz und IT-SicherheitPrüfen Daten, Zugänge, VerträgeFreigabe von Werkzeugen und Datenklassen
BetriebsratVertritt die BeschäftigtenMitbestimmung bei Werkzeugen, die Verhalten oder Leistung erfassen können
Verantwortung für KI-KompetenzPlant Schulung und Übung nach Artikel 4Wer was lernen muss und wie das dokumentiert wird

So weit, so ordentlich. Ich finde so eine Tabelle richtig, aber ihr fehlt oft die wichtigste Zeile: Jede KI-Anwendung im Betrieb hat genau eine verantwortliche Person mit Namen. Diese Person merkt als Erste, wenn die Ergebnisse schlechter werden, und sie entscheidet, ob die Anleitung angepasst wird. Fehlt der Name, merkt es niemand. Oder alle ein bisschen, was ungefähr dasselbe ist.

Bevor jetzt jemand ein Gremium gründet: Für ein Team mit zehn Leuten und zwei KI-Werkzeugen reicht eine Seite. Wer entscheidet, wer prüft, wen man bei Zweifeln fragt. Mehr Aufbau braucht es erst, wenn mehrere Abteilungen eigene Anwendungen bauen oder Kundendaten im Spiel sind.

Warum eine KI-Einführung vier Ja braucht

Okay, die Tabelle steht. Warum stockt es dann trotzdem? Meine ehrliche Antwort: Eine Tabelle verteilt Zuständigkeiten, aber noch keine Zustimmung. Und wer das Problem spürt, hat selten das Budget. Ein KI-Werkzeug geht deshalb erst in den Betrieb, wenn vier Rollen zustimmen: die Person, die es intern vorantreibt, die Menschen, die damit arbeiten, die Entscheider mit Budget und der Betriebsrat. Jede braucht ein eigenes Argument. Ein Beispiel, ein Assistent für Angebote im Vertrieb:

RolleGewinntFürchtetEin Satz für sie
Vertriebsleitung (treibt voran)Schnellere AngeboteDass es nach der Demo versandetWir messen ab Woche eins, wie lange ein Angebot dauert.
Innendienst (arbeitet damit)Weniger Kopieren und EinfügenKontrolle und mehr Arbeit nebenbeiDu entscheidest, was rausgeht. Der Assistent schreibt nur vor.
Geschäftsführung (Budget)Mehr Abschlüsse mit demselben TeamKosten ohne GegenwertEine Seite mit Kosten im Jahr, drei Optionen und einer Empfehlung.
BetriebsratEntlastung der BeschäftigtenLeistungskontrolle durch die HintertürDas System wertet keine Personen aus. Wir zeigen dir, was es speichert.

Im Konzern kommen Datenschutz, IT-Sicherheit und Einkauf dazu. Die Vorarbeit bleibt dieselbe, drei Fragen je Rolle:

  • Was gewinnt sie?
  • Was fürchtet sie, auch wenn sie es im Termin nicht laut sagt?
  • Welcher eine Satz beantwortet beides?

Fehlt in einer Zeile der Satz, ist der Termin noch zu früh. Und der Satz für den Betriebsrat muss technisch stimmen. Speichern die Protokolle Nutzernamen, hält er nicht, egal wie schön er formuliert ist.

Eine Wahrheit, drei Sprachen

Bleibt die Frage, die nach der Tabelle kommt: Wie redest du mit vier Leuten, die vier verschiedene Dinge hören wollen? Das habe ich lange vor KI gelernt, in einem Digital-Venture von Dr. Oetker. Dort habe ich jedes Thema dreimal aufbereitet: für die Geschäftsführung als Business Case mit Zahlen, für das Produktteam als priorisierte Liste, für die Entwicklung als klickbaren Prototyp. Gleicher Inhalt, drei Formen. Klingt nach dreifacher Arbeit. Ist es auch, am Anfang. Dafür fallen die Meetings weg, in denen jeder etwas anderes verstanden hat.

Übertragen auf KI heißt das: Die Geschäftsführung bekommt eine Seite mit Entscheidung, zwei oder drei Optionen und Kosten. Der Fachbereich bekommt die Liste, was zuerst kommt. Die IT bekommt einen Prototyp. Und der Betriebsrat bekommt eine Vorführung, die zeigt, was das System misst und was nicht. Wer allen dieselben dreißig Folien zeigt, verliert drei von vier Zuhörern. Vermutlich auch den vierten, der hat nur höflich genickt.

Betriebsrat: früh dazuholen und vorführen

Der Betriebsrat bestimmt mit, wenn technische Einrichtungen Verhalten oder Leistung der Beschäftigten überwachen können (§ 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz). Es reicht, dass ein Werkzeug dazu geeignet ist. Bei KI-Werkzeugen mit Anmeldung und Protokollen trifft das oft zu. Ein Rollout, den der Betriebsrat im letzten Moment stoppt, kostet mehr als drei Gespräche vorher.

Mein Grundsatz dafür: früh dazuholen, bevor etwas gebaut ist, und zeigen statt versprechen. Ein Assistent, der Fragen zur Reisekostenregelung beantwortet, wertet niemanden aus, und das lässt sich in fünf Minuten vorführen. Schwieriger wird es bei Prognosen. Dort ziehe ich die Grenze so: Das Modell sagt den Auftrag voraus, nicht den Menschen. Eine Prognose, wie lange ein Auftrag dauert, ist ein Planungswerkzeug. Wertet dieselbe Prognose Zeiten pro Person aus, ist sie ein Kontrollwerkzeug. Diese Grenze gehört ab Tag eins in Technik und Vereinbarung.

Was dieser Satz nicht löst: Er ersetzt keine Betriebsvereinbarung und keine Rechtsberatung für deinen Fall. Er gibt dem Gespräch nur eine Linie, an der sich beide Seiten festhalten können. Das ist weniger, als manche hoffen. Und mehr, als die meisten Gespräche am Anfang haben.

Wirkung messen statt Logins zählen

Eine klare Erwartung der Führung kann die Nutzung anschieben. Shopify-Chef Tobi Lütke hat KI im April 2025 in einem internen Memo, das er selbst auf X veröffentlicht hat, zur Grunderwartung an alle gemacht. Das Risiko liegt im Schritt danach. Ich verstehe den Reflex, Logins zu zählen, denn das ist die einzige Zahl, die das Werkzeug von selbst ausspuckt. Wer aber Logins, Tokens oder Quoten zählt, bekommt Pflichtklicks. Wer die Beförderung sichern will, öffnet das Werkzeug und schließt es wieder. Ich würde es vermutlich genauso machen. In Deutschland sind solche Nutzungsdaten pro Person außerdem ein Fall für den Betriebsrat.

Besser misst du auf drei Ebenen, und zwar je Ablauf statt je Person:

EbeneFrageBeispiel
NutzungWofür wird KI eingesetzt?Welche drei Aufgaben das Team wirklich mit KI erledigt
ErgebnisIst die Arbeit besser geworden?Zehn Berichte vorher und nachher, Rückfragen von Kunden
AufwandWas kostet ein Vorgang jetzt?Minuten pro Angebot, inklusive Freigabe und Versand

Eine einfache Gegenfrage hilft bei jeder Zahl: Hätten wir diese Arbeit ohnehin gemacht, und was hätte sie von Hand gekostet? Dazu passt eine Gewohnheit, die mehr verrät als jedes Dashboard: eine kurze Runde pro Woche, in der jemand fünf Minuten zeigt, was er mit KI verbessert hat. Was dort gezeigt wird, sind die Trampelpfade, die eine Governance als Nächstes absichern sollte. Ob das in jedem Haus klappt, weiß ich nicht. Bleibt die Runde leer, ist das allerdings auch eine Antwort.

Freigaben, die mit dem Vertrauen wachsen

Eine Governance bleibt nicht, wie sie am ersten Tag war. Am Anfang gibt bei jeder KI-Anwendung ein Mensch frei. Mit der Zeit seht ihr, wie oft die KI danebenliegt und welche Fehler sie macht. Dann lockert ihr die Stufe: Stichprobe statt Einzelfreigabe, später Freigabe nur noch bei Ausnahmen. Was ein Agent dabei technisch tut, habe ich in meinem Text darüber beschrieben, wie KI-Agenten funktionieren.

Bei meiner eigenen Website läuft das genau so, nur im Kleinen. Ein KI-Agent baut dort Änderungen, eine automatische Prüfung kontrolliert sie. Am Anfang habe ich jede Änderung selbst angesehen und mit einem Klick freigegeben. „Das ist meine Freigabe“, so habe ich es damals festgelegt. Nach einigen Wochen, in denen ich gesehen habe, wie der Agent prüft und eigene Fehler offen meldet, habe ich die Regel gelockert. Heute führt er Änderungen selbst zu Ende, sobald die Prüfung grün ist. Bei Zahlungen, Mitgliedern, Rechtstexten und beim Löschen fragt er weiterhin mich. Klar, eine Website ist kein Konzern. Ich habe keinen Einkauf und keine IT-Sicherheit, nur mich und eine Prüfung, die nie müde wird. Das Muster trägt trotzdem: eine Stufe je Risiko, gelockert nach Erfahrung. Im Unternehmen heißt das, jemand schreibt auf, ab wann eine Stufe sinkt und wer das entscheidet.

Bei Protago AI, meiner Web-App zu Berufen und KI, trenne ich aus demselben Grund den Schritt, der etwas erzeugt, von dem, der es freigibt. Auch wenn am Ende beide Male ich davorsitze. Im Unternehmen heißt das schlicht: Es ist klar, wer am Ende unterschreibt.

Mit dem Vertrauen wandert auch die Frage, wo entschieden wird. Am Anfang ist eine zentrale KI-Stelle richtig. Sie wählt Modelle aus, klärt Verträge und setzt die ersten Regeln. Bleibt sie aber der einzige Weg von einem Team zu einer KI-Anwendung, staut sich alles bei ihr. Die Prüffrage an jede zentrale Stelle lautet deshalb: Helfen wir den Teams noch, oder sind wir schon die Warteschlange?

Eine Arbeitsteilung, die ich für tragfähig halte:

  • Zentral: Zugang, Anmeldung, Datenschutz, Einkauf, freigegebene Modelle und gemeinsame Bausteine
  • Im Fachbereich: welcher Ablauf sich ändert und wer ihn betreibt
  • Gemeinsam: die Standards, nach denen jede Anwendung gebaut wird

Die Standards entscheiden, ob daraus ein Netz wird oder ein Flickenteppich. Zehn KI-Anwendungen nach einem Muster lassen sich pflegen. Dreißig Einzelstücke sind in zwei Jahren eine Altlast.

KI-Governance klingt nach Gremien und Papier. Für den Anfang ist sie eine kurze Liste: wer entscheidet, wer verantwortet, wer prüft und wann sich das ändert. Nimm die Liste eurer KI-Werkzeuge, schreib hinter jedes einen Namen und schau, wo die Zeile leer bleibt. Die leeren Zeilen sind die Tagesordnung für euer erstes Treffen.


Studio ✺ Christos

Häufige Fragen

Was bedeutet Governance bei KI?

KI-Governance ist die Steuerung von KI im Unternehmen: Sie legt fest, wer über KI-Anwendungen entscheidet, wer ihre Ergebnisse prüft, wer Fehler verantwortet und wie sich diese Regeln mit der Erfahrung ändern. Sie verbindet KI-Strategie, KI-Richtlinie und gesetzliche Pflichten.

Was ist der Unterschied zwischen KI-Governance und KI-Richtlinie?

Die KI-Richtlinie regelt das Verhalten im Alltag, also welche Werkzeuge und Daten erlaubt sind. Die KI-Governance regelt, wer solche Regeln beschließt, wer sie nachhält und wer für einzelne KI-Anwendungen verantwortlich ist. Die Richtlinie ist ein Teil der Governance.

Wer ist im Unternehmen für KI verantwortlich?

Die Gesamtverantwortung trägt die Geschäftsführung. Im Alltag braucht es eine Person, die zwischen Fachbereich und Technik übersetzt (oft KI-Lead, KI-Manager oder Head of AI genannt), und für jede KI-Anwendung im Betrieb eine verantwortliche Person mit Namen im Fachbereich.

Muss der Betriebsrat bei KI mitbestimmen?

Häufig ja. Nach § 87 Abs. 1 Nr. 6 BetrVG bestimmt der Betriebsrat mit, wenn ein technisches System geeignet ist, Verhalten oder Leistung von Beschäftigten zu überwachen. Bei KI-Werkzeugen mit Anmeldung und Protokollen ist das oft der Fall, darum lohnt es sich, ihn früh einzubinden.

Welche Rolle spielt der EU AI Act für die KI-Governance?

Die KI-Verordnung verteilt Pflichten nach Rolle (Anbieter oder Betreiber) und Risiko der Anwendung. Für fast jedes Unternehmen gilt seit Februar 2025 Artikel 4: Maßnahmen für die KI-Kompetenz der Beschäftigten. Eine Governance klärt, wer diese Pflichten im Haus erfüllt und dokumentiert.