Der AI Act, auf Deutsch KI-Verordnung, ist das Gesetz der EU für künstliche Intelligenz (Verordnung (EU) 2024/1689). Er sortiert KI nach Risiko: Manches ist verboten, Hochrisiko-KI bekommt strenge Pflichten, Chatbots und KI-Inhalte müssen erkennbar sein, alles andere bleibt frei. Für ein Unternehmen, das ChatGPT, Copilot oder Claude nutzt, zählen heute vor allem KI-Kompetenz und Transparenz. Die strengen Regeln für Hochrisiko-KI hat die EU mit dem Digital Omnibus auf den 2. Dezember 2027 verschoben, Stand November 2026.

Was ist der AI Act?

Eine Verordnung der Europäischen Union, und ehrlich gesagt ein ziemlich widersprüchliches Ding. Sie hat mehr als hundert Artikel, gilt für fast jedes Unternehmen, das KI nutzt, und wird gern mit dem höchsten Bußgeld angekündigt. Den meisten Unternehmen verlangt sie heute trotzdem erstaunlich wenig ab. Genau das finde ich das Tückische daran, denn wo wenig verlangt wird, schaut auch kaum jemand genau hin.

Erst die Fakten. Der AI Act ist am 1. August 2024 in Kraft getreten und gilt in allen Mitgliedstaaten direkt, Deutschland muss ihn nicht erst in ein eigenes Gesetz übertragen. Seine Pflichten starten in Stufen, die letzten großen 2028.

Das Ziel steht in Artikel 1: KI in Europa soll vertrauenswürdig und auf den Menschen ausgerichtet sein, Gesundheit, Sicherheit und Grundrechte schützen und Innovation trotzdem zulassen. Dafür regelt die Verordnung den Einsatz, die Technik dahinter ist zweitrangig. Diese Idee leuchtet mir am meisten ein. Dasselbe Sprachmodell kann harmlos eine E-Mail glätten oder heikel Bewerbungen sortieren. Gleiches Modell, ganz andere Pflichten.

Die Regeln gelten für alle, die KI in der EU auf den Markt bringen oder beruflich nutzen, auch für Anbieter aus den USA oder China. Ich lese das als Europas Antwort auf eine unbequeme Lage: Die meisten Modelle, mit denen wir arbeiten, entstehen woanders. Wie groß diese Abhängigkeit ist, habe ich in meinem Text über KI-Souveränität in Europa aufgeschrieben.

Ich ordne hier ein, so gut ich kann. Eine Rechtsberatung ersetzt das nicht, für deinen Einzelfall frag eine Anwältin oder einen Anwalt.

Die vier Risikoklassen

Die KI-Verordnung arbeitet mit vier Stufen. Die EU-Kommission erklärt sie mit Beispielen, die ich hier übernehme, weil mir selbst keine besseren eingefallen sind:

RisikoklasseBeispieleWas gilt
UnannehmbarSocial Scoring, Emotionserkennung am Arbeitsplatz und in Schulen, Gesichtsdatenbanken aus dem Netzverboten
HochBewerbungen sortieren, Kreditwürdigkeit prüfen, Prüfungen bewerten, Sicherheitsbauteile in Verkehr und InfrastrukturRisikomanagement, Datenqualität, Protokolle, Dokumentation, menschliche Aufsicht
TransparenzChatbots, KI-erzeugte Bilder, Videos und Texte, Deepfakesals KI erkennbar machen und kennzeichnen
MinimalSpamfilter, KI in Videospielenkeine eigenen Pflichten

Verboten sind seit dem 2. Februar 2025 unter anderem: Menschen nach ihrem sozialen Verhalten zu bewerten, sie mit unterschwelligen Techniken zu manipulieren, Emotionen von Beschäftigten oder Schülern zu erkennen und Gesichtsbilder ungezielt aus dem Netz zu sammeln. Ab dem 2. Dezember 2026 kommt ein neuntes Verbot dazu: KI, die ohne Zustimmung Nacktbilder echter Menschen erzeugt, und KI für Darstellungen von Kindesmissbrauch.

Ich gehe mal davon aus, dass in deinem Unternehmen niemand Gesichter aus dem Netz sammelt. Bei Werkzeugen, die die Stimmung in Gesprächen auswerten, würde ich trotzdem genau hinschauen, wessen Stimmung da gemessen wird. Bei der Kundschaft ist das erlaubt, wenn auch mit Auflagen. Bei den eigenen Leuten ist es verboten.

Neben den vier Stufen gibt es eine eigene Spur für KI-Modelle mit allgemeinem Verwendungszweck, also die großen Sprachmodelle hinter ChatGPT, Copilot und Claude. Ihre Pflichten gelten seit dem 2. August 2025 und treffen die Hersteller der Modelle: technische Dokumentation, eine Zusammenfassung der Trainingsdaten, Regeln zum Urheberrecht. Wer die Werkzeuge nur nutzt, muss das nicht selbst erfüllen.

Wir bauen doch keine KI

Frag ein Unternehmen, ob der AI Act es betrifft, und die erste Antwort kommt schnell: Nein, wir bauen ja keine KI. Dann die Nachfrage. Schreibt bei euch jemand Texte mit ChatGPT? Fasst Copilot eure Meetings zusammen? Ich vermute, an dieser Stelle wird es in vielen Runden kurz still.

Die ehrliche Antwort steht in Artikel 3, und fast alle Pflichten hängen an seinen zwei Rollen. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen auf den Markt bringt oder in Betrieb nimmt (Artikel 3 Nr. 3). Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet (Artikel 3 Nr. 4). Rein private Nutzung zählt nicht.

Für die meisten Unternehmen heißt das: Ihr seid Betreiber. Die EU-Kommission nennt selbst das Beispiel eines Teams, das Texte mit ChatGPT schreibt. Heikel wird es an zwei Stellen, die oft übersehen werden:

Was ihr machtEure RolleWas daraus folgt
Das Team nutzt ChatGPT, Copilot oder Claude für Texte, Recherche, AuswertungenBetreiberKI-Kompetenz, Transparenz bei bestimmten Inhalten
Ihr baut auf einem Sprachmodell einen Chatbot für Kunden, unter eurem NamenAnbieter dieses KI-SystemsMenschen müssen erkennen, dass sie mit einer KI sprechen
Ein Sprachmodell sortiert oder bewertet BewerbungenBetreiber eines Hochrisiko-Systems, unter Umständen Anbieterab 2. Dezember 2027 die vollen Hochrisiko-Pflichten

Die dritte Zeile hat es in sich. Wer ein allgemeines Werkzeug für einen Hochrisiko-Zweck einsetzt, ändert dessen Zweckbestimmung und kann nach Artikel 25 selbst als Anbieter gelten. Aus einem Chat-Abo wird dann ein Hochrisiko-System mit Risikomanagement, Dokumentation und Konformitätsbewertung. Ein ziemlich teurer Weg, um Bewerbungen schneller durchzusehen.

Bei meinem eigenen Projekt habe ich diese Linie bewusst gezogen. Protago AI zeigt, wie sich Berufe mit KI verändern, und bewertet keine Menschen. So bleibt es mit Absicht unter der Schwelle zum Hochrisiko. Im Unternehmen reicht vor jedem neuen Werkzeug, vor allem in HR, eine einzige Frage: Unterstützt es Menschen, oder sortiert es sie? Die erste Antwort macht wenig Arbeit. Die zweite bringt euch Anhang III und alles, was daran hängt.

Viele Unternehmen haben ihre Rolle noch nicht geklärt. Laut Bitkom setzen inzwischen 57 Prozent der Unternehmen ab 20 Beschäftigten KI ein. Als Anwender vom AI Act betroffen sehen sich aber nur 37 Prozent, ein Drittel prüft noch.

Erst gut ein Drittel sieht sich vom AI Act betroffen

Betroffen vom AI Act?Unternehmen
Ja, als Anwender37 %
Wir prüfen das34 %
Nein18 %
Noch nicht befasst8 %
Antworten auf die Frage „Ist Ihr Unternehmen vom AI Act betroffen?“, 603 Unternehmen ab 20 Beschäftigten in Deutschland, befragt im Juli und August 2026, 3 Prozent ohne Angabe. Quelle: Bitkom Research, 14. September 2026

Zwischen 57 Prozent Nutzung und 37 Prozent Betroffenheit liegen 20 Prozentpunkte. Ich vermute, ein großer Teil davon steckt bei denen, die noch prüfen. Vielleicht prüfen sie sehr gründlich. Vielleicht wartet aber auch nur jemand auf eine Antwort, die längst feststeht. Sie ist nämlich fast immer kurz: Wer KI beruflich nutzt, ist Betreiber. Wie wenig Vertrauen gleichzeitig im Spiel ist, zeigt meine Auswertung, wie wir KI in Deutschland nutzen und ihr misstrauen.

Die Fristen, Stand November 2026

Ursprünglich sollten die meisten Pflichten am 2. August 2026 starten, auch die für Hochrisiko-KI. Dann kam der Digital Omnibus, ein Name, bei dem ich jedes Mal an einen Linienbus denke, der unterwegs ein paar Haltestellen streicht. Ganz falsch ist das Bild nicht. Am 19. November 2025 schlug die EU-Kommission vor, die Hochrisiko-Regeln zu verschieben, weil Normen und Leitlinien dafür noch fehlten. Parlament und Rat einigten sich am 7. Mai 2026. Die Verordnung (EU) 2026/1744 stand am 24. Juli 2026 im Amtsblatt und gilt seit dem 27. Juli 2026. So sieht der Fahrplan jetzt aus:

DatumWas giltWen es betrifft
1. August 2024AI Act tritt in Kraftnoch niemanden direkt
2. Februar 2025Verbote und KI-Kompetenz (Artikel 4)alle Anbieter und Betreiber
2. August 2025Pflichten für KI-Modelle mit allgemeinem Verwendungszweck, Regeln zu StrafenHersteller wie OpenAI, Anthropic, Google
27. Juli 2026Digital Omnibus gilt, Artikel 4 weicher gefasstalle Anbieter und Betreiber
29. Juli 2026Bundesnetzagentur wird deutsche Aufsicht (KI-MIG)alle in Deutschland
2. August 2026Großteil der Verordnung gilt, Transparenzpflichten (Artikel 50), Aufsicht setzt durchAnbieter und Betreiber von Chatbots und KI-Inhalten
2. Dezember 2026neues Verbot für Nacktbilder ohne Zustimmung, Markierung auch für ältere KI-SystemeAnbieter generativer KI
2. Dezember 2027Hochrisiko-Pflichten für Bereiche aus Anhang III, etwa Personal, Bildung, KreditAnbieter und Betreiber solcher Systeme
2. August 2028Hochrisiko-Pflichten für KI in Produkten wie Maschinen oder Spielzeug (Anhang I)Hersteller und Betreiber

Für ein Unternehmen, das KI nur nutzt, ändert der Omnibus weniger, als die Schlagzeilen vermuten lassen. Die KI-Kompetenz bleibt Pflicht, nur weicher formuliert: Seit dem 27. Juli 2026 musst du Maßnahmen ergreifen, die die Entwicklung der KI-Kompetenz deiner Leute unterstützen, ein bestimmtes Niveau musst du nicht mehr garantieren. Die Transparenzpflichten gelten seit August 2026 wie geplant. Verschoben ist Hochrisiko, und das betrifft vor allem Personalabteilungen, Banken, Versicherungen, Bildung und Hersteller von Produkten.

Ob die Verschiebung klug war, weiß ich nicht. Die Normen fehlten wirklich, insofern kann ich die EU verstehen. Ich fürchte nur, dass in manchen Köpfen aus „verschoben“ still und leise „erledigt“ wird.

Wer kontrolliert den AI Act und welche Strafen drohen?

Seit dem 29. Juli 2026 ist die Bundesnetzagentur die zentrale Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung. Das regelt das Gesetz zur Marktüberwachung und Innovationsförderung von KI, kurz KI-MIG (Pressemitteilung der Bundesnetzagentur). Sie überwacht unter anderem KI im Personalmanagement, in kritischer Infrastruktur und in der Bildung und prüft Transparenzpflichten und Verbote.

In einzelnen Branchen bleiben die bekannten Aufsichten zuständig, etwa die BaFin im Finanzsektor und die Landesmedienanstalten bei Medien. Für eine erste Einschätzung bietet der KI-Service-Desk der Bundesnetzagentur den KI-Compliance-Kompass an, der grob zeigt, welche Risikoklasse ein System hat und ob Transparenzpflichten greifen.

Die Obergrenzen für Strafen stehen in Artikel 99. Sie sind nach Schwere gestaffelt:

VerstoßHöchstbetrag
Verbotene Praktiken (Artikel 5)35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes
Pflichten von Anbietern und Betreibern, auch Transparenz (Artikel 26 und 50)15 Millionen Euro oder 3 Prozent
Falsche oder unvollständige Auskünfte an Behörden7,5 Millionen Euro oder 1 Prozent

35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, diese Zahl steht in vielen Texten über den AI Act ganz oben. Sie gilt für verbotene Praktiken. Für ein Team, das E-Mails mit Copilot glättet, ist sie ungefähr so wichtig wie die Höchstgeschwindigkeit eines Rennwagens für deinen Weg zur Arbeit.

Für große Unternehmen gilt jeweils der höhere Betrag. Für kleine und mittlere Unternehmen und Start-ups gilt der niedrigere, seit dem Omnibus auch für kleine Midcaps. Für die KI-Kompetenz nennt der feste Katalog keinen Betrag, hier legen die Mitgliedstaaten die Sanktionen fest. Realistischer als ein Bußgeld ist für die meisten Unternehmen ohnehin der Schadensfall. Dann musst du zeigen können, was du getan hast.

Was muss ein Unternehmen tun, das ChatGPT, Copilot oder Claude nutzt?

Das ist die Frage, die nach dem Betreiber-Schreck übrig bleibt: Und jetzt? Die Antwort ist kürzer, als die vielen Seiten Verordnung vermuten lassen. Für die meisten Unternehmen schrumpft der AI Act auf vier Aufgaben. Sie kosten wenig Zeit und zahlen sich auch dann aus, wenn 2027 die Hochrisiko-Regeln kommen.

1. Inventar: Welche KI läuft bei euch wirklich?

Alles beginnt mit einer Liste: welches Werkzeug, welches Team, wofür, mit welchen Daten, wer verantwortlich ist. Ohne diese Liste kannst du weder Rolle noch Risikoklasse bestimmen. Zähl auch mit, was niemand freigegeben hat: private Konten, Browser-Erweiterungen und KI-Funktionen in Software, die ihr längst habt. Ich mag die Leute, die sich selbst eine Erweiterung für Meeting-Notizen installieren, weil sich sonst keiner um das Problem kümmert. In die Liste gehört die Erweiterung trotzdem.

Wie weit Annahme und Wirklichkeit auseinanderliegen, habe ich an meiner eigenen Website gemerkt. Ich hielt sie für ziemlich aufgeräumt. Bevor ich den Cookie-Banner neu aufgesetzt habe, habe ich Claude alle 78 Seiten prüfen lassen. Google Analytics und Hotjar liefen ohne Zustimmung, dazu 21 YouTube-Videos, 2 Vimeo-Videos und 8 Posts von X. In der Datenschutzerklärung standen Dienste wie AdSense und PayPal, die ich gar nicht nutze. So viel zu aufgeräumt. Im Unternehmen heißt dieselbe Lehre: Das KI-Inventar entsteht durch Nachsehen. Frag die Teams, und prüf zusätzlich Rechnungen, Lizenzen und installierte Erweiterungen.

Wie aufwendig muss das sein? Für ein Team von zehn Leuten reichen eine geteilte Tabelle und eine Runde Nachfragen. Ein eigenes Werkzeug für Compliance lohnt sich vermutlich erst, wenn die Liste so lang wird, dass niemand mehr den Überblick behält. Ich würde immer mit der Tabelle anfangen.

2. KI-Kompetenz: Leute befähigen und es festhalten

Seit Februar 2025 verlangt Artikel 4 von Anbietern und Betreibern Maßnahmen für die KI-Kompetenz ihres Personals und aller, die in ihrem Auftrag mit KI arbeiten. Ein Zertifikat ist nicht vorgeschrieben, eine Pflichtrolle auch nicht. Wer dir etwas anderes erzählt, hat vermutlich gerade einen Kurs im Angebot. Sinnvoll ist eine Grundlage für alle, eine Vertiefung für die, die täglich mit KI arbeiten, und eine einfache Tabelle als Nachweis.

3. Transparenz: Was ihr kennzeichnen müsst

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50. Für Unternehmen sind drei Fälle wichtig:

  • Chatbots im Kundenkontakt: Menschen müssen spätestens beim ersten Kontakt erkennen, dass sie mit einer KI sprechen. Die Pflicht trifft den Anbieter, bei einem selbst gebauten Bot also euch.
  • Deepfakes: Echt wirkende Bilder, Videos oder Tonaufnahmen, die KI erzeugt oder verändert hat, müsst ihr offenlegen. Bei Kunst und Satire reicht ein Hinweis, der das Werk nicht stört.
  • Texte zu Themen von öffentlichem Interesse: KI-Texte, die die Öffentlichkeit informieren sollen, brauchen einen Hinweis. Die Ausnahme: Ein Mensch hat sie geprüft, und jemand trägt die redaktionelle Verantwortung.

Die Ausnahme im dritten Punkt finde ich klug. Sie belohnt genau das, was man ohnehin tun sollte: lesen, bevor man veröffentlicht. Für den Alltag mit ChatGPT, Copilot oder Claude heißt das: Interne Texte, E-Mails und Entwürfe, die ein Mensch liest und verantwortet, musst du nicht kennzeichnen. Zusätzlich markieren die Anbieter erzeugte Inhalte maschinenlesbar, für Systeme, die schon vor August 2026 auf dem Markt waren, bis zum 2. Dezember 2026. Was so eine Markierung beweist und was nicht, steht in meinem Artikel über KI-Wasserzeichen und Kennzeichnung.

4. Hochrisiko prüfen, bevor es 2027 ernst wird

Geh das Inventar Zeile für Zeile durch und prüf jeden Einsatz gegen Anhang III: Personal, Bildung, Kredit, Versicherung, kritische Infrastruktur. Wer dort KI betreibt, braucht bis zum 2. Dezember 2027 eine menschliche Aufsicht durch Leute mit Kompetenz und Befugnis, muss Protokolle mindestens sechs Monate aufbewahren und vor dem Start Arbeitnehmervertretung und Beschäftigte informieren (Artikel 26).

Am Ende landet das Ergebnis bei Menschen, die sehr verschiedene Dinge brauchen. In einem Digital-Venture von Dr. Oetker habe ich jedes Thema dreimal aufbereitet: als Business Case für die Geschäftsführung, als priorisierte Liste für das Produktteam und als klickbaren Prototyp für die Entwicklung. Eine Wahrheit, drei Sprachen. Das ist Mehrarbeit, ehrlich gesagt sogar ziemlich viel. Beim AI Act würde ich es trotzdem genauso machen. Die Geschäftsführung bekommt eine Seite mit Rolle, Risiken und den zwei, drei Entscheidungen, die sie treffen muss. Die Fachbereiche bekommen ihre Liste, was sich in ihrem Ablauf ändert. Die IT bekommt die technischen Punkte: Protokolle, Kennzeichnung, Zugänge. Und die Arbeitnehmervertretung bekommt früh eine eigene Fassung, denn informiert werden muss sie bei Hochrisiko ohnehin.

Checkliste: Den AI Act im Unternehmen umsetzen

Die zehn Punkte sind für Unternehmen gedacht, die KI nutzen und keine eigenen KI-Produkte verkaufen:

  1. KI-Inventar anlegen: Werkzeug, Team, Zweck, Daten, verantwortliche Person. Auch Schatten-KI und KI-Funktionen in bestehender Software.
  2. Rolle bestimmen: Betreiber oder Anbieter, je Eintrag. Eigene Chatbots und Lösungen unter eigenem Namen genau ansehen.
  3. Risikoklasse einordnen: je Eintrag, zum Beispiel mit dem KI-Compliance-Kompass der Bundesnetzagentur.
  4. Verbote ausschließen: vor allem Emotionserkennung bei Beschäftigten und jede Form von Bewertung nach sozialem Verhalten.
  5. KI-Kompetenz aufbauen: Grundlage für alle, Vertiefung nach Rolle, Teilnahme und Inhalte festhalten.
  6. Regeln für den Alltag schreiben: freigegebene Werkzeuge, erlaubte Daten, Prüfung vor jeder Veröffentlichung.
  7. Transparenz klären: Chatbots als KI erkennbar machen, Deepfakes und öffentliche KI-Texte ohne redaktionelle Prüfung kennzeichnen.
  8. Hochrisiko vorbereiten: menschliche Aufsicht, Protokolle, Information von Betriebsrat und Beschäftigten bis zum 2. Dezember 2027.
  9. Anbieter fragen: Welche Unterlagen, Anleitungen und Kennzeichnungen liefern sie mit?
  10. Verantwortung festlegen: eine Person, die die Liste aktuell hält, und ein fester Termin im Jahr für den Abgleich.

Zehn Punkte klingen nach viel. Die ersten beiden schaffst du in dieser Woche, und die meisten anderen ergeben sich aus ihnen.

Für die meisten Unternehmen besteht der AI Act heute also aus einer Liste, einer Schulung und ein paar Hinweisen. Groß wird er dort, wo KI über Menschen entscheidet, und dafür bleibt nach dem Omnibus Zeit bis Dezember 2027. Was die Liste nicht löst: Sie zeigt dir, wo KI läuft. Ob sie dort gute Arbeit macht, sieht nur, wer die Ergebnisse auch liest.

Mehr als hundert Artikel, dreizehn Anhänge, ein Omnibus hinterher, und am Ende hängt fast alles an einer Tabelle mit fünf Spalten. Bleibt nur die Frage, wer sie pflegt. Stell sie in eurer nächsten Runde und achte darauf, wer plötzlich sehr interessiert in seinen Kaffee schaut. Ich würde bei dieser Person anfangen.


Studio ✺ Christos

Häufige Fragen

Wie ist der aktuelle Stand des AI Act?

Stand November 2026 gelten die Verbote und die Pflicht zur KI-Kompetenz seit Februar 2025, die Transparenzpflichten seit August 2026. Die Pflichten für Hochrisiko-KI hat die EU mit dem Digital Omnibus (Verordnung (EU) 2026/1744) auf den 2. Dezember 2027 verschoben, für KI in Produkten wie Maschinen oder Spielzeug auf den 2. August 2028. In Deutschland überwacht seit dem 29. Juli 2026 die Bundesnetzagentur die Einhaltung.

Wer ist von der KI-Verordnung betroffen?

Betroffen sind Anbieter, die KI-Systeme entwickeln und auf den Markt bringen, und Betreiber, die KI beruflich in eigener Verantwortung nutzen. Dazu zählt jedes Unternehmen, dessen Beschäftigte für die Arbeit ChatGPT, Copilot oder Claude einsetzen. Die Verordnung gilt auch für Anbieter außerhalb der EU, wenn ihre KI hier genutzt wird.

Für wen gilt die KI-Verordnung nicht?

Ausgenommen ist die rein private Nutzung durch Privatpersonen, außerdem KI ausschließlich für Militär, Verteidigung oder nationale Sicherheit und KI, die nur für die wissenschaftliche Forschung entwickelt wird. Für frei lizenzierte Open-Source-Systeme gelten Ausnahmen, aber nicht bei verbotenen Praktiken, Hochrisiko und Transparenz (Artikel 2).

Wann gilt Artikel 50 der KI-Verordnung?

Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026, etwa für Chatbots, Deepfakes und KI-Texte zu Themen von öffentlichem Interesse. Anbieter von KI-Systemen, die schon vorher auf dem Markt waren, haben für die maschinenlesbare Markierung erzeugter Inhalte bis zum 2. Dezember 2026 Zeit (Artikel 111 in der Fassung des Digital Omnibus).

Welche Kritik gibt es am AI Act?

Vielen Unternehmen ist der Aufwand zu hoch. In einer Bitkom-Umfrage vom September 2026 sagen 66 Prozent, der AI Act schaffe deutschen Unternehmen mehr Nachteile als Vorteile, 2025 waren es 56 Prozent. Von den betroffenen oder noch prüfenden Unternehmen erwarten 89 Prozent einen hohen Aufwand bei der Umsetzung.