KI-Verordnung und GPAI: 8 Fragen an Ihren KI-Anbieter

Kurz gesagt: Seit dem 2. August 2026 kann die EU-Kommission über ihr Büro für Künstliche Intelligenz (AI Office) die Pflichten der Anbieter großer KI-Modelle (GPAI-Modelle) durchsetzen, bis hin zu Geldbußen und Rückruf. Kanzleien und Rechtsabteilungen sind zwar nicht die Adressaten der Regelung, aber sie sind betroffen, sobald ihr Tool auf einem solchen Modell läuft. Sie sollten ihrem Tool-Anbieter acht konkrete Fragen stellen und die Antworten dokumentieren und datiert ablegen.

Seit dem 2. August 2026 kann die Europäische Kommission die Pflichten durchsetzen, die die Verordnung (EU) 2024/1689 über künstliche Intelligenz den Anbietern von KI-Modellen mit allgemeinem Verwendungszweck auferlegt, den sogenannten GPAI-Modellen. Die Pflichten selbst gelten bereits seit dem 2. August 2025. Neu ist, dass das Büro für Künstliche Intelligenz der Kommission (AI Office) seit diesem Sommer Informationen anfordern, Modelle evaluieren, Maßnahmen verlangen und Geldbußen verhängen kann. Die Kommission hat den Beginn der Durchsetzung am 31. Juli 2026 angekündigt.

Kanzleien und Rechtsabteilungen sind in aller Regel keine GPAI-Anbieter. Sie trainieren keine großen Modelle, sondern setzen Tools ein, die auf solchen Modellen aufbauen. Adressaten der Durchsetzung sind sie deshalb nicht. Betroffen sind sie trotzdem, weil sie am Ende einer Lieferkette stehen, die jetzt beaufsichtigt wird. Was die Kommission beim Modellanbieter verlangt, kann das Tool beeinflussen, das in der eigenen Organisation im Einsatz ist – unter Umständen sehr kurzfristig.

Der Beitrag richtet sich an Partnerinnen und Partner, an Legal Operations und an Rechtsabteilungen, die KI-Tools auf Modellen Dritter einsetzen. Eine Prüfung des Einzelfalls ersetzt er nicht.

Was ist seit dem 2. August 2026 durchsetzbar?

Kapitel V der KI-Verordnung regelt die Pflichten der Anbieter von GPAI-Modellen. Kanzleien und Rechtsabteilungen treffen diese Pflichten nicht selbst. Sie bestimmen aber, welche Unterlagen es entlang der Lieferkette geben muss und was man beim Tool-Anbieter erfragen kann. Nach Artikel 53 muss jeder Anbieter

eine technische Dokumentation des Modells erstellen und aktuell halten,
Unternehmen, die das Modell in eigene KI-Systeme einbauen, Informationen und Unterlagen zur Verfügung stellen,
eine Strategie zur Einhaltung des Urheberrechts der Union vorhalten, die auch Nutzungsvorbehalte für Text- und Data-Mining berücksichtigt,
eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte nach einer Vorlage der Kommission veröffentlichen.

Für Modelle mit systemischem Risiko kommen nach Artikel 55 hinzu:

Modellevaluierungen einschließlich gezielter Angriffstests,
die Bewertung und Minderung systemischer Risiken,
die Erfassung und Meldung schwerwiegender Vorfälle an das AI Office,
ein angemessenes Niveau an Cybersicherheit.

Ein systemisches Risiko wird unter anderem vermutet, wenn für das Training mehr als 10²⁵ Gleitkommaoperationen aufgewendet wurden.

Diese Pflichten gelten seit dem 2. August 2025. Für Modelle, die vor diesem Datum in Verkehr gebracht wurden, läuft nach Artikel 111 eine Übergangsfrist bis zum 2. August 2027. Die Kommission hat die Pflichten in Leitlinien für GPAI-Anbieter näher erläutert. Daneben gibt es einen Verhaltenskodex, über den Anbieter die Einhaltung nachweisen können, und die erwähnte Vorlage für die Zusammenfassung der Trainingsinhalte.

Geändert haben sich am 2. August 2026 die Befugnisse. Nach den Erläuterungen des AI Act Service Desk kann das AI Office seitdem Informationen und Unterlagen anfordern, Zugang zu einem Modell verlangen, um es zu evaluieren, Maßnahmen zur Risikominderung anordnen und Geldbußen verhängen. Artikel 101 sieht für Anbieter von GPAI-Modellen Geldbußen von bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro vor, je nachdem, welcher Betrag höher ist. Artikel 93 erlaubt darüber hinaus, die Bereitstellung eines Modells einzuschränken oder es zurücknehmen oder zurückrufen zu lassen.

Im Rechtsmarkt kommt es vor allem auf diesen letzten Punkt an. Eine Geldbuße trifft den Anbieter. Eine Einschränkung des Modells trifft jeden, dessen Tool damit verknüpft ist und damit arbeitet.

Kurz vor dem Stichtag ist außerdem der sogenannte Digital Omnibus in Kraft getreten: die Verordnung (EU) 2026/1744 vom 8. Juli 2026, veröffentlicht im Amtsblatt am 24. Juli 2026 und in Kraft seit dem 27. Juli 2026. Er verschiebt vor allem die Fristen für Hochrisiko-KI-Systeme: für Systeme nach Anhang III auf den 2. Dezember 2027, für Systeme nach Anhang I auf den 2. August 2028. Am Beginn der Durchsetzung der GPAI-Pflichten am 2. August 2026 hat er nichts geändert. Für Betreiber ändert er zwei Punkte, die weiter unten vorkommen: die KI-Kompetenz nach Artikel 4 und die Zuständigkeit des AI Office für bestimmte KI-Systeme.

Wer ist betroffen: Modellanbieter, Tool-Anbieter oder Betreiber?

Zwischen einer Kanzlei und dem Modellanbieter steht in aller Regel ein weiteres Unternehmen: der Anbieter des Tools, das eingekauft wurde. Der Tool-Provider baut Features um das Modell herum, und dort setzt Artikel 53 Absatz 1 Buchstabe b an: Der Modellanbieter muss solchen nachgelagerten Anbietern die Informationen geben, die sie brauchen, um Fähigkeiten und Grenzen des Modells zu verstehen und ihre eigenen Pflichten zu erfüllen.

Für Betreiber folgt daraus eine einfache Arbeitsteilung. Sie haben keinen eigenen Anspruch gegen den Modellanbieter, und sie müssen auch nicht verfolgen, welche Auskunftsersuchen in Brüssel verschickt werden. Sie können aber von ihrem Tool-Anbieter verlangen, dass er die Informationen weitergibt, die er erhält, und vertraglich zusagt, sie zu informieren, wenn sich an der Grundlage etwas ändert.

Anders liegt es, wenn Modell und Tool aus einer Hand kommen, etwa bei ChatGPT Enterprise von OpenAI. Dann gibt es keinen Zwischenhändler, an den sich die Fragen richten, sondern nur den Modellanbieter selbst. Für diesen Fall gab Artikel 75 Absatz 1 dem Büro für Künstliche Intelligenz schon bisher Aufsichtsbefugnisse über das KI-System. Der Digital Omnibus hat daraus seit dem 2. August 2026 eine ausschließliche Zuständigkeit gemacht und sie auf Fälle erstreckt, in denen Modell und System von verschiedenen Gesellschaften desselben Unternehmens stammen. Ausnahmen bestehen für Bereiche mit eigener sektoraler Aufsicht. Zugleich hat das Büro eigene Ermittlungsbefugnisse erhalten, bis hin zu Nachprüfungen vor Ort. Die Aufsicht aus Brüssel reicht dann bis zu dem Tool, mit dem im Haus gearbeitet wird.

Eine Besonderheit betrifft Dienstleister, die ein Modell nicht nur einbinden, sondern verändern, etwa durch Feinabstimmung auf juristische Texte. Wer ein GPAI-Modell in erheblichem Umfang verändert, kann nach den Leitlinien der Kommission für diese Veränderung selbst zum Anbieter werden. Als Anhaltspunkt nennen die Leitlinien einen Rechenaufwand für die Veränderung von mehr als einem Drittel des ursprünglichen Trainings. Die meisten Tools im Rechtsmarkt erreichen diese Schwelle nicht. Fragen sollte man trotzdem. Wer ein Modell nennenswert verändert hat, muss für diese Veränderung eigene Unterlagen vorhalten, und genau die möchte man im Streitfall kennen.

Daneben laufen die eigenen Pflichten weiter, die mit den GPAI-Regeln nichts zu tun haben. Artikel 4 verpflichtet Betreiber seit Februar 2025, sich um die KI-Kompetenz ihres Personals zu kümmern. Der Digital Omnibus hat daraus eine Bemühenspflicht gemacht: Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Kompetenzniveau einzelner Personen müssen sie nicht mehr gewährleisten. Seit August 2026 gelten außerdem die Transparenzpflichten aus Artikel 50, soweit sie im konkreten Einsatz greifen. Die DSGVO verlangt einen Vertrag zur Auftragsverarbeitung und Klarheit über Unterauftragsverarbeiter. Für Kanzleien kommen die berufsrechtlichen Anforderungen an die Einbindung von Dienstleistern nach § 43e BRAO hinzu. Keine dieser Pflichten ist dadurch erfüllt, dass der Modellanbieter seine eigenen erfüllt.

Wie genau sich die Fragen unten beantworten lassen, hängt auch davon ab, wie tief ein Modell im eigenen Ablauf steckt. In e! von Lexemo arbeitet ein Sprachmodell nur an einzelnen, bewusst gesetzten Schritten eines Prozesses, und viele Prozesse laufen ganz ohne Modell. Dann lässt sich Schritt für Schritt sagen, was eine Einschränkung des Modells berühren würde und was weiterläuft. Weil e! zudem mehrere KI-Modelle unterstützt und sich je nach Aufgabe wählen lässt, welches Modell zum Einsatz kommt, kann bei einer Einschränkung auf ein anderes Modell ausgewichen werden. Diese Wahlfreiheit ist die wichtigste Vorkehrung, um sich gegenüber Maßnahmen gegen einzelne Modelle zukunftssicher aufzustellen. Weitere Angaben zu Datenverarbeitung und Sicherheit bei Lexemo sind in unserem Trust Center dokumentiert.

Welche Fragen sollten Kanzleien und Rechtsabteilungen ihrem KI-Anbieter stellen?

Die folgenden Fragen sind so formuliert, dass sie sich unverändert in eine Anbieterabfrage übernehmen lassen. Sie zielen auf Unterlagen und Zusagen. Eine allgemeine Versicherung wie „wir sind regelkonform“ beantwortet keine von ihnen.

Modell und Einstufung: Auf welchem GPAI-Modell welches Anbieters beruht das Tool, und in welcher Version? Wird das Modell als GPAI-Modell mit systemischem Risiko eingestuft? Werden für einzelne Funktionen andere Modelle verwendet als für den Rest?
Nachweis der Anbieterpflichten: Hat der Modellanbieter den Verhaltenskodex der Kommission unterzeichnet? Falls nicht: Wie weist er die Einhaltung der Pflichten aus Artikel 53 und gegebenenfalls Artikel 55 nach?
Trainingszusammenfassung und Urheberrecht: Wo ist die öffentliche Zusammenfassung der Trainingsinhalte abrufbar? Wo ist die Urheberrechtsstrategie beschrieben, und wie werden Nutzungsvorbehalte berücksichtigt?
Weitergabe der Unterlagen: Welche Informationen hat der Tool-Anbieter vom Modellanbieter nach Artikel 53 Absatz 1 Buchstabe b erhalten? Welche davon stellt er Ihnen zur Verfügung, und wie oft werden sie aktualisiert?
Veränderung des Modells: Wurde das Modell feinabgestimmt oder anderweitig verändert? In welchem Umfang, und hat der Tool-Anbieter geprüft, ob er dadurch selbst in die Anbieterrolle gerät?
Vorfälle und behördliche Maßnahmen: Wie und innerhalb welcher Frist werden Sie informiert, wenn es beim Modell zu einem schwerwiegenden Vorfall kommt, wenn das AI Office Maßnahmen verlangt oder wenn der Modellanbieter Funktionen einschränkt? Steht diese Zusage im Vertrag?
Daten: Welche Unterauftragsverarbeiter sind beteiligt, in welcher Region werden Eingaben verarbeitet, und ist vertraglich ausgeschlossen, dass Ihre Eingaben zum Training verwendet werden?
Ausfall und Wechsel: Was geschieht mit Ihren Abläufen, wenn das Modell eingeschränkt, ausgesetzt oder zurückgerufen wird? Gibt es ein Ausweichmodell, wie lange dauert ein Wechsel, und wie erhalten Sie Ihre Daten und Konfigurationen zurück?

Die ersten vier Fragen lassen sich in der Regel mit Unterlagen beantworten, die es ohnehin geben muss. Aufschlussreicher sind die Fragen fünf bis acht, weil sie zeigen, ob der Anbieter über seine Abhängigkeit vom Modell schon nachgedacht hat.

Wie schnell ein Modellanbieter von sich aus eingreift, hat Ende September 2026 OpenAI gezeigt. Nachdem ein Agent in einer internen Trainingsumgebung Sicherheitsvorkehrungen umgangen hatte, setzte das Unternehmen Training, Evaluierung und Tool-Nutzung seiner leistungsfähigsten Modelle aus, ohne behördliche Anordnung. Kundinnen und Kunden waren nach den vorliegenden Berichten nicht betroffen. Der Fall zeigt trotzdem, wie kurz der Weg von einem Vorfall zu einer Einschränkung sein kann, und genau darauf zielen die Fragen sechs und acht.

Woran erkennt man eine gute Antwort?

Die Fragen zu stellen ist der leichtere Teil. Schwieriger ist es, die Antworten zu bewerten. Die Übersicht nennt für jede Frage die Rechtsgrundlage, was eine belastbare Antwort enthält und woran man eine ausweichende erkennt.

1. Modell und Einstufung (Art. 51, 53)

Belastbare Antwort: Modellname, Anbieter und Version; Einstufung mit oder ohne systemisches Risiko; Übersicht, welche Funktion welches Modell nutzt
Warnsignal: „das neueste Modell von OpenAI“ ohne Version; keine Aussage zu einzelnen Funktionen

2. Nachweis der Anbieterpflichten (Art. 53, 55; Verhaltenskodex)

Belastbare Antwort: Unterzeichnung des Kodex mit Verweis auf die Unterzeichnerliste der Kommission, oder ein beschriebener anderer Nachweis
Warnsignal: „Dafür ist der Modellanbieter zuständig, nicht wir“

3. Trainingszusammenfassung und Urheberrecht (Art. 53 Abs. 1 lit. c, d)

Belastbare Antwort: Links zur öffentlichen Zusammenfassung und zur Urheberrechtsstrategie
Warnsignal: Keine Links; Verweis auf Vertraulichkeit

4. Weitergabe der Unterlagen (Art. 53 Abs. 1 lit. b, Anhang XII)

Belastbare Antwort: Liste der erhaltenen Unterlagen mit Stand; Aktualisierungsrhythmus; Zugang, notfalls unter Vertraulichkeitsvereinbarung
Warnsignal: „Haben wir, können wir nicht teilen“, ohne Alternative

5. Veränderung des Modells (Leitlinien der Kommission, Drittel-Schwelle)

Belastbare Antwort: Klare Aussage: nur Prompting und Wissensanbindung, oder Feinabstimmung mit Größenordnung; dokumentierte Prüfung der Anbieterrolle
Warnsignal: Unklarheit, ob überhaupt feinabgestimmt wurde

6. Vorfälle und behördliche Maßnahmen (Art. 55 Abs. 1 lit. c, Art. 93)

Belastbare Antwort: Vertragsklausel mit fester Frist und benannter Kontaktperson
Warnsignal: Hinweis auf Blog oder Statusseite statt vertraglicher Zusage

7. Daten (DSGVO Art. 28; § 43e BRAO)

Belastbare Antwort: Auftragsverarbeitungsvertrag; Liste der Unterauftragsverarbeiter mit Region; vertraglicher Ausschluss der Nutzung zum Training
Warnsignal: Trainingsausschluss nur als Einstellung; Region „weltweit“

8. Ausfall und Wechsel (Art. 93)

Belastbare Antwort: Benanntes Ausweichmodell; getestete Umstellungszeit; Exportformate für Daten und Konfigurationen
Warnsignal: „Das kommt bei uns nicht vor“

Die Antworten sollten ein Datum und eine zuständige Person tragen und jährlich sowie bei jedem Modellwechsel erneuert werden. Sie beschreiben immer nur das Modell, das zum Zeitpunkt der Abfrage im Einsatz war.

Häufige Fragen

Seit wann kann die EU-Kommission die GPAI-Pflichten der KI-Verordnung durchsetzen?

Seit dem 2. August 2026. Die Pflichten der Anbieter von GPAI-Modellen aus den Artikeln 53 und 55 gelten schon seit dem 2. August 2025, für ältere Modelle mit Übergangsfrist bis 2. August 2027. Die Durchsetzungsbefugnisse, die die Kommission über das AI Office ausübt, gelten erst seit dem 2. August 2026. Dazu gehören Auskunftsersuchen, Modellevaluierungen, Anordnungen zur Risikominderung, Geldbußen bis 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro sowie Einschränkung, Rücknahme und Rückruf eines Modells.

Sind Kanzleien und Rechtsabteilungen, die KI-Tools nutzen, von der GPAI-Durchsetzung betroffen?

Nicht als Adressaten, aber mittelbar. Wer ein Tool auf Grundlage eines GPAI-Modells einsetzt, ist in der Regel Betreiber eines KI-Systems und kein GPAI-Anbieter. Maßnahmen gegen den Modellanbieter, etwa ein Rückruf nach Artikel 93, schlagen aber auf jedes Tool durch, das auf dem Modell läuft. Die eigenen Pflichten bleiben daneben bestehen: KI-Kompetenz nach Artikel 4, Transparenz nach Artikel 50, Datenschutz und für Kanzleien § 43e BRAO.

Was ändert der Digital Omnibus für Betreiber von KI-Tools?

Für Kanzleien und Rechtsabteilungen vor allem zwei Dinge. Artikel 4 ist jetzt eine Bemühenspflicht: Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen, und müssen kein bestimmtes Kompetenzniveau gewährleisten. Und wo Modell und Tool vom selben Anbieter oder aus demselben Unternehmen stammen, ist seit dem 2. August 2026 ausschließlich das Büro für Künstliche Intelligenz für die Aufsicht über das Tool zuständig. Die Durchsetzung der GPAI-Pflichten hat zum 2. August 2026 wie geplant begonnen. Hochrisiko-Pflichten gelten erst ab dem 2. Dezember 2027 (Anhang III) bzw. 2. August 2028 (Anhang I). Anbieter generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben für die maschinenlesbare Kennzeichnung nach Artikel 50 Absatz 2 bis zum 2. Dezember 2026 Zeit.

Gelten die acht Fragen auch für Microsoft 365 Copilot oder ChatGPT Enterprise?

Ja. Bei Microsoft 365 Copilot ist Microsoft der Tool-Anbieter und setzt Modelle anderer Anbieter ein, unter anderem von OpenAI. Die Fragen richten sich dann an Microsoft. Bei ChatGPT Enterprise sind Modell- und Tool-Anbieter dasselbe Unternehmen. Die Fragen vier und fünf fallen dann weitgehend zusammen, die übrigen stellen Sie direkt an OpenAI.

Reicht die Zusicherung eines Anbieters, sein Tool sei AI-Act-konform?

Nein. Eine allgemeine Zusicherung ersetzt keine der Unterlagen, die die KI-Verordnung entlang der Lieferkette vorsieht, und beantwortet nicht die praktischen Fragen nach Vorfällen, Einschränkungen und Wechsel. Ob Transparenzpflichten greifen oder die eigenen Maßnahmen zur KI-Kompetenz genügen, hängt außerdem vom Einsatz im eigenen Haus ab, und das kann kein Anbieter für seine Kunden zusichern.

Quellen

Verordnung (EU) 2024/1689 (KI-Verordnung), Amtsblatt der EU: https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Verordnung (EU) 2026/1744 vom 8. Juli 2026 (Digital Omnibus zur KI-Verordnung), ABl. L vom 24.07.2026: https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:L_202601744
Europäische Kommission, Leitlinien für Anbieter von GPAI-Modellen: https://digital-strategy.ec.europa.eu/en/policies/guidelines-gpai-providers
AI Act Service Desk, FAQ zu den Durchsetzungsbefugnissen der Kommission gegenüber Anbietern von GPAI-Modellen: https://ai-act-service-desk.ec.europa.eu/en/ai-act/faq/commissions-enforcement-powers-related-ai-act-obligations-providers-most-advanced-models
Europäische Kommission, Mitteilung vom 31.07.2026 zum Beginn der Durchsetzung ab dem 2. August: https://digital-strategy.ec.europa.eu/en/news/commission-starts-enforcing-ai-act-rules-and-new-transparency-requirements-2-august
The Hacker News, Bericht vom September 2026 zur Aussetzung bei OpenAI: https://thehackernews.com/2026/09/openai-pauses-tool-use-after-agent.html

Stand dieses Beitrags: 2. Oktober 2026.

Live ansehen