KI in der Kanzlei nachweisen: ein Selbsttest mit den vier Pflichten aus Kaliforniens SB 574

Das Wichtigste in Kürze

• Was: SB 574 ist ein kalifornisches Gesetz darüber, wie Anwältinnen und Anwälte (und Schiedsrichter) generative KI nutzen dürfen. Der Kernsatz: „An attorney shall not delegate the practice of law to generative artificial intelligence.“
• Unterzeichnet: 30. September 2026 (Chapter 858, Statutes of 2026). In Kraft: 1. Januar 2027.
• Fundstelle: neuer § 6068.1 Business and Professions Code, eine Änderung von § 128.7 Code of Civil Procedure zur Prüfung von Zitaten und § 1282.1 Code of Civil Procedure für Schiedsrichter.
• Vier Pflichten: keine Delegation anwaltlicher Arbeit an generative KI; Prüfung der Ergebnisse, Korrektur halluzinierter Ausgaben und persönlich verifizierte Zitate; vertrauliche, personenbezogene und sonstige nicht öffentliche Informationen nur in zugangsbeschränkte Systeme; Offenlegung des Einsatzes generativer KI gegenüber dem Gericht.
• Deutschland: Das Gesetz gilt hier nicht. Als Selbsttest eignen sich die vier Pflichten trotzdem: Kann eine Kanzlei ihren KI-Einsatz mit Dokumenten belegen oder nur mit Worten versichern?

Am 30. September 2026 hat der Gouverneur von Kalifornien das Gesetz SB 574 unterzeichnet. Es gehört zu den ersten Gesetzen überhaupt, die regeln, wie Anwältinnen und Anwälte mit generativer KI arbeiten müssen. Bloomberg Law spricht von einem Gesetz, das es so noch nicht gab. Es tritt am 1. Januar 2027 in Kraft.

Für deutsche Kanzleien ist SB 574 kein geltendes Recht. Als Prüfstein taugt es trotzdem, weil die vier Pflichten ziemlich genau die Fragen beschreiben, die Mandanten, Gerichte und der eigene Partnerkreis auch hierzulande stellen, sobald es um KI geht. Als Selbsttest gelesen, wirft jede Pflicht dieselbe Frage auf: Was könnte eine Kanzlei dazu schon heute belegen, und wo fehlt der Nachweis? Der Beitrag richtet sich an Partnerinnen und Partner, an Legal Operations, an Knowledge- und Innovationsverantwortliche in Kanzleien und an Rechtsabteilungen, die externe Kanzleien mandatieren. Er ist weder eine Beratung zum US-Recht noch zum deutschen Berufsrecht im Einzelfall.

Was verlangt SB 574 von Anwältinnen und Anwälten?

Der Gesetzestext steht auf der offiziellen Seite des kalifornischen Gesetzgebers, dort mit dem Vermerk „Approved by Governor September 30, 2026.“ Der zentrale Satz ist kurz: „An attorney shall not delegate the practice of law to generative artificial intelligence.“ KI nutzen ist also erlaubt, ihr die anwaltliche Arbeit überlassen nicht. Die Verantwortung für das Ergebnis bleibt bei dem Menschen, der unterschreibt.

Daran schließen sich die Sorgfaltspflichten an. KI-Ergebnisse sind mit angemessenen Schritten zu überprüfen, ausdrücklich auch alle Fundstellen aus Rechtsprechung und Gesetz, und fehlerhafte oder halluzinierte Ausgaben sind zu korrigieren. Unabhängig davon darf ein Schriftsatz nach § 128.7 Code of Civil Procedure keine Zitate enthalten, die die verantwortliche Anwältin oder der verantwortliche Anwalt nicht persönlich verifiziert hat, egal ob sie von einer KI stammen oder nicht. Vertrauliche, personenbezogene und sonstige nicht öffentliche Informationen dürfen nur in Systeme, auf die ausschließlich die Anwältin und befugte, zur Verschwiegenheit verpflichtete Personen zugreifen können. Wer generative KI nutzt, muss das gegenüber dem Gericht offenlegen, wörtlich: „disclose the use of generative artificial intelligence to the court for all documents submitted to the court …“ Die Kanzlei Holland & Knight weist darauf hin, dass der Wortlaut offenlässt, ob die Offenlegung nur für Schriftsätze gilt, an denen KI mitgewirkt hat, oder weiter reicht.

Der Titel des Gesetzes nennt außerdem Schiedsrichter, Richter und Anbieter alternativer Streitbeilegung. Für Schiedsrichter gilt der neue § 1282.1 Code of Civil Procedure: Sie dürfen keinen Teil ihrer Entscheidungsfindung an ein generatives KI-Werkzeug delegieren und sich nicht auf KI-generierte Informationen außerhalb der Akte stützen, ohne dies den Parteien vorher offenzulegen. Das ebenfalls neue Beschwerdeverfahren für ADR-Anbieter betrifft dagegen Verstöße gegen Ethikstandards und hat mit KI nichts zu tun. Für Kanzleien mit Schiedspraxis lohnt es sich also, einen genaueren Blick auf diesen Teil zu werfen.

Dass man KI-generierte Fundstellen prüfen muss, hat sich spätestens seit den ersten Schriftsätzen mit erfundenen Zitaten auch ohne Gesetz herumgesprochen. Neu ist, dass ein Gesetzgeber die Arbeitsweise selbst regelt. Wer ab 2027 in Kalifornien einen Schriftsatz einreicht, muss neben einem guten Ergebnis auch sagen können, wie es entstanden ist. Diese zweite Frage lässt sich in vielen Kanzleien heutzutage nicht mit entsprechenden Nachweisen beantworten.

Warum die Frage auch in Deutschland ankommt

Markus Hartung, geschäftsführender Gesellschafter der Chevalier Rechtsanwaltsgesellschaft und von 2010 bis 2019 Direktor des Bucerius Center on the Legal Profession, hat die Entwicklung in seiner NJW-Kolumne „B-Note“ kommentiert, die beck-aktuell am 18. September 2026 veröffentlicht hat, also noch vor der Unterschrift. Was das Delegationsverbot genau erfasst, sei offen, weil Kalifornien „practice of law“ nie definiert hat; Hartung nennt das einen wunden Punkt. Den Ansatz hält er trotzdem für bemerkenswert: „Hier wird geregelt, wie Anwälte arbeiten müssen, und nicht nur, was sie zu unterlassen haben. […] Bei uns gibt es so etwas nicht.“ An der Verantwortung ändert das nichts. LTO fasst einen Beitrag von Christiane Bierekoven, Vorsitzende der Arbeitsgemeinschaft IT-Recht im DAV, im Anwaltsblatt so zusammen: „Die anwaltliche Haftung besteht auch für KI-Ergebnisse.“

Was für deutsche Kanzleien schon gilt

Ein Gesetz wie SB 574 gibt es in Deutschland nicht. Ungeregelt ist der KI-Einsatz in Kanzleien deshalb aber nicht.

• EU AI Act, Art. 4: Die Pflicht zur KI-Kompetenz gilt seit dem 2. Februar 2025 und wurde durch die Verordnung (EU) 2026/1744 neu gefasst (in Kraft seit 27. Juli 2026). Seitdem müssen Organisationen, die KI-Systeme einsetzen, also auch Kanzleien, Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Kompetenzniveau müssen sie nicht garantieren.
• BRAK: Die Bundesrechtsanwaltskammer hat am 8. Januar 2025 „Hinweise zum Einsatz von künstlicher Intelligenz“ veröffentlicht (Stand Dezember 2024). Sie haben empfehlenden Charakter und behandeln unter anderem Sorgfaltspflichten beim KI-Einsatz, die Verschwiegenheit und Transparenzpflichten.
• Berufsrecht: Die Verschwiegenheitspflicht (§ 43a Abs. 2 BRAO) und der strafrechtliche Schutz von Mandantengeheimnissen (§ 203 StGB) gelten für jedes KI-Werkzeug, das Mandantendaten verarbeitet. Die Regeln zur Inanspruchnahme von Dienstleistern (§ 43e BRAO) kommen hinzu, sobald ein externer Anbieter Zugang zu Mandantengeheimnissen erhält; nach den BRAK-Hinweisen genügt dafür schon die Möglichkeit der Kenntnisnahme. Daneben gilt die DSGVO.

Keine dieser Regeln schreibt vor, wie eine Kanzlei KI in einen konkreten Prozess einbauen soll. SB 574 setzt in Kalifornien immerhin Grundregeln für die Arbeitsweise, lässt aber offen, was genau unter das Delegationsverbot fällt. Eine eigene Haftungs- oder Sanktionsregel enthält § 6068.1 nicht; Verstöße gegen die Zitatpflicht fallen unter die bestehenden Sanktionen des § 128.7 Code of Civil Procedure.

Österreich: Gerichte bekommen bereits KI-Schriftsätze

Österreichische Gerichte haben bereits mit dem anderen Ende des Problems zu tun: mit KI-Texten, die tatsächlich eingereicht werden. Das Bundesfinanzgericht hat in einer Entscheidung vom 9. Juni 2026 (RV/6100033/2026), über die KPMG in ihren Tax News vom 23. September 2026 berichtet, festgehalten: „Durch sogenannte ‚künstliche Intelligenz‘ erstellte Vorbringen sind keine geeigneten Begründungen in einem Rechtsmittelverfahren und müssen daher nicht näher erläutert werden.“ Der Steuerrechtler Friedrich Fraberger greift in einem Gastbeitrag in Die Presse vom 15. September 2026 unter anderem eine Entscheidung des OGH (14 Os 95/25i) und eine weitere des BFG (RV/7101070/2026) auf. Er beschreibt, was das für die Beratungspraxis bedeutet, wenn Mandanten mit eigenen KI-Entwürfen kommen: „Oft ist der Überprüfungsaufwand für die KI-Ausführungen deutlich höher als jener Aufwand, der sich ergeben hätte, wenn der Schriftsatz oder die Beratung gleich originär durch den Rechtsanwalt oder Steuerberater erstellt worden wäre.“ Ähnliche Berichte vernehmen wir auch vom deutschen Markt.

Mandanten wollen Nachweise

Am direktesten fragen die Mandanten. Der Legal Tech Monitor 2026 des Legal Tech Verbands Deutschland beruht auf rund 360 Antworten. Demnach verlangen fast 40 Prozent der befragten Rechtsabteilungen von externen Kanzleien bereits einen Nachweis über den Einsatz von Legal Tech und KI, und 73 Prozent würden Mandate bei Kanzleien bündeln, die durch KI nachweislich Kosten sparen. Beide Zahlen drehen sich darum, was eine Kanzlei tatsächlich belegen kann.

Der Nachweis muss Prozessabläufe und Einsatz von KI deutlich zeigen. Die interne KI-Richtlinie ist bei Weitem keine geeignete Antwort.

Die vier Pflichten als Selbsttest für die eigene Kanzlei

Zu jeder Pflicht lautet die Testfrage: Könnte die Kanzlei ein Dokument als Nachweis vorlegen oder nur eine Beschreibung aus dem Gedächtnis abgeben? (Dabei geht es hier nicht um die Einhaltung kalifornischen Rechts.) Am besten eignet sich der Test an einem einzelnen, wiederkehrenden Prozess, etwa der Mandatsaufnahme, einer Standardvertragsprüfung oder der Vorbereitung eines Schriftsatzes in einem Massenverfahren.

1. Keine Delegation der anwaltlichen Tätigkeit

Die Frage dahinter lautet: An welcher Stelle eines Prozesses arbeitet KI, und wo entscheidet ein Mensch? Belegen lässt sich das mit einer Beschreibung des Prozesses, die jeden Schritt einer von drei Arten zuordnet. Ein Schritt folgt einer festen Regel, wird von KI unterstützt oder ist eine anwaltliche Entscheidung. Es hilft, auch die Gegenrichtung festzuhalten, also die Schritte, in denen keine KI arbeitet, etwa bei Fristen, Zuständigkeiten oder Gebühren. Die typische Lücke liegt darin, dass KI in vielen Kanzleien in einzelnen Unterhaltungen mit einem Sprachmodell genutzt wird, die sich hinterher niemand mehr ansieht. Wer einen solchen Prozess in e! von Lexemo abbildet, sieht an jedem Schritt, ob dort KI arbeitet, und hat zu jeder Ausführung einen Audit-Trail.

2. Prüfung von Zitaten und Ergebnissen

Geprüft wird in den meisten Kanzleien, nur festgehalten wird es selten. Für den Nachweis braucht es einen Prüfvermerk, aus dem hervorgeht, wer welches Ergebnis wann gegen welche Quelle geprüft und was korrigiert hat. Am zuverlässigsten ist ein fester Freigabeschritt im Prozess, an dem eine benannte Person zustimmen muss, bevor ein Dokument die Kanzlei verlässt. Frabergers Beobachtung gehört hierher: Der Prüfaufwand ist Arbeit, und er gehört in die Kalkulation, gerade wenn der Entwurf vom Mandanten stammt.

3. Vertraulichkeit

Hier lässt sich am meisten auf Papier bringen, und zwar schnell. Dazu gehört eine Liste der freigegebenen KI-Werkzeuge mit Angaben dazu, wo die Daten verarbeitet werden, ob Eingaben zum Training verwendet werden dürfen und welche Verträge zugrunde liegen, einschließlich der Auftragsverarbeitung und, sobald der Anbieter Zugang zu Mandantengeheimnissen erhält, der Anforderungen des § 43e BRAO an die Einbindung von Dienstleistern. Dazu kommt eine Regel, welche Datenarten in welches Werkzeug dürfen. Die Lücke ist meist dieselbe: private oder kostenlose Konten, die einzelne Kolleginnen und Kollegen nebenher nutzen und die in keiner Liste stehen.

4. Offenlegung

Eine allgemeine Offenlegungspflicht gegenüber Gerichten gibt es in Deutschland nicht. Die Frage kann trotzdem kommen, vom Mandanten, von der Gegenseite oder bei Verfahren mit Bezug zu den USA. Ein einfacher Prüfstein lautet: Könnte die Kanzlei für einen bestimmten Schriftsatz innerhalb eines Tages sagen, ob und an welcher Stelle KI beteiligt war? Ein kurzer Vermerk in der Akte reicht dafür oft schon, und derselbe Vermerk beantwortet auch die Mandantenfrage aus dem Legal Tech Monitor.

Wer den Test ehrlich durchgeht, landet selten bei der Erkenntnis, dass eine weitere Richtlinie fehlt. Meistens fehlt die Beschreibung der eigenen Prozesse, und mit einem einzigen Prozess lässt sie sich gut beginnen.

Häufig gestellte Fragen

Was regelt das kalifornische Gesetz SB 574?

SB 574 ist ein kalifornisches Gesetz vom 30. September 2026, das regelt, wie Anwältinnen und Anwälte mit generativer KI arbeiten müssen. Kern ist der Satz „An attorney shall not delegate the practice of law to generative artificial intelligence.“ Außerdem müssen KI-Ergebnisse mit angemessenen Schritten geprüft und fehlerhafte oder halluzinierte Ausgaben korrigiert werden. Zitate in Schriftsätzen muss die verantwortliche Anwältin oder der verantwortliche Anwalt persönlich verifiziert haben. Vertrauliche, personenbezogene und sonstige nicht öffentliche Informationen dürfen nur in zugangsbeschränkte Systeme eingegeben werden, und der Einsatz generativer KI ist bei eingereichten Dokumenten dem Gericht gegenüber offenzulegen. Schiedsrichter dürfen keinen Teil ihrer Entscheidung an generative KI delegieren und KI-generierte Informationen außerhalb der Akte nur nach vorheriger Offenlegung gegenüber den Parteien verwenden.

Ab wann gilt SB 574?

SB 574 ist als Chapter 858 der Statutes of 2026 verabschiedet und gilt ab dem 1. Januar 2027. Es fügt § 6068.1 in den kalifornischen Business and Professions Code ein, ändert § 128.7 Code of Civil Procedure (Zitate) und regelt in § 1282.1 Code of Civil Procedure den KI-Einsatz durch Schiedsrichter. Wie weit das Gesetz im Einzelfall reicht, etwa bei Verfahren mit Beteiligung ausländischer Kanzleien, ist eine Frage des US-Rechts und sollte mit Beratern vor Ort geklärt werden.

Gilt SB 574 für deutsche Kanzleien?

Nein, nicht für die Arbeit vor deutschen Gerichten. SB 574 richtet sich an die kalifornische Anwaltschaft. Ob eine deutsche Kanzlei mit US-Mandaten oder Verfahren in Kalifornien im Einzelfall berührt ist, lässt sich nur mit US-rechtlicher Beratung beantworten. Als Selbsttest sind die vier Pflichten trotzdem nützlich, weil Mandanten und Gerichte in Deutschland dieselben Fragen stellen.

Welche Regeln gelten in Deutschland für den KI-Einsatz von Anwälten?

Ein KI-spezifisches Gesetz für die Anwaltschaft wie SB 574 gibt es in Deutschland nicht. Nach Art. 4 EU AI Act in der Fassung der Verordnung (EU) 2026/1744 (in Kraft seit 27. Juli 2026) müssen Betreiber von KI-Systemen, also auch Kanzleien, Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen; ein bestimmtes Kompetenzniveau müssen sie nicht garantieren. Die BRAK hat am 8. Januar 2025 Hinweise zum Einsatz von KI in Kanzleien veröffentlicht (Stand Dezember 2024), die empfehlenden Charakter haben. Daneben gilt das allgemeine Berufsrecht: Verschwiegenheit (§ 43a Abs. 2 BRAO), der Schutz von Mandantengeheimnissen nach § 203 StGB und die DSGVO, dazu § 43e BRAO, sobald ein externer Dienstleister Zugang zu Mandantengeheimnissen erhält.

Müssen Anwälte in Deutschland ihre KI-Nutzung offenlegen?

Eine allgemeine gesetzliche Pflicht, KI-Nutzung gegenüber Gerichten offenzulegen, gibt es in Deutschland nicht. Mandanten, die Gegenseite oder Gerichte in grenzüberschreitenden Verfahren können trotzdem fragen, und Rechtsabteilungen tun es zunehmend: Laut Legal Tech Monitor 2026 verlangen fast 40 Prozent einen Nachweis über den KI-Einsatz externer Kanzleien. Gegenüber Mandanten ergibt sich nach den BRAK-Hinweisen aus BRAO und BORA im Grundsatz keine Pflicht, über die KI-Nutzung zu informieren. Solche Pflichten können sich aber aus dem Mandatsvertrag oder dem UWG ergeben, und die BRAK empfiehlt einen transparenten Umgang mit KI und im Zweifel eine vertragliche Regelung. Ein kurzer Aktenvermerk, ob und wo KI beteiligt war, beantwortet die meisten dieser Fragen.

Haften Anwälte für Fehler der KI?

Ja. Wer ein KI-Werkzeug nutzt, gibt die Verantwortung für das Arbeitsergebnis nicht ab. LTO fasst einen Beitrag von Christiane Bierekoven, Vorsitzende der Arbeitsgemeinschaft IT-Recht im DAV, im Anwaltsblatt so zusammen: „Die anwaltliche Haftung besteht auch für KI-Ergebnisse.“ Ein dokumentierter Prüfschritt mit benannter Person ist der verlässlichste Weg zu zeigen, dass Ergebnisse kontrolliert wurden.

Wie kann eine Kanzlei ihren KI-Einsatz gegenüber Mandanten nachweisen?

Überzeugend ist ein Nachweis, wenn er sich auf konkrete Prozesse bezieht: eine Beschreibung, welche Schritte regelbasiert sind, welche KI-gestützt und welche anwaltlich entschieden werden; eine Liste freigegebener Werkzeuge mit Angaben zu Datenverarbeitung und Training; ein dokumentierter Prüf- oder Freigabeschritt mit benannter Person; und ein Vermerk in der Akte, ob und wo KI beteiligt war. Allgemeine KI-Richtlinien ohne diesen Bezug beantworten die Frage kaum.

Quellen

• California Legislature: Gesetzestext SB 574
• Bloomberg Law, 30.09.2026: Newsom signs first-of-its-kind bill on lawyer, arbitrator AI use
• Holland & Knight, Oktober 2026: California enacts rules governing lawyers’ use of generative AI
• beck-aktuell, 18.09.2026: Hartung, NJW-Kolumne „B-Note“
• beck-aktuell, 17.09.2026: Legal Tech Monitor 2026
• KPMG Österreich Tax News, 23.09.2026: BFG zu KI-generierten Rechtsmitteln
• Die Presse, 15.09.2026: Fraberger zu KI-Schriftsätzen in Steuersachen
• LTO: Anwaltsblatt zu rechtlichen Risiken von KI (DAV)
• BRAK, 08.01.2025 (Stand Dezember 2024): Hinweise zum Einsatz von künstlicher Intelligenz
• EU AI Act (Verordnung (EU) 2024/1689), Art. 4
• Verordnung (EU) 2026/1744 (KI-Omnibus), ABl. L vom 24.07.2026: Neufassung von Art. 4 EU AI Act

Dieser Beitrag gibt einen allgemeinen Überblick zum Stand 8. Oktober 2026 und ersetzt keine Prüfung des Einzelfalls.