Blog

Automation Bias in der Kanzlei: Wer entscheidet eigentlich?

Pascal Di Prima 12 Min. Lesezeit
Automation Bias in der Kanzlei: Wer entscheidet eigentlich?

KI schreibt in Kanzleien und Rechtsabteilungen inzwischen Entwürfe, Zusammenfassungen und ganze Schriftsätze in wenigen Minuten. Verantwortlich und haftbar für das Ergebnis bleibt der Mensch, der es freigibt und einreicht. Das haben im Oktober 2026 zwei deutsche Gerichte, die englische Justiz und die Law Society of England & Wales jeweils auf ihre Weise festgehalten.

Offen ist, ob die Freigabe noch ein eigenes Urteil ist oder nur bestätigt, was die Maschine vorgeschlagen hat. Eine Studie von Ende Oktober zeigt, wie leise sich das verschieben kann; die Forschung nennt das Automation Bias. Am Ende des Beitrags gibt es eine Entscheidungsinventur, mit der sich pro Prozess festlegen lässt, wo ein Mensch urteilen muss (keine Rechtsberatung, sondern ein Best-Practice-Ansatz).

Das Wichtigste in Kürze (Stand: November 2026)

  • Anthropic-Studie, 27. Oktober 2026: 50 Fachleute folgten bei analytischen Entscheidungen in 86 % der Fälle der zufällig festgelegten Tendenz einer KI. Nur 15 % nannten die KI später als Grund für ihre Entscheidung (heise, 30.10.2026).
  • BAG und BayVerfGH, September 2026: In beiden Verfahren zitierten Schriftsätze Entscheidungen, die es nicht gibt. Das BAG wertete das als Zeichen, dass der Anwalt nicht selbst geprüft hatte, und verwarf die Beschwerde als unzulässig.
  • Law Society of England & Wales, Oktober 2026: Berufliche Verantwortung lässt sich nicht an ein KI-Werkzeug übertragen. Der Hinweis ist nicht verbindlich und gilt nur für England und Wales.
  • BRAK, Oktober 2026: KI-Ergebnisse müssen vollständig und inhaltlich geprüft werden, Stichproben genügen nicht. Die Sorgfaltsanforderungen steigen mit dem Grad der Automatisierung.
  • Für die Praxis: Eine Freigabe ganz am Ende leistet am wenigsten. Wirksamer ist sie dort, wo die fachliche Weiche gestellt wird, mit sichtbaren Grundlagen und automatischer Dokumentation.

Verantwortung für KI-Entwürfe: aktuelle Entscheidungen und Einordnung

Unterschrieben wird heute meist elektronisch, Schriftsätze gehen über das beA. Entscheidend ist, wer für den Inhalt einsteht, und das bleibt ein Mensch, auch wenn eine Maschine den Text geschrieben hat.

Zwei deutsche Gerichtsentscheidungen, über die im Oktober berichtet wurde, zeigen, was passiert, wenn niemand den Inhalt wirklich geprüft hat. Das Bundesarbeitsgericht hat am 30. September 2026 (2 AZN 339/26) eine Nichtzulassungsbeschwerde als unzulässig verworfen: Vier zitierte Entscheidungen existierten nicht, drei weitere waren mit falschem Inhalt wiedergegeben (LTO). Für den Senat war das ein Indiz, dass der Prozessbevollmächtigte den Schriftsatz nicht selbst geprüft hatte; damit fehlte die vor dem BAG vorgeschriebene Vertretung durch einen postulationsfähigen Anwalt. Der Bayerische Verfassungsgerichtshof hat am 23. September 2026 (Vf. 9-VI-25) eine Missbrauchsgebühr von 3.000 Euro für eine Verfassungsbeschwerde verhängt, die sich auf erfundene Entscheidungen stützte, nach Einschätzung des Gerichts „wohl aufgrund Zuhilfenahme sog. halluzinierender KI“ (beck-aktuell). Welche Prüfungen vor dem Einreichen dazugehören, beschreibt unser Beitrag KI-Schriftsätze prüfen: Warum jetzt die Prüfung entscheidet. Hier geht es um die Frage davor: ob die Person, die freigibt, wirklich selbst urteilt, und wer haftet, wenn es schiefgeht.

Die Law Society of England & Wales hat ihre Mitglieder im Oktober in einer Mitteilung daran erinnert, dass KI keine juristische Person ist (‘AI is not a legal entity’) und Anwält:innen deshalb die berufliche Verantwortung nicht abgeben können (‘cannot transfer professional responsibility’). Der Hinweis ist nicht verbindlich und gilt für England und Wales. In der Sache dürfte er auch hierzulande kaum jemanden überraschen.

Wie konkret das im Alltag wird, zeigt ein Bericht des WDR vom 30. Oktober über die Sozialgerichte in Nordrhein-Westfalen. Eine Fachanwältin für Sozialrecht erzählt dort von einer Anfrage: „der Widerspruch [war] vorformuliert und der Mandant wollte ausschließlich, dass ich das auf meinen Briefkopf ziehe und einfach so versende.“ Der Briefkopf war das Entscheidende, denn die Person steht dafür ein. Der Druck wächst: Die Eilanträge an den Sozialgerichten in NRW stiegen laut WDR im ersten Quartal 2026 gegenüber dem ersten Quartal 2025 um 157 Prozent, von etwa 1.400 auf 3.600.

Was das für die Haftung bedeutet

Wer einen KI-Entwurf übernimmt, macht ihn zur eigenen Leistung. Enthält dieser einen Fehler, zählt es als eigener Fehler – gegenüber dem Gericht wie gegenüber dem Mandanten. Das Kammergericht hat das schon im November 2025 (17 WF 144/25) klargestellt: Zur Prüfung von KI-eingefügten Zitaten wäre ein Rechtsanwalt „sowohl aufgrund des Mandatsverhältnisses als auch als Organ der Rechtspflege verpflichtet“.

Die Bundesrechtsanwaltskammer hat das im Oktober 2026 in ihren aktualisierten Hinweisen zum Einsatz von KI konkretisiert. Verlangt ist „eine eigenverantwortliche Überprüfung und Endkontrolle der KI-Ergebnisse durch den Rechtsanwalt“, und zwar vollständig, einschließlich der zitierten Quellen: „Stichproben genügen insoweit nicht.“ Außerdem gilt: „Die Sorgfaltsanforderungen im Umgang mit KI steigen mit dem Grad der Automatisierung.“ Wer nicht prüft, riskiert nach Auffassung der BRAK auch einen Verstoß gegen das Gebot der gewissenhaften Berufsausübung nach § 43 BRAO. Auf die KI-Hinweise der BRAK hat laut LTO auch das BAG verwiesen, als es die Prüfpflicht im Verfahren 2 AZN 339/26 begründete.

Für die Freigabe besonders wichtig: Im Zusammenhang mit der Kennzeichnung nach Art. 50 KI-VO stellt die BRAK klar, dass „eine rein formale oder sprachliche Kontrolle“ nicht ausreicht. Eine Freigabe, die nur gegenliest, ob der Text gut klingt, ist also keine Prüfung im Sinne der BRAK.

Der Fall vor dem Bundesarbeitsgericht zeigt, dass das teuer werden kann. Wird ein Rechtsmittel wegen eines ungeprüften Schriftsatzes als unzulässig behandelt, ist die Instanz für den Mandanten verloren. Damit steht schnell die Frage im Raum, ob ihm dadurch ein Schaden entstanden ist. Das ist der klassische Ausgangspunkt einer Anwaltshaftung, und am Werkzeug ändert sich daran nichts.

Drei Punkte folgen daraus für die Praxis:

  1. Der Anbieter ist kein Haftungsschirm. Für eine Kanzlei gibt es Gestaltungsspielraum im Vertrag zum Thema Haftung bei ihrem KI-Anbieter. Die Haftung des Anwalts gegenüber dem Mandanten bleibt dadurch jedoch völlig unberührt.
  2. Die Dokumentation ist Beweismittel. Kommt es zum Streit, hilft nur, was festgehalten ist: wer wann was auf welcher Grundlage geprüft hat. Ein „wir schauen immer drüber“ lässt sich nicht belegen.
  3. Die Versicherung gehört ins Gespräch. Die BRAK weist auf ein Risiko hin, das viele nicht im Blick haben: Wird so weit automatisiert, dass keine anwaltliche Tätigkeit mehr vorliegt, kann die Berufshaftpflichtversicherung im Haftungsfall die Deckung „mangels anwaltlicher Tätigkeit“ verweigern. Anwält:innen sollten das mit ihrem Versicherer klären, bevor der Ernstfall eintritt.

In der Rechtsabteilung stellt sich die Frage anders, weil das eigene Unternehmen Auftraggeber ist. Auch dort muss die Person, die freigibt, intern zeigen können, worauf ihre Entscheidung beruhte.

Automation Bias: Warum eine Freigabe nicht automatisch ein eigenes Urteil ist

Bisher drehte sich die Diskussion über KI in der juristischen Arbeit vor allem darum, ob geprüft wird. Wer liest den Entwurf gegen, wer kontrolliert die Fundstellen? Das Prinzip dahinter heißt Human in the Loop: An einer festgelegten Stelle eines automatisierten Ablaufs prüft oder entscheidet ein Mensch. Es setzt voraus, dass die prüfende Person unabhängig urteilt. Genau daran rüttelt eine Studie von Anthropic, die am 27. Oktober 2026 erschienen ist.

50 Fachleute für Datenanalyse bearbeiteten darin gemeinsam mit einem KI-Agenten eine Aufgabe mit offenen Ermessensfragen. Welche Richtung der Agent bei jeder Entscheidung bevorzugte, war vorher per Zufall festgelegt worden; die Teilnehmenden wussten das nicht. heise fasst das Ergebnis so zusammen: „In 86 Prozent der Fälle übernahmen sie die Meinung des Modells, die in dem Experiment nicht wie sonst das Ergebnis von Reasoning war, sondern zufällig gewürfelt wurde.“ Ohne Einfluss der KI wären 50 Prozent zu erwarten gewesen. Und weiter: „In der Begründung ihrer Entscheidung nannten jedoch nur 15 Prozent der Teilnehmer und Teilnehmerinnen den KI-Agenten.“

Die Studie hat klare Grenzen. Die Teilnehmenden waren keine Jurist:innen und im Fachgebiet der Aufgabe neu, die Gruppe war klein, es ging um eine einzige Aufgabe mit einem einzigen Modell, und die Präferenzen der KI wurden für das Experiment bewusst verstärkt. Die Studie ist ein Preprint ohne externe Begutachtung; das Design war vorab registriert. Auffälliger als die Übernahmequote ist die zweite Zahl: Kaum jemand hat bemerkt, dass die KI überhaupt Einfluss hatte. Gleichzeitig wiederholten 37 von 48 Teilnehmenden die Argumente des Agenten in ihren eigenen Antworten.

Prof. Dr. Rolf Schwartmann hat am 20. Oktober gegenüber beck-aktuell erklärt, woher das kommt: „Menschen neigen dazu, Vorschläge von Maschinen für besonders plausibel zu halten.“ In der Forschung heißt das Automation Bias. Schwartmann setzt die Reihenfolge Mensch, Maschine, Mensch dagegen. Wer zuerst selbst denkt, läuft weniger Gefahr, dass „der Mensch nur noch Beckenrandschwimmer ist und am Ende etwas abnickt“.

Emily Bull, Juristin in der Rechtsabteilung des Energieunternehmens SSE, beschreibt im Interview mit Artificial Lawyer vom 29. Oktober die langfristige Seite: “declining verification skills concerns me particularly because it could happen quite quietly” (sinngemäß: Dass die Fähigkeit zum Prüfen nachlässt, beunruhigt mich besonders, weil es ganz leise passieren kann). Wer immer öfter nur bestätigt, verlernt das Prüfen und merkt es kaum.

Sir Geoffrey Vos, Master of the Rolls in England und Wales, hat das Dilemma dahinter in seiner Rede auf der Legal Geek am 14. Oktober benannt. Er spricht von „the stark fact that AI only saves the time of human lawyers and judges if those lawyers and judges actually accept what it says“ (sinngemäß: KI spart Anwält:innen und Richter:innen nur dann Zeit, wenn sie ihre Ergebnisse auch übernehmen). Wer alles nachliest, spart nichts. Wer nichts nachliest, trägt das Risiko allein. Auflösen lässt sich das nur im Prozess, indem der Teil, den ein Mensch wirklich beurteilen muss, klein und sichtbar bleibt.

Wo die Freigabe sitzen sollte

Angelo Aratari hat es im LexBeat #1, dem Magazin des German Legal Tech Summit, am 14. Oktober 2026 so formuliert: „Die Kontrolle ist also nicht verschwunden. Sie ist nur an andere Stellen gewandert.“ Früher steckte sie in der Arbeit selbst. Wer einen Schriftsatz von Grund auf schrieb, prüfte Fundstellen, Zahlen und den Gang der Argumentation nebenbei mit. Schreibt eine Maschine den Text, fällt diese stille Prüfung weg, und jemand muss sie bewusst an eine Stelle im Prozess setzen.

Oft landet sie aus Gewohnheit ganz am Ende, als letzter Blick auf ein fertiges Dokument. Dort ist sie am teuersten. Wer nur das Ergebnis sieht, muss im Kopf nachbauen, welche Angaben eingeflossen sind, welche Quellen die KI genutzt hat und wo sie eine Annahme getroffen hat. Das dauert entweder so lange, dass die Zeitersparnis wieder weg ist, oder es läuft auf Überfliegen hinaus. Ein fertiger, sprachlich sauberer Text verstärkt dazu den Automation Bias, weil er richtig klingt.

Mehr leistet die Freigabe dort, wo die fachliche Weiche gestellt wird. André Moser, Präsident des Verwaltungsgerichts Zürich, hat in der NZZ vom 15. Oktober beschrieben, was gute Anwält:innen leisten: „Gute Anwälte sagen ihren Klienten auch einmal, dass sich etwas nicht lohnt und sie sich auf die wesentlichen Argumente beschränken sollten“. Und: „Diesen Filter hat die KI nicht.“ Manchmal ist die wichtigste Prüfung deshalb die erste, nämlich ob sich ein Schritt überhaupt lohnt, bevor etwas formuliert wird.

Auch in Rechtsabteilungen rückt KI an die Stelle, an der Anfragen ankommen. Anbieter wollen sie dort mit Material arbeiten lassen, das beck-aktuell am 15. Oktober als „die hinterlegten Arbeitsanweisungen und Leitfäden der Rechtsabteilung“ beschreibt. Eine solche Eingangstür ist nur so gut wie die Regeln, die wirklich aufgeschrieben sind, und die Stelle, an der ein Mensch die Ergebnisse freigibt.

Die Entscheidungsinventur: ein Prozess, eine Tabelle

Ein Verbot hilft so wenig wie ein Generalverdacht gegen jedes KI-Ergebnis. Sinnvoller ist es, die Entscheidungen in einem Prozess einmal bewusst zu sortieren, bevor sich die Arbeitsteilung mit der KI von selbst einspielt.

Zum Vorsortieren eignet sich die Frage, mit der Emily Bull jede juristische Aufgabe prüft: “can we Eliminate the task, Enable someone else to do it, Engineer a better way of doing it, or does it genuinely need a lawyer’s Expertise?” Kann die Aufgabe wegfallen? Kann jemand anderes sie erledigen, wenn er das nötige Wissen bekommt? Lässt sich der Prozess besser bauen? Oder braucht es wirklich juristische Expertise? Ihr Team hat dabei bewusst klein angefangen: “We didn’t start with a huge mapping exercise” (Wir haben nicht mit einer großen Bestandsaufnahme begonnen).

Für die Schritte, die danach übrig bleiben, beantworten Sie fünf Fragen. Die rechte Spalte zeigt ein ausgedachtes Beispiel: die Ersteinschätzung, ob ein Vertrag aus dem Fachbereich rechtlich geprüft werden muss.

FrageWorauf es ankommtBeispiel: Ersteinschätzung einer Vertragsanfrage
1. Regel oder Ermessen?Fristen, Zuständigkeiten, Schwellenwerte und Pflichtangaben lassen sich einmal als Regel festlegen und schriftlich hinterlegen. Echte Ermessensfragen brauchen einen Menschen.Vertragswert, Vertragsart, fehlende Pflichtangaben: Regel. Ob eine abweichende Haftungsklausel tragbar ist: Ermessen.
2. Wer entscheidet, mit welcher Befugnis?Eine Rolle, nicht nur ein Name. Darf die Person nur bestätigen oder auch ändern, zurückweisen und eskalieren?Syndikusanwältin der Rechtsabteilung. Sie kann ändern und an die Leitung eskalieren.
3. Was sieht die Person bei der Freigabe?Die Angaben, die eingegangen sind, den Weg durch die Verzweigungen, die Quellen hinter einer KI-Antwort und die Stellen, an denen KI beteiligt war.Die Formularangaben, welche Regel gegriffen hat und welche Vertragspassage die KI-Zusammenfassung belegt.
4. Wo schlägt KI nur vor, und wer übernimmt bewusst?Die Annahme eines Vorschlags ist eine eigene Entscheidung. Hilfreich ist die Reihenfolge Mensch, Maschine, Mensch.Die Juristin liest die Klausel zuerst selbst, dann die vorgeschlagene Risikoeinstufung, und hält fest, warum sie zustimmt oder abweicht.
5. Wo ist nachzulesen, wer wie entschieden hat?Automatisch bei jeder Ausführung, nicht nachträglich von Hand: wer, wann, worüber, auf welcher Grundlage, mit welchem Ergebnis.Ein Bericht pro Anfrage. Geänderte und abgelehnte Vorschläge lassen sich später auswerten.

Oft zeigt sich dabei, dass deutlich mehr Schritte festen Regeln folgen als gedacht. Schwartmann nennt Fluggastrechte als Beispiel, bei denen man „häufig gar keine generative KI“ brauche, weil Expertensysteme mit Wenn-Dann-Regeln genügen. Wie das aussieht, zeigt die Schlichtungsstelle Reise & Verkehr (SRUV), die auch Fluggastrechtsfälle schlichtet. Sie hat 2025 mehr als 45.000 Fälle bearbeitet. Legal Bots in e! ordnen jeden Fall nach festen Regeln ein und setzen KI nur dort ein, wo Beschwerde und Unternehmensantwort gelesen werden müssen. Jede Zuordnung kommt mit einer dokumentierten Begründungskette, und bei den bewertenden Schritten entscheiden Menschen. Die Vorbereitung eines Falls dauert statt 5 bis 7 Minuten etwa eine Minute (zur Fallstudie). Jede Regel, die einmal geprüft ist, verkleinert den Bereich, den ein Mensch inhaltlich freigeben muss. Die echten Ermessensfragen bekommen dann mehr Aufmerksamkeit.

Für die erste Inventur reicht ein einziger Prozess, der häufig vorkommt und regelmäßig Ermessen verlangt. Wenn das Ergebnis trägt, kommt der nächste dazu.

Die Inventur funktioniert mit jedem Werkzeug, auch mit Papier. In e! stehen solche Entscheidungen im Entscheidungsbaum: Die Fachleute setzen den Genehmigungsschritt selbst an die Stelle, an der er hingehört, KI arbeitet nur dort, wo jemand sie eingesetzt hat, und jede Ausführung wird dokumentiert. Wie Sie einen Prozess vorher aufschreiben und für jeden Schritt zwischen Logik, KI und Mensch entscheiden, steht in KI in der Rechtsabteilung: Erst der Prozess, dann das Tool.

Als Vorlage für die erste Inventur eignet sich unser Legal Use Case Canvas: eine Seite, acht Felder, mit vier ausgefüllten Beispielen aus Rechtsabteilungen und Kanzleien.

Häufige Fragen

Was ist Automation Bias, und warum betrifft er gerade die Freigabe?

Automation Bias ist die Neigung, Vorschlägen eines technischen Systems mehr zu vertrauen, als sie verdienen. Bei der Freigabe wirkt er stark, weil die prüfende Person ein fertiges, sprachlich sauberes Ergebnis sieht, oft aber nicht die Angaben und Quellen dahinter. Abhilfe schafft eine Reihenfolge, in der der Mensch zuerst selbst einordnet, und eine Freigabe, die die Grundlagen offenlegt.

Wer haftet, wenn ein KI-Entwurf fehlerhaft ist?

Nicht die KI: Sie ist keine juristische Person. Wer einen KI-Entwurf freigibt oder einreicht, macht ihn zur eigenen Leistung; das Kammergericht (17 WF 144/25) und die KI-Hinweise der BRAK vom Oktober 2026 verlangen eine vollständige, inhaltliche Prüfung. Für die Haftung im Einzelfall kommt es auf das anwendbare Recht und die Umstände an.

Welche Schritte in einem juristischen Prozess brauchen keine KI?

Alles, was nach festen Regeln entschieden oder berechnet wird: Pflichtangaben, Zuständigkeiten, Fristen, Schwellenwerte, Berechnungen und freigegebene Textbausteine. Solche Schritte liefern bei gleichen Angaben jedes Mal dasselbe Ergebnis und lassen sich einmal prüfen statt in jedem Fall. KI ist dort nützlich, wo unstrukturierte Sprache verstanden oder ein Entwurf formuliert werden muss, und dort gehört auch die Freigabe hin.

Wie dokumentiert man eine Freigabe so, dass sie später nachvollziehbar ist?

Festzuhalten ist, wer wann worüber und auf welcher Grundlage entschieden hat: die eingegangenen Angaben, der Weg durch die Verzweigungen, die Quellen hinter einer KI-Antwort und die Entscheidung selbst (Zustimmung, Änderung oder Ablehnung). Am verlässlichsten entsteht das automatisch bei jeder Ausführung. Dann lässt sich später zeigen, dass geprüft wurde, und man sieht, wo Ergebnisse häufig korrigiert werden.

Wer sollte festlegen, wo die Freigabe im Prozess sitzt?

Die Fachleute, die den Prozess verantworten und für das Ergebnis einstehen: Partner:innen in der Kanzlei oder die Leitung der Rechtsabteilung, zusammen mit den Kolleg:innen, die die Arbeit täglich machen. IT, ein Anbieter oder ein Legal Engineer können bei der Umsetzung helfen; wo ein Mensch urteilen muss, bleibt eine fachliche Frage.

Dieser Beitrag beschreibt gute Praxis für den Umgang mit KI in Kanzleien und Rechtsabteilungen. Er ist keine Rechtsberatung und ersetzt keine rechtliche Prüfung im Einzelfall.

Bereit, Ihre rechtlichen Workflows zu automatisieren?

Entdecken Sie, wie e! Ihre rechtlichen Abläufe mit No-Code-Automatisierung transformieren kann.

Verwandte Artikel