Worauf Anwälte beim KI-Einsatz achten
Verschwiegenheit, Halluzinationen, Quellenprüfung und Freigabe: Was Anwälte beim Einsatz von Sprachmodellen beobachten – aus Läufen mit öffentlichen Quellen.
Worauf Anwälte beim KI-Einsatz achten, lässt sich in vier Beobachtungsfeldern zusammenfassen: Verschwiegenheit (welche Daten das Werkzeug erreichen), Halluzinationen (was das Modell erfindet), Quellenprüfung (was gegen den Volltext gelesen wird) und Freigabe (wer die Verantwortung für die Ausgabe trägt). Dieser Artikel beschreibt, was Teilnehmer der Montag-Werkstatt in diesen vier Feldern beobachten – eine Landkarte der Stellen, an denen es typischerweise hakt, keine Handlungsanweisung.
Wo berührt der KI-Einsatz die Verschwiegenheit?
Drei Normen bilden den Rahmen, und alle drei sind älter als jedes Sprachmodell:
- § 43a Abs. 2 BRAO – die Verschwiegenheitspflicht erfasst „alles, was ihm in Ausübung seines Berufes bekanntgeworden ist“; nicht nur Namen, sondern Sachverhalte.
- § 43e BRAO – sobald ein Dienstleister Zugang zu solchen Tatsachen erhält, verlangt das Gesetz einen Vertrag in Textform mit Verpflichtung zur Verschwiegenheit und Belehrung über die strafrechtlichen Folgen; dazu sorgfältige Auswahl des Dienstleisters.
- § 203 StGB – Verletzung von Privatgeheimnissen; Abs. 3 regelt die Offenbarung gegenüber mitwirkenden Personen, Abs. 4 deren eigene Strafbarkeit.
Was Teilnehmer beobachten: Im Workshop stellt sich die Frage nicht, weil ausschließlich öffentliche Entscheidungen und Testakten verarbeitet werden. Sie stellt sich am Tag danach. Dann fallen drei Dinge auf: Die Nutzungsbedingungen eines Browser-Chats und die eines Geschäftskunden-Vertrags desselben Anbieters unterscheiden sich bei Training auf Eingaben und Speicherdauer. Ein Sachverhalt bleibt auch ohne Namen oft zuordenbar. Und das Diktat- oder Übersetzungstool, das längst im Einsatz ist, hat dieselbe Frage nie gestellt bekommen.
Wie zeigen sich Halluzinationen in juristischer Arbeit?
Halluzinationen sind Ausgaben, die plausibel klingen, aber keine Grundlage im Quelltext haben. In Workshop-Läufen treten sechs Formen regelmäßig auf:
- Erfundene Aktenzeichen – Format stimmt, Entscheidung existiert nicht.
- Richtige Entscheidung, falsche Randnummer – die Aussage steht, aber woanders.
- Veraltete Normfassung – zitiert wird ein Absatz, der so nicht mehr gilt; Gesetze im Internet zeigt in der Kopfzeile den Stand.
- Erfundene Kommentarstellen – Autor und Werk existieren, die Randnummer nicht.
- Falsche Fristberechnung – Fristbeginn oder Feiertagsregel übersehen, Ergebnis dennoch mit Datum ausgegeben.
- Gegenansicht als tragende Erwägung – das Gericht referiert eine Meinung, um sie abzulehnen; das Modell gibt sie als Ergebnis aus.
Gemeinsam ist allen sechs Formen der überzeugende Ton. Ein Modell formuliert eine erfundene Fundstelle genauso sicher wie eine richtige. Was in den Läufen den Unterschied macht, ist nicht das Modell, sondern der Input: Liegen die Volltexte als Dateien bei, sinkt die Zahl erfundener Fundstellen deutlich; ohne beigefügte Texte treten sie in praktisch jedem Lauf auf.
Was umfasst die Quellenprüfung?
Quellenprüfung ist der Abgleich jeder Ausgabe mit der Primärquelle. In der Werkstatt läuft sie als feste Abfolge für jede Tabellenzeile, die ein Skill liefert:
- Existenz – Aktenzeichen in der BGH-Datenbank oder bei openJur suchen; Datum und Gericht abgleichen.
- Fundstelle – Randnummer im Volltext aufschlagen, Passage lesen.
- Kontext – trägt die Passage die Entscheidung oder referiert sie eine abgelehnte Ansicht?
- Aktualität – Folgeentscheidungen und Gesetzesänderungen; dejure listet zitierende Entscheidungen je Norm.
- Normfassung – bei Gesetze im Internet die Zeile „Stand“ mit dem Datum des Sachverhalts vergleichen.
Konkretes Beispiel: Ein Skill liefert zur Frage der Verjährungshemmung eine Zeile mit BGH-Entscheidung, Randnummer und Ergebnis „stützt“. Die Prüfung öffnet den Volltext, findet die Randnummer – und stellt fest, dass der Senat dort die Auffassung der Vorinstanz wiedergibt, bevor er ihr in der nächsten Randnummer widerspricht. Die Zeile ist formal richtig und inhaltlich falsch. Solche Fälle wandern in die Fehlerliste des Skills; der Ablauf im Detail steht in Rechtsprechung mit KI auswerten.
Was bedeutet Freigabe durch den Anwalt?
Freigabe heißt: Ein Anwalt hat die Ausgabe gelesen, geprüft und übernimmt oder verwirft sie. Der Leitfaden der BRAK beschreibt die eigenverantwortliche Prüfung und Endkontrolle der KI-Ergebnisse als Kern des Rahmens; die Sorgfaltsanforderungen steigen dort mit dem Grad der Automatisierung. Den Schriftsatz unterzeichnet nach § 130 Nr. 6 ZPO der Anwalt, nicht das Werkzeug.
In der Werkstatt wird Freigabe als Spalte sichtbar gemacht:
| Ausgabe des Skills | Was der Anwalt prüft | Vermerk |
|---|---|---|
| Rechtsprechungs-Tabelle | jede Zeile gegen Volltext und Randnummer | Datum, Kürzel, Zeilen geprüft |
| Anlagen-Inventar | Nummerierung und Bezugnahmen gegen das Konvolut | Datum, Kürzel, Abweichungen |
| Advocatus-Diaboli-Liste | welche Punkte überarbeitet, welche verworfen | Entscheidung je Punkt |
Was Teilnehmer beobachten: Die Spalte „Vermerk“ verändert das Arbeiten mehr als jeder Prompt. Wer weiß, dass sein Kürzel neben jeder Zeile steht, liest die Randnummer tatsächlich auf. Die Frage „Wer hat das freigegeben?“ hat so eine Antwort im Projektordner, nicht im Chat-Verlauf. Wie das Protokoll aufgebaut ist, steht in KI-Governance: Was der AI Act verlangt.
Häufige Fragen
Diese Antworten fassen die Fragen zusammen, die in der Montag-Werkstatt am Nachmittag gestellt werden, wenn aus Testakten gedanklich echte Akten werden.
Enthält die BRAO ein Verbot, KI einzusetzen?
Nein. Die BRAO nennt Sprachmodelle nicht; die Pflichten aus § 43a Abs. 2 und § 43e BRAO gelten beim KI-Einsatz weiter wie bei jedem anderen Werkzeug oder Dienstleister. Der BRAK-Leitfaden beschreibt diesen Rahmen und betont die eigenverantwortliche Prüfung der Ergebnisse; ob und wie eine Kanzlei KI einsetzt, entscheidet sie selbst.
Werden Mandanten über den KI-Einsatz informiert?
Der BRAK-Leitfaden behandelt Transparenz gegenüber Mandanten als eines seiner Themen; Art. 50 der Verordnung (EU) 2024/1689 regelt Transparenzpflichten für bestimmte Konstellationen wie die direkte Interaktion mit einem KI-System. Wie eine Kanzlei das im Mandatsverhältnis handhabt, ist Teil ihrer eigenen Regel – im Workshop wird die Frage notiert, nicht beantwortet.
Was ist mit dem Browser-Chatbot, den das Team schon nutzt?
Er ist die häufigste Beobachtung im Inventar-Baustein: ein Werkzeug ohne Vertrag, ohne Regel, ohne Prüfvermerk, aber mit Nutzung. Was Teilnehmer daraus machen, ist ihre Sache; sichtbar wird es erst, wenn es als Zeile im Inventar steht.
Wo steht mehr zu Skills und Werkzeugen?
Aufbau der Skill-Dateien: KI-Agents und Skills für die Kanzlei. Anbieter und eigene Skills im Vergleich: Legal AI: Kaufen oder selbst bauen?. Weitere Artikel im Blog.