KI-Governance: Was der AI Act verlangt
KI-Kompetenz nach Art. 4, Betreiberrolle, Risikoklassen und Fristen der Verordnung (EU) 2024/1689 – was der AI Act für deutsche Kanzleien beschreibt.
KI-Governance in der Kanzlei bezeichnet den Überblick darüber, welche KI-Werkzeuge im Einsatz sind, wer sie nutzt, wie Ausgaben geprüft werden und wie Schulungen dokumentiert sind. Die Verordnung (EU) 2024/1689 (AI Act) ordnet Kanzleien, die KI-Systeme beruflich nutzen, als Betreiber ein und nennt seit dem 2. Februar 2025 KI-Kompetenz des Personals als Pflicht (Art. 4) – unabhängig davon, ob Harvey, Noxtua oder eigene Skills im Einsatz sind.
Was regelt die Verordnung (EU) 2024/1689 für Kanzleien?
Die Verordnung (EU) 2024/1689 gilt unmittelbar in Deutschland und folgt einem risikobasierten Ansatz. Für eine Kanzlei, die Recherche-, Extraktions- oder Entwurfswerkzeuge nutzt, sind vier Stellen im Text maßgeblich:
- Art. 3 Nr. 4 – Betreiber – wer ein KI-System in eigener Verantwortung beruflich verwendet; das ist die Kanzlei, nicht der Anbieter.
- Art. 5 – verbotene Praktiken – manipulative oder bestimmte biometrische Anwendungen; für Recherche- und Textwerkzeuge in der Regel ohne Berührungspunkt.
- Anhang III Nr. 8 – Hochrisiko „Rechtspflege“ – erfasst KI-Systeme, die Justizbehörden bei Sachverhaltsermittlung und Rechtsanwendung unterstützen; die anwaltliche Nutzung ist dort nicht genannt.
- Art. 4 – KI-Kompetenz – Pflicht für Anbieter und Betreiber, seit 2. Februar 2025.
Die Fristen stehen in Art. 113: Kapitel I und II gelten seit 2. Februar 2025, die allgemeinen Pflichten ab 2. August 2026, Art. 6 Abs. 1 ab 2. August 2027. Welche Fassung aktuell gilt, zeigt der konsolidierte Text auf EUR-Lex; Änderungsvorschläge der Kommission ändern den Text erst nach Verabschiedung.
Was bedeutet KI-Kompetenz nach Art. 4?
Art. 4 verlangt von Betreibern Maßnahmen, um „nach besten Kräften“ sicherzustellen, dass Personal und beauftragte Personen über ein ausreichendes Maß an KI-Kompetenz verfügen – unter Berücksichtigung von Kenntnissen, Erfahrung, Ausbildung und dem Kontext, in dem die Systeme eingesetzt werden. Der Text nennt keine Stundenzahl, kein Zertifikat und keine Prüfung; er beschreibt ein Ziel und lässt den Weg offen.
Die Bundesrechtsanwaltskammer hat im Dezember 2024 einen Leitfaden mit Hinweisen zum KI-Einsatz veröffentlicht. Er erläutert die Pflichten der KI-Verordnung im Verhältnis zum Berufsrecht und betont die eigenverantwortliche Prüfung und Endkontrolle der KI-Ergebnisse durch den Rechtsanwalt.
Was Teilnehmer der Werkstatt dokumentieren: Datum, Dauer und Inhalt des Workshops, die gebauten Skills und wer sie im Team nutzt. Diese drei Angaben sind der Nachweis, der bei Rückfragen einer Rechtsanwaltskammer oder eines Mandanten vorgelegt werden kann – ob er als ausreichend gilt, entscheidet niemand pauschal, sondern die jeweilige Kammer im Einzelfall (KI-Workshop als Fortbildung).
Wie verhält sich der AI Act zum Berufsrecht?
Der AI Act regelt das Werkzeug, das Berufsrecht regelt den Anwalt. Beide Ebenen greifen bei jedem KI-Einsatz gleichzeitig:
| Thema | Verordnung (EU) 2024/1689 | Berufsrecht (BRAO, StGB) |
|---|---|---|
| Rolle | Betreiber (Art. 3 Nr. 4) | Rechtsanwalt als Organ der Rechtspflege (§ 1 BRAO) |
| Vertraulichkeit | keine eigene Regelung; DSGVO bleibt unberührt | Verschwiegenheit § 43a Abs. 2 BRAO, Dienstleister § 43e BRAO, § 203 StGB |
| Kompetenz | Art. 4 KI-Kompetenz | Fortbildungspflicht § 43a Abs. 8 BRAO |
| Ergebnisprüfung | Art. 26 nur für Hochrisiko-Betreiber | eigenverantwortliche Prüfung laut BRAK-Leitfaden |
Der Vertrag mit einem KI-Anbieter fällt unter § 43e BRAO, sobald der Anbieter Zugang zu Tatsachen erhält, die der Verschwiegenheit unterliegen: Textform, Verpflichtung zur Verschwiegenheit, Belehrung über § 203 StGB. Im Workshop stellt sich diese Frage nicht, weil ausschließlich öffentliche Quellen und Testdokumente verarbeitet werden – sie stellt sich am Tag danach, wenn Kanzleien den ersten Skill auf eine echte Akte anwenden wollen.
Welche Bausteine tauchen in Kanzlei-Governance auf?
Verordnungstext und BRAK-Leitfaden lassen sich in fünf Bausteine übersetzen, die Teilnehmer der Montag-Werkstatt am Nachmittag für ihre eigene Kanzlei ausfüllen:
- KI-Inventar – alle Werkzeuge, Zweck, Datenkategorien, verantwortliche Person.
- Schriftliche Regel – welche Daten in welches Werkzeug dürfen und welche nicht.
- Kompetenznachweis – Datum, Inhalt, Teilnehmer jeder Schulung (Art. 4).
- Prüfprotokoll – bei KI-gestützter Mandatsarbeit: Eingabe, Ausgabe, Prüfer, Datum.
- Störungsablauf – was bei fehlerhafter Ausgabe oder Datenpanne passiert und wer informiert wird.
Inventar-Beispiel aus dem Workshop: Spalten „Werkzeug“, „Zweck“, „Daten“, „Verantwortlich“, „Vertrag“, „Letzte Schulung“. Eine Zeile lautet: „Claude, Rechtsprechungs-Skill / Vorsortierung / nur öffentliche Quellen / RA Weber / Nutzungsbedingungen vom 01.09.2026 / Werkstatt 22.09.2026“. Eine Zeile für ein Diktat-Tool mit Mandatsbezug enthält zusätzlich Vertragsdatum und Verpflichtungserklärung nach § 43e BRAO – die Daten bestimmen die Anforderungen, nicht das Werkzeug.
Wie dokumentieren Werkstatt-Teilnehmer KI-gestützte Arbeit?
Für wiederkehrende Skills – etwa Rechtsprechung auswerten oder Anlagen prüfen – hat sich im Workshop ein fünfzeiliges Protokoll je Lauf etabliert:
- Skill und Version – Dateiname mit Datum.
- Eingabe – Dateiname oder Suchstring, ohne unnötige Personendaten.
- Ausgabe – gespeicherte Datei im Projektordner, nicht nur Chat-Verlauf.
- Prüfvermerk – wer freigegeben hat, welche Zeilen manuell nachgeprüft wurden.
- Abweichungen – was das Modell falsch oder unvollständig geliefert hat.
Protokoll-Beispiel aus einer Testakte: Skill skill-anlagen_2026-09-22.md. Eingabe: Klageerwiderung_Muster.pdf, Anlagen B 1 bis B 14. Ausgabe: Anlagen_Inventar.md. Prüfer: RA Weber, 23.09.2026 – Zeilen B 7 und B 12 mit dem Konvolut abgeglichen; das Modell hatte B 12 als „fehlt“ markiert, obwohl die Anlage vorhanden, aber im Text nicht in Bezug genommen war. Abweichung in die Fehlerliste des Skills eingetragen.
Das Protokoll zeigt zwei Dinge auf einen Blick: dass ein Mensch geprüft hat, und wo das Werkzeug typischerweise irrt. Beides ist nachlesbar, wenn eine Kammer, ein Mandant oder ein Versicherer nach dem Ablauf fragt.
Häufige Fragen
Diese Antworten fassen Governance-Fragen zur Verordnung (EU) 2024/1689 zusammen, die in Kanzleien nach dem ersten KI-Einsatz am häufigsten kommen.
Sind Recherche- und Entwurfswerkzeuge in Kanzleien Hochrisiko-KI?
Anhang III Nr. 8 nennt Systeme, die Justizbehörden bei Sachverhaltsermittlung und Rechtsanwendung unterstützen. Die anwaltliche Nutzung von Recherche- oder Entwurfswerkzeugen ist dort nicht aufgeführt. Ob ein konkretes System dennoch unter eine andere Kategorie fällt, ergibt sich aus dessen Zweckbestimmung und ist Einzelfallfrage.
Reicht der Vertrag mit einer Plattform für die gesamte Governance?
Nein. Vertrag, Hosting und Zertifizierungen decken die Anbieterseite ab. Inventar, Kompetenznachweis, Ergebnisprüfung und Protokoll betreffen die Kanzlei als Betreiber und bleiben bei ihr – bei Harvey ebenso wie bei einem lokalen Skill (Kaufen oder bauen).
Zählt der Workshop als Maßnahme nach Art. 4?
Er vermittelt praktische KI-Kompetenz an den eigenen Werkzeugen, dokumentiert mit Datum, Dauer und Inhalt. Ob das für eine Kanzlei ein „ausreichendes Maß“ im Sinne von Art. 4 ist, hängt von Rolle und Einsatzkontext der Teilnehmer ab – der Verordnungstext legt keinen Umfang fest.
Was ist beim Einsatz konkret zu beobachten?
Halluzinierte Fundstellen, veraltete Rechtsprechung, unbelegte Gewichtungen und die Frage, wann Mandatsdaten ins Spiel kommen – beschrieben in Worauf Anwälte beim KI-Einsatz achten. Weitere Artikel im Blog.