Erklärbare automatisierte Entscheidungen aus dem Gesetzeszwilling

Ein Bescheid ohne Begründung ist angreifbar; eine automatisierte Entscheidung ohne Begründung ist nicht haltbar. Wer Verwaltungsentscheidungen aus einem digitalen Gesetzeszwilling erzeugen will, muss deshalb nicht nur das richtige Ergebnis liefern, sondern auch den Weg dorthin: welche Daten, welche Bestimmung, welcher Parameter, welcher Rechenschritt. Dieser Beitrag zeigt, wie der Zwilling diese Begründung als Ableitungsprotokoll aus seiner eigenen Ausführung gewinnt, was Expertinnen und Experten aus Parlamenten, Wissenschaft und Rechtspraxis in unserer Interviewstudie dazu verlangen und wo die Erklärung ehrlicherweise endet.

Die Begründung ist Teil der Entscheidung, nicht ihre Dokumentation

Das Verwaltungsverfahrensrecht lässt eine belastende Entscheidung ohne Gründe nicht zu. In Österreich ordnet § 58 Abs. 2 des Allgemeinen Verwaltungsverfahrensgesetzes (AVG) an, dass ein Bescheid zu begründen ist, sobald dem Standpunkt einer Partei nicht vollinhaltlich Rechnung getragen wird, und § 60 legt fest, was die Begründung enthalten muss: die Ergebnisse des Ermittlungsverfahrens, die maßgebenden Erwägungen der Beweiswürdigung und die darauf gestützte Beurteilung der Rechtsfrage. Für Abgabenbescheide verlangt § 93 Abs. 3 der Bundesabgabenordnung ebenfalls eine Begründung. In Deutschland regelt § 39 des Verwaltungsverfahrensgesetzes die Begründungspflicht für jeden schriftlichen Verwaltungsakt.

Für automatisierte Entscheidungen kommen zwei europäische Ebenen hinzu. Die Datenschutz-Grundverordnung verlangt in den Artikeln 13 bis 15 aussagekräftige Informationen über die involvierte Logik und schränkt in Artikel 22 ausschließlich automatisierte Entscheidungen mit rechtlicher Wirkung ein. Die KI-Verordnung (EU) 2024/1689, seit 1. August 2024 in Kraft, gibt Betroffenen in Artikel 86 das Recht auf eine Erläuterung von Einzelentscheidungen, die auf Hochrisiko-Systemen beruhen, und verlangt in Artikel 12, dass solche Systeme die automatische Aufzeichnung von Ereignissen über ihre gesamte Lebensdauer technisch ermöglichen. Ob ein deterministischer Gesetzeszwilling überhaupt als KI-System im Sinn der Verordnung gilt, ist dabei zweitrangig: Die Begründungspflicht des Verfahrensrechts trifft jeden Bescheid, gleich, wer oder was ihn vorbereitet hat.

Entscheidend ist, was eine Begründung leisten muss. Sie hat den Sachverhalt zu benennen, die angewendete Norm, die Subsumtion des einen unter das andere und das Ergebnis, und zwar so, dass die betroffene Person, die Behörde selbst und ein Gericht den Weg nachgehen können. Übersetzt in Software heißt das: Das System muss den Weg von den Eingabedaten zum Ergebnis so festhalten, dass ihn Sachbearbeiterinnen und Sachbearbeiter, Richterinnen und Richter und die betroffene Person ohne Blick in den Quellcode nachvollziehen können. Eine Erklärung, die nachträglich aus dem Ergebnis rekonstruiert wird, erfüllt diese Anforderung nicht. Sie muss beim Entscheiden selbst entstehen.

Was Expertinnen und Experten aus Parlament, Wissenschaft und Praxis verlangen

Am Institut für Wirtschaftsinformatik – Data & Knowledge Engineering der Johannes Kepler Universität Linz haben Christoph Schütz und ich in den vergangenen Monaten untersucht, unter welchen Bedingungen automatisierte Entscheidungen im Verwaltungsrecht überhaupt akzeptiert werden. Methodisch sind wir der Grounded Theory nach Strauss und Corbin gefolgt: neun Expertinnen und Experten, befragt in fünf Interviews von 60 bis 90 Minuten, aus dem Europäischen Parlament (Gesetzgebungs-Governance, Politikberatung, IT-Strategie, IT-Einheit, Innovationslabor), dem Legislativdienst eines nationalen Parlaments, der Wissenschaft, der notariellen Praxis und von einem ERP-Anbieter für den öffentlichen Sektor. Die Transkripte wurden in offener, axialer und selektiver Kodierung mit über 60 offenen Codes zu vier Kernkategorien verdichtet. Die Studie ist für die JURIX 2025, die internationale Konferenz zu Legal Knowledge and Information Systems im Dezember, angenommen.

Die vier Kernkategorien lauten: Nur ein Teil des Rechts ist automatisierbar; Begriffe müssen semantisch vereinheitlicht sein; Gesetze brauchen berechenbare Strukturen; und Gesetzgebung und Governance müssen sich anpassen. Was sich beim Kodieren aber über die Kategorien hinweg zeigte, war die Erklärbarkeit. Sie war in unseren Memos die intervenierende Bedingung, von der die Akzeptanz jedes automatisierten Vollzugs abhängt.

„Ein undurchschaubarer KI-Richter würde nie die Zustimmung der Gerichte finden.“

Der Satz stammt von einem Interviewpartner, der selbst die Richterausbildung abgeschlossen hat, aber nicht als Richter tätig ist. Eine weitere Aussage aus den Interviews bringt es aus Sicht eines Juristen auf den Punkt: Als Jurist könne er sich nicht mit halbrichtigen Lösungen zufriedengeben; er wolle nichts, das „wahrscheinlich“ richtig sei, er müsse wissen, ja oder nein. Dahinter steht eine Unterscheidung, die sich durch alle Interviews zog: Deterministische Berechnungen wie Abgaben, Gebühren oder Sozialversicherungsbeiträge werden als automatisierbar akzeptiert, weil sie formelhaft sind und ihr Ergebnis bei gleicher Eingabe immer gleich ausfällt. Wahrscheinlichkeitsaussagen, wie sie lernende Verfahren liefern, wurden für die rechtliche Ja-Nein-Entscheidung abgelehnt, nicht aus Technikskepsis, sondern weil eine Entscheidung, die ihre Gründe nicht in Rechtsbegriffen nennen kann, vor Gericht nicht standhält.

Aus den Interviews ergeben sich drei konkrete Anforderungen an ein System, das entscheiden darf. Erstens muss es seine Gründe in der Sprache des Rechts formulieren, mit Verweis auf die angewendete Bestimmung. Zweitens dürfen lernende Komponenten, etwa zur Klassifikation eingereichter Dokumente, nur vorgelagert eingesetzt werden, müssen prüfbar bleiben und dürfen nie die alleinige Grundlage einer Entscheidung sein. Drittens braucht es Eskalationspfade: Atypische Fälle, Einwendungen und Rechtsmittel gehen an Menschen, und die Erklärung muss ausweisen, welcher Codepfad welcher Rechtsgrundlage entspricht.

Das Ableitungsprotokoll: die Begründung entsteht beim Rechnen

Genau diese drei Anforderungen haben wir in die Architektur des digitalen Gesetzeszwillings eingebaut. Im Beitrag Von der Prosa zum Modell haben wir die vier Schichten beschrieben, die ein Gesetz in Text, Ontologie, Konfiguration und Logik trennen. Für die Erklärbarkeit ist entscheidend, dass jede dieser Schichten einen eigenen Beitrag zur Begründung liefert und dass die Logikschicht von Anfang an so gebaut ist, dass sie jeden Schritt protokolliert. Das Protokoll ist kein Bericht über die Berechnung; es ist die Berechnung, festgehalten in der Reihenfolge, in der sie stattgefunden hat.

Für einen Betrieb, der seinen Beitrag nach dem Oö. Tourismusgesetz 2018 berechnen lässt, liest sich das Ableitungsprotokoll in etwa so:

1. Eingaben. Gemeinde, Tätigkeit des Betriebs und maßgeblicher Umsatz, jeweils mit Herkunft: Angabe des Betriebs oder Wert aus einem Register.
2. Subsumtion. Der Betrieb ist Tourismusbetrieb im Sinn des Gesetzes; seine Tätigkeit fällt in eine bestimmte Beitragsgruppe. Beide Aussagen verweisen auf die Begriffsbestimmung im Text.
3. Zuordnung. Die Gemeinde gehört einer Ortsklasse an, mit Verweis auf die Einstufung und ihren Stand im Beitragsjahr.
4. Parameter. Prozentsatz für die Kombination aus Beitragsgruppe und Ortsklasse, Obergrenze der Bemessungsgrundlage und Mindestbeitrag, jeweils mit Fundstelle und Geltungszeitraum aus der Konfiguration.
5. Rechnung. Gedeckelter Umsatz mal Prozentsatz, Vergleich mit dem Mindestbeitrag, Ergebnis.
6. Version. Fassung des Zwillings, Stand des Gesetzes und Zeitstempel der Ausführung.

Dieses Protokoll ist genau der Inhalt, den § 60 AVG von einer Begründung verlangt: Sachverhalt, Erwägungen, rechtliche Beurteilung. Es ist vollständig, weil kein Schritt ausgeführt werden kann, ohne einen Eintrag zu erzeugen. Es ist konsistent, weil es aus derselben Logik stammt wie das Ergebnis und nicht aus einer nachgeschalteten Deutung. Und es ist handlungsleitend: Wer mit dem Ergebnis nicht einverstanden ist, sieht, welche Eingabe zu prüfen oder welche Bestimmung zu bestreiten wäre.

Für Aufsicht und Gerichte ändert das Protokoll die Arbeitsweise. Prüferinnen und Prüfer können die Fälle eines Zeitraums durch den Zwilling zurückspielen und feststellen, ob jede Entscheidung dem kodifizierten Gesetz gefolgt ist. Ein Gericht kann den amtlichen Zwilling laden, den Sachverhalt eingeben und die erwartete Ableitung mit dem angefochtenen Bescheid vergleichen; weichen beide voneinander ab, war entweder der Code fehlerhaft oder die Daten waren es, und beides ist sofort sichtbar. Wird ein Fehler im Zwilling entdeckt, gibt es eine einzige Stelle, an der er zu beheben ist, und alle betroffenen Fälle lassen sich mit dem korrigierten Stand neu berechnen. In einer Landschaft, in der jede Behörde und jedes Softwarehaus dieselbe Bestimmung eigenständig kodiert, ist keine dieser drei Prüfungen möglich.

Warum ein Sprachmodell die Begründung nicht ersetzt

Im Beitrag Ontologie oder Sprachmodell haben wir beide Methoden verglichen, um Recht in Code zu überführen. Für die Erklärung stellt sich die Frage schärfer. Die Erklärung eines Sprachmodells ist ein Text über eine Berechnung, nicht deren Aufzeichnung. In unseren Versuchen mit der Tourismusabgabe lieferten Modelle, die den Gesetzestext und die Eingaben erhielten, plausibel klingende Begründungsketten, die zwischen mehreren Durchläufen mit identischer Eingabe unterschiedlich ausfielen und Bestimmungen unvollständig oder falsch zitierten. Ein solcher Text mag lesbar sein, aber er belegt nichts, weil er nicht aus dem Vollzug stammt.

Das bedeutet nicht, dass Sprachmodelle bei der Erklärung keinen Platz hätten. Die Arbeitsteilung ist eine andere: Der Zwilling entscheidet und protokolliert, das Modell übersetzt. Über die Schnittstellen des Zwillings, die wir Anfang September beim Developers Workshop der SEMANTiCS 2025 als REST-API und über das Model Context Protocol beschrieben haben, kann ein Assistenzsystem das Ableitungsprotokoll abrufen, es in verständliche Sprache bringen und Rückfragen beantworten, etwa warum die Mindestbeitragsregel gegriffen hat. Jede Aussage, die es dabei macht, hat einen Anker im Protokoll. Die Verbindlichkeit der Begründung liegt beim Protokoll, nicht bei der Prosa. Der Zwilling für die Tourismusabgabe ist über lawdigitaltwin.com öffentlich zugänglich, sein Quellcode offen verfügbar, sodass sich diese Arbeitsteilung nachvollziehen und nachbauen lässt.

Was das Protokoll nicht erklären kann

Ein ehrliches Ableitungsprotokoll weist auch aus, wo die Automatisierung endet. Der Zwilling bildet nur ab, was das Gesetz eindeutig festlegt. Ermessen, unbestimmte Rechtsbegriffe, die Würdigung von Glaubwürdigkeit oder ein Härtefall liegen außerhalb seines Modells, und das ist Absicht: Unsere Interviewpartnerinnen und Interviewpartner haben Asylverfahren als Beispiel dafür genannt, was sich aus Dokumenten allein nicht entscheiden lässt. Trifft der Zwilling auf einen solchen Fall, auf unvollständige Daten oder auf eine Konstellation, die das Gesetz nicht vorgesehen hat, darf er keine Regel erfinden. Er bricht ab, gibt den Fall an Menschen weiter und hält im Protokoll fest, an welchem Schritt und aus welchem Grund. Auch dieser Eintrag ist Teil der Erklärung.

Zwei weitere Grenzen gehören dazu. Das Protokoll erklärt den Vollzug des Wortlauts, nicht die Absicht des Gesetzgebers; führt eine regelkonforme Berechnung zu einem Ergebnis, das dem Zweck des Gesetzes widerspricht, ist das ein Befund für die Legislative, nicht für den Zwilling. Und wo vorgelagert lernende Verfahren Eingaben liefern, etwa bei der Zuordnung eines eingereichten Belegs, muss das Protokoll diese Eingabe als solche kennzeichnen, mit eigener Prüfspur, damit erkennbar bleibt, dass die Entscheidung selbst deterministisch aus dem Gesetz folgt.

Für Verwaltungen, die automatisierte Verfahren beschaffen oder bauen, folgen daraus vier Anforderungen, die in jede Ausschreibung gehören:

• Das Ableitungsprotokoll ist eine funktionale Anforderung mit Abnahmekriterium, keine Dokumentationsfrage.
• Parameter tragen einen Geltungszeitraum, damit jeder Fall mit dem Regelstand seines Stichtags nachgerechnet werden kann.
• Bestimmungen werden über persistente Bezeichner zitiert, damit die Begründung exakt auf die Fassung verweist, die gegolten hat.
• Eskalationspfade sind Teil des Entwurfs, nicht der Ausnahmebehandlung.

Der nächste Schritt

Die Vision, aus der dieser Beitrag stammt, beschreibt die Seite Digitaler Gesetzeszwilling. Die Beiträge zur Architektur und zur Interviewstudie finden Sie unter Publikationen. Wer in einer Behörde ein Verfahren kennt, dessen Bescheide begründet werden müssen und künftig automatisiert erzeugt werden sollen, ist eingeladen, mit uns durchzugehen, wie das Ableitungsprotokoll dafür aussehen müsste.