Wie gelingt eine positive Zukunft mit KI: Vier Dimensionen im Gleichgewicht

Innerhalb weniger Monate haben zwei sehr unterschiedliche Stimmen die Debatte über künstliche Intelligenz verschoben. Im Mai 2026 legte Papst Leo XIV. mit Magnifica Humanitas die erste Enzyklika vor, die sich ausdrücklich dem Schutz des Menschen in der Zeit der künstlichen Intelligenz widmet. Ende August folgte Bill Gates mit einem langen Essay über eine turbulente KI Ära und die Entscheidungen, die jetzt anstehen.

Beide Texte sind keine Absage an Technologie. Beide sagen etwas anderes, und zwar dasselbe: Über den Nutzen entscheidet nicht das Tempo, sondern die Richtung.

Ich teile diese Einschätzung, und ich vertrete sie aus einer sehr praktischen Perspektive. Wir bauen mit agentischen Plattformen Software für Konzerne, Banken, Energieversorger und öffentliche Institutionen. Ich sehe täglich, was funktioniert. Und ich sehe auch, wo Organisationen sich selbst schaden, weil sie Automatisierung mit Wertschöpfung verwechseln.

Was agentische Entwicklung tatsächlich verändert

Agentische Entwicklung ist nicht die nächste Stufe der Codevervollständigung. Sie verändert die gesamte Kette: Strategie, Analyse, Spezifikation, Bau, Test, Betrieb. Menschen definieren das Ziel, prüfen und verantworten. Agenten übernehmen die Ausführung.

Für Großorganisationen liegt der größte Hebel dort, wo bisher niemand hinkam. In Legacy Anwendungen stecken Jahrzehnte an Fachwissen, das nie dokumentiert wurde und dessen Autorinnen und Autoren längst in Pension sind. Genau dieses Wissen lässt sich heute aus Custom Code rekonstruieren, in eine belastbare Spezifikation überführen und danach neu bauen. Modernisierungen, die früher als unfinanzierbar galten, werden planbar.

Die Größenordnungen sind erheblich. Wir sehen Beschleunigungen bis zum Fünffachen, eine Qualitätsverbesserung von rund 30 Prozent und massive Entlastung im reinen Codieranteil. Projektübergreifend belegt ist ein Korridor von 20 bis 45 Prozent Effizienzgewinn, abhängig von Ausgangslage, Datenqualität und Reifegrad der Organisation. Wer höhere Zahlen ohne Kontext nennt, verkauft Erwartungen statt Ergebnisse.

Für den öffentlichen Sektor gilt dasselbe mit anderem Vorzeichen. Verwaltung ist regelbasiert, verfahrensförmig und dokumentationspflichtig. Das ist keine Schwäche, sondern die ideale Voraussetzung. In Der selbstfahrende Staat haben wir beschrieben, wie digitale Gesetzeszwillinge Rechtsnormen maschinenlesbar machen und Verfahren dadurch schneller, nachvollziehbarer und für Bürgerinnen und Bürger sowie Unternehmen verständlicher werden. Nicht weniger Rechtsstaat, sondern mehr davon, weil Entscheidungen erklärbar werden.

Governance ist kein Bremsklotz

Der häufigste Einwand lautet, Kontrolle koste Geschwindigkeit. Das Gegenteil trifft zu. Ungeprüfte KI Generierung erzeugt nachweislich Sicherheitslücken in erheblichem Umfang. Was ohne Prüfgates entsteht, wird im Betrieb doppelt bezahlt.

Wir arbeiten deshalb mit menschlicher Validierung an definierten Punkten, mit Sicherheits- und Qualitätsgates, mit automatisierten Abnahmetests und mit sachverständiger Prüfung. Das ist keine Bremse. Das ist die Bedingung dafür, dass ein Vorstand die Ergebnisse überhaupt in Produktion nehmen darf.

Für Verwaltungen habe ich das Prinzip in der DNA des selbstfahrenden Staates formuliert: Auch wenn Software Verfahren automatisiert, bleibt die Verantwortung beim Menschen, und jede Entscheidung muss revisionssicher dokumentiert sein. Wer das nicht garantieren kann, sollte nicht automatisieren.

Autonomie braucht drei Gegenlager

In meinen Büchern ziehe ich der Autonomie drei Dimensionen als Gegengewicht ein: Nachhaltigkeit, Resilienz und Humanität.

Autonomie ist der Motor. Sie beschreibt, wie weit ein System ohne menschliches Zutun handelt, und sie erzeugt den Produktivitätssprung.

Nachhaltigkeit fragt, was der Betrieb kostet. Rechenzentren verbrauchen Energie und Wasser. Auch der Papst weist in Magnifica Humanitas auf diesen ökologischen Preis hin. Eine Effizienzrechnung, die den Ressourcenverbrauch ausklammert, ist unvollständig.

Resilienz fragt, was passiert, wenn das System ausfällt, manipuliert wird oder falsch liegt. Ein Konzern, der seine Fähigkeit zur manuellen Rückfallebene verloren hat, ist nicht effizient, sondern verwundbar. Für kritische Infrastruktur ist das eine Existenzfrage.

Humanität fragt, ob die Menschen in und um die Organisation dabei besser leben. Sie ist die anspruchsvollste der vier Dimensionen, weil sie sich schlecht in Kennzahlen fassen lässt.

Der entscheidende Punkt: Diese vier Dimensionen kann kein Unternehmen allein austarieren. Ein einzelner Anbieter, der freiwillig langsamer macht, verliert. Es braucht Regeln, die für alle gelten. Genau das ist die Aufgabe der Policy Maker. Ihre Rolle besteht nicht darin, Autonomie zu bremsen, sondern die vier Dimensionen im Gleichklang zu halten.

Was die Enzyklika beisteuert

Leo XIV. formuliert eine Einsicht, die allen Technologieverantwortlichen vertraut vorkommen sollte: Technologie ist nicht per se ein Gegner des Menschen, aber sie ist auch nie neutral. Sie trägt die Züge derer, die sie entwerfen, finanzieren, regulieren und nutzen.

Drei Punkte halte ich für unmittelbar anschlussfähig an die Unternehmenspraxis.

Erstens die Würde der Arbeit. Die Enzyklika stellt fest, dass neue Arbeitsformen nicht automatisch bessere sind, und kritisiert Systeme, die Menschen zwingen, sich dem Takt der Maschine anzupassen, statt umgekehrt. Das ist ein Designkriterium, kein frommer Wunsch.

Zweitens die Subsidiarität. Leo XIV. beobachtet, dass die oberste Ebene im digitalen Raum längst nicht mehr der Staat ist, sondern die großen Plattformen, die Zugangsbedingungen, Sichtbarkeit und wirtschaftliche Chancen definieren. Wer Souveränität für seine Organisation will, muss diese Abhängigkeit aktiv gestalten.

Drittens die Grundfrage. Die eigentliche Alternative liegt nach der Enzyklika nicht zwischen Begeisterung und Angst, sondern zwischen zwei Entwicklungspfaden: einem Fortschritt, der Menschen und Völkern dient, und einem, der sie einer Logik der Macht unterwirft. Das ist eine Führungsentscheidung, und sie fällt in Konzernen genauso wie in Regierungen.

Was Gates beisteuert

Gates argumentiert ökonomisch und kommt an einer verwandten Stelle heraus. Er schlägt vor, bestimmte Tätigkeiten bewusst Menschen vorzubehalten, und nennt das Human Reserved. Sein Bild ist das Naturschutzgebiet: Man könnte bauen, entscheidet sich aber dagegen, weil der Verlust zu groß wäre. Er denkt dabei an zwei Formen, an dauerhaft menschliche Tätigkeiten und an befristeten Schutz für Beschäftigte, die sich realistisch nicht mehr umqualifizieren können. In der weitestgehenden Variante spricht er von einer Größenordnung bis rund 40 Prozent der Arbeitsplätze.

Dazu kommt ein steuerlicher Vorschlag. Gates argumentiert, das heutige System schiebe Unternehmen Richtung Maschine, weil Personal Lohnnebenkosten auslöst, während Anlagen abgeschrieben werden. Eine Besteuerung von Rechenleistung und Robotern soll diese Schieflage korrigieren.

Ich halte die Diagnose für zutreffend und den Vorschlag für diskussionswürdig, nicht für fertig. Gegen eine Tokensteuer sprechen Abgrenzungsprobleme, internationale Ausweichbewegungen und das Risiko, dass ausgerechnet europäische Anwender belastet werden, während die Wertschöpfung andernorts stattfindet. Aber die Debatte gehört geführt, und zwar jetzt und nicht erst, wenn die Verdrängung stattgefunden hat. Dass Rahmenbedingungen gesetzt werden müssen, damit diese Transformation sicher und zum Wohl der Menschen abläuft, ist für mich keine Konzession, sondern eine Voraussetzung.

Human Reserved beginnt nicht im Parlament, sondern im Unternehmen

Der Teil, den Unternehmen nicht dem Gesetzgeber überlassen sollten, ist der betriebswirtschaftliche.

Wir sehen bereits heute die Nachteile bei Organisationen, die zu weit automatisiert haben. Die Prozesse laufen schneller, die Beziehungen erodieren. Kundinnen und Kunden erreichen niemanden mehr, der entscheiden darf. Bewerberinnen und Bewerber springen ab, weil sie im Verfahren keinem Menschen begegnen. Lieferanten verlieren die Bereitschaft, in der Krise zu helfen, weil es niemanden gibt, dem sie helfen würden. Diese Kosten stehen in keinem Business Case, aber sie fallen an.

Der Mensch hat einen bewussten Platz in der Wertschöpfung, und zwar überall dort, wo Menschen mit Menschen interagieren. Im B2B Geschäft ist das besonders deutlich:

• Vertrieb. Ein Rahmenvertrag über mehrere Jahre wird nicht wegen einer Produktseite unterschrieben, sondern weil jemand einer Person vertraut, die im Zweifel geradesteht.
• Recruiting. Wer Menschen gewinnen will, muss ihnen begegnen. Ein vollautomatisierter Prozess selektiert vor allem jene, die Automaten bedienen können.
• Führung. Verantwortung, Feedback und schlechte Nachrichten lassen sich nicht delegieren, schon gar nicht an ein System.
• Einkauf und Verhandlung. Der Wert einer Lieferantenbeziehung zeigt sich in der Ausnahmesituation, nicht im Normalbetrieb.
• Konflikt, Beschwerde, Krise. Wer hier Empathie automatisiert, spart am teuersten Punkt der Kundenbeziehung.

Meine Regel dafür ist einfach: Automatisiert die Vorbereitung, nicht die Beziehung. Ein Vertriebsteam, dessen Analyse, Angebotslegung und Dokumentation agentisch unterstützt sind, gewinnt Zeit für genau das, was nur Menschen können. Das ist kein Verzicht auf Effizienz. Das ist ihre sinnvolle Verwendung.

Was jetzt zu tun ist

Für Vorstände und Verwaltungsspitzen:

1. Bestimmen Sie den Reifegrad ehrlich. Digital, automatisiert oder selbstfahrend. Ohne Standortbestimmung ist jede Roadmap Fiktion.
2. Beginnen Sie beim Bestand. Reverse Engineering der Legacy Landschaft liefert schneller Wert als jedes neue Frontend.
3. Definieren Sie Prüfgates, bevor Sie Geschwindigkeit einkaufen. Menschliche Validierung, Sicherheitsprüfung, Abnahmetest.
4. Legen Sie Ihre eigenen Human Reserved Felder schriftlich fest. Welche Kontaktpunkte bleiben menschlich, unabhängig davon, was technisch möglich wird.
5. Behalten Sie die Rückfallebene. Resilienz ist der Teil der Rechnung, der erst sichtbar wird, wenn es zu spät ist.

Für Policy Maker:

1. Halten Sie die vier Dimensionen im Gleichgewicht. Autonomie ohne Nachhaltigkeit, Resilienz und Humanität erzeugt kurzfristige Gewinne und langfristige Kosten.
2. Regeln Sie Nachvollziehbarkeit statt Technologie. Wer Verfahren automatisiert, muss Entscheidungen erklären und dokumentieren können.
3. Führen Sie die Debatte über Human Reserved und über die steuerliche Schieflage jetzt, offen und mit Wirtschaft und Sozialpartnern gemeinsam.
4. Verhindern Sie Konzentration. Wenn Modelle, Daten und Infrastruktur bei wenigen Akteuren liegen, ist das ein wirtschaftspolitisches Risiko und nicht nur ein ethisches.

Zum Schluss

Ich bin Optimist, und zwar aus Erfahrung. Agentische Entwicklung macht Modernisierungen möglich, die zehn Jahre lang an Budget und Kapazität gescheitert sind. Sie befreit Fachkräfte von Arbeit, die niemand vermisst. Sie kann Verwaltung wieder in ein Verhältnis zu Bürgerinnen und Bürgern bringen, das den Namen Service verdient.

Aber Autonomie ist kein Selbstzweck. Sie ist eine von vier Dimensionen. Unternehmen, die das verstehen, werden schneller sein und dabei erhalten, was ihren Wert ausmacht. Gesellschaften, die es verstehen, werden diese Transformation gestalten statt sie zu erleiden.

Die Frage ist nicht, ob wir agentisch entwickeln. Die Frage ist, wofür.

Quellen und weiterführende Literatur

• Papst Leo XIV., Magnifica Humanitas. Über den Schutz der menschlichen Person in der Zeit der künstlichen Intelligenz, Enzyklika, unterzeichnet am 15. Mai 2026, veröffentlicht am 25. Mai 2026. vatican.va
• Bill Gates, A Turbulent AI Era and Critical Choices to Make, GatesNotes, August 2026. gatesnotes.com
• Florian Schnitzhofer, Das selbstfahrende Unternehmen. Ein Denkmodell für Organisationen der Zukunft, Springer Gabler, 2021. Zum Buch
• Florian Schnitzhofer, Patrick Pils, Philipp Seper-Ambros, Der selbstfahrende Staat. Ein Denkmodell für das Zusammenleben im Staat der Zukunft, Springer Gabler, 2024. Zum Buch