Wie entscheiden selbstfahrende Unternehmen

Die Vision des selbstfahrenden Unternehmens beruht auf der Prämisse, dass rund 80 Prozent der betrieblichen Funktionen und Entscheidungen von Software übernommen werden (Schnitzhofer, „Das selbstfahrende Unternehmen“, Springer Gabler 2021). Wer diese Prämisse ernst nimmt, muss klären, was eine Entscheidung überhaupt ist, denn der Begriff bedeutet in der Psychologie, in der Ökonomie und in der Informatik jeweils etwas anderes. Dieser Beitrag führt den Gedanken aus dem Januar-Beitrag Sichere Software bedeutet sichere Entscheidungen weiter und zeigt, wie Menschen entscheiden, wie Algorithmen rechnen und wo die Grenze zwischen beidem verläuft.

Drei Bedeutungen eines Wortes

Ursprünglich bezeichnet eine Entscheidung den Vorgang, mit dem ein Mensch aus mehreren möglichen Alternativen eine Handlung, eine Absicht oder eine Meinung auswählt. Die Entscheidung ist damit zunächst ein zutiefst menschliches Phänomen. Die Psychologie beschreibt sie als kognitive Aktivität: Ein Mensch wählt unter Berücksichtigung von Präferenzen, Werten, Zielen, verfügbaren Informationen und subjektiven Bewertungen aus mehreren Optionen. Emotionen und Unbewusstes wirken dabei in einem Ausmaß mit, das die Verhaltensökonomie seit Jahrzehnten dokumentiert.

Die Ökonomie versteht die Entscheidung ebenfalls als Wahl einer Handlung, verlagert den Blick aber auf Ziele und Nebenbedingungen: Kosten, Effizienz, knappe Ressourcen. In Unternehmen entscheiden zudem selten Einzelne, sondern Teams, Gremien und Hierarchien, jeweils mit eigenen Präferenzen.

Für das selbstfahrende Unternehmen kommt eine dritte Bedeutung hinzu, die der Informationstechnologie: Eine Entscheidung ist eine Funktion, die ein Computer oder ein algorithmisches System ausführt, um aus einer Menge von Eingaben eine bestimmte Aktion oder Ausgabe abzuleiten. Ein Kreditantrag wird genehmigt oder abgelehnt, eine Bestellung ausgelöst, ein Ticket priorisiert. Diese Bedeutung ist die einzige, die sich programmieren lässt, und sie beruht auf Mathematik.

Das mathematische Dilemma: Berechnungen liefern Ergebnisse

Hier wird es interessant, denn die Mathematik kennt die Entscheidung nicht als eigenständigen Begriff. Eine korrekt ausgeführte Berechnung führt nicht zu einer Entscheidung, sondern zu einem Ergebnis. Was in der Informatik „Entscheidungsfindung“ heißt, ist eine Berechnung auf Grundlage bereitgestellter Informationen, fester Kriterien und definierter Regeln. Die mathematische Entscheidungstheorie formalisiert komplexere Fälle mit Wahrscheinlichkeiten und Nutzenfunktionen: Sie fragt, wie ein möglichst vernünftiger Akteur aus einer Menge von Aktionen diejenige wählt, die bei unsicheren Umweltzuständen den erwarteten Nutzen maximiert. Auch das bleibt eine Berechnung. Das Ziel, der Nutzen und die zulässigen Aktionen kommen von außen.

Im Buch habe ich das als Meta-Entscheidung beschrieben: Algorithmen treffen keine eigenständigen Entscheidungen; Programmiererinnen und Programmierer haben zuvor den Entscheidungsspielraum festgelegt, technisch über Schwellenwerte und definierte Ergebnisparameter. Die Meta-Entscheidung gibt allen Einzelentscheidungen den Rahmen; die Software füllt ihn aus, millionenfach und ohne Ermüdung. Das gilt auch für die Sprachmodelle, über die seit dem Start von ChatGPT im November 2022 so intensiv diskutiert wird: Sie berechnen die wahrscheinliche Fortsetzung eines Textes. Das Ergebnis ist oft verblüffend, eine Entscheidung im menschlichen Sinn ist es nicht.

Eine Berechnung liefert ein Ergebnis. Zur Entscheidung wird es erst durch das Ziel, das ein Mensch vorgegeben hat.

Die Grenze der Berechnung zeigt sich, sobald die Informationen unvollständig sind. Ob ein Maschinenbauunternehmen ein neues Produktionsgebäude errichtet, hängt von Nachfrage, Zinsen, Lieferketten, Personal und Politik der nächsten zwanzig Jahre ab. Für keine dieser Größen liegen vollständige Daten vor. Die Entscheidungstheorie kann Szenarien mit Wahrscheinlichkeiten belegen, aber die Wahrscheinlichkeiten selbst sind Annahmen.

Vom Problem zur Entscheidung: wer welchen Schritt beherrscht

Im Unterschied zur Berechnung gibt es Probleme ohne eindeutige Lösung. Ein Problem liegt vor, wenn zwischen dem gewünschten Zustand und der aktuellen Situation eine Lücke besteht und kein bekannter Weg sie schließt. Der Weg vom Problem zur Entscheidung verläuft in fünf Schritten, und für jeden Schritt lässt sich recht klar sagen, ob Software oder Mensch ihn heute besser beherrscht.

Den ersten Schritt erledigt Software mit Künstlicher Intelligenz heute schon deutlich besser als jeder Mensch, weil sie ein Vielfaches an Daten unermüdlich und zielgerichtet aufbereiten kann. Beim zweiten Schritt ist gerade bei schwerwiegenden Entscheidungen menschliche Kreativität gefragt: Ideenfindung, Problemlösungstechniken, Intuition und unbewusstes Einschätzungsvermögen. Erst wenn die Alternativen vorliegen, lässt sich rational bewerten, welche das Problem am besten löst, unter Berücksichtigung von Risiken, Ressourcen und Zielen, soweit die Informationen eben reichen. Nach der Entscheidung kommt im selbstfahrenden Unternehmen wieder die Software ins Spiel: Sie definiert die konkreten Schritte, weist Verantwortlichkeiten zu und meldet, wenn die Umsetzung vom Plan abweicht.

Das menschliche Dilemma: Denkfehler und irrationales Verhalten

Der Mensch hat einen echten Vorteil: Er kann unter Unsicherheit entscheiden, mit zu wenig oder mit zu viel Information. Er stützt sich dabei auf unbewusst gesammelte Erfahrungen, die weit umfangreicher sind als das, was er bewusst verarbeitet. Genau dieser Vorteil ist zugleich die Quelle vieler Fehlentscheidungen.

Die Verhaltensökonomie untersucht das seit Jahrzehnten. Amos Tversky und Daniel Kahneman beschrieben 1974 in der Zeitschrift Science, wie Menschen unter Unsicherheit mit Heuristiken urteilen und dabei systematisch verzerrt liegen; 1979 folgte die Prospect Theory; für diese Arbeiten erhielt Kahneman 2002 den Wirtschaftsnobelpreis. In „Thinking, Fast and Slow“ (2011; deutsche Ausgabe „Schnelles Denken, langsames Denken“, 2012) fasst er das Bild in zwei Systemen zusammen: System 1 arbeitet schnell, automatisch und intuitiv, System 2 langsam, anstrengend und überlegt. Der Großteil des Arbeitsalltags läuft über System 1, und zwar umso mehr, je mehr Informationen, Zeitdruck und Angst im Spiel sind. Die Effekte sind aus jedem Büro bekannt:

• Informationsüberflutung. Bei zu vielen Informationen und begrenzten kognitiven Ressourcen ziehen wir häufig die irrelevanten heran und verdrängen die wichtigen, die gerade nicht verfügbar sind.
• Stereotypisierung. Neue Informationen werden vertrauten Typologien zugeordnet, auch wenn sie nicht ins Schema passen. Auf diesem Prinzip beruht das Vorurteil, und weil der Vorgang unbewusst abläuft, ist er kaum zu reflektieren.
• Ankereffekt. Die erste Einschätzung einer neuen Situation prägt alle späteren Urteile, selbst wenn sie sich als falsch herausstellt (Tversky und Kahneman 1974).
• Halo-Effekt. Ein einzelner Aspekt strahlt so stark, dass er alle nachfolgenden Bewertungen verzerrt.
• Gruppendruck und Risikoverlagerung. Teams streben nach Konsens und Harmonie, vermeiden Konflikte und blenden dadurch Risiken systematisch aus. Gruppenentscheidungen fallen anders aus als Einzelentscheidungen, obwohl dieselben Daten vorliegen.
• Mentale Konten. Wer ein Konzertticket um 100 Euro kauft und es auf dem Weg verliert, kauft meist kein neues. Wer auf dem Weg 100 Euro Bargeld verliert, kauft das Ticket trotzdem. Der Schaden ist identisch, die Buchung auf dem mentalen Konto „Ticket“ beziehungsweise „Gesamtvermögen“ nicht; das Beispiel geht auf Tversky und Kahneman (1981) zurück.

Dazu kommen die Motive. Der amerikanische Psychologe Steven Reiss (2004) identifizierte 16 Lebensmotive, die unser alltägliches Handeln beeinflussen, darunter Macht, Anerkennung, Ordnung, Status, Rache und Ruhe. In hierarchischen Organisationen erzeugen sie psychische Spannungen und Konflikte, aus denen unzählige Fehlentscheidungen entstehen, die mit dem Sachproblem nichts zu tun haben.

Zur Fairness gehört, dass Intuition nicht per se schlecht ist. Kahneman und Gary Klein haben 2009 herausgearbeitet, wann sie verlässlich ist: in Umgebungen mit stabilen Regelmäßigkeiten und schnellem, eindeutigem Feedback. Feuerwehrleute und Schachprofis erfüllen diese Bedingung; ein Vorstand, der alle zehn Jahre über ein Produktionsgebäude entscheidet, nicht. Das selbstfahrende Unternehmen schafft genau diese Umgebung: Es liefert Daten in Echtzeit und Feedback in kurzen Zyklen, und damit werden auch die menschlichen Entscheidungen besser.

Was Software besser kann und was sie nie können wird

Angesichts dieser Verzerrungen zeigt sich der Vorteil von Software. Sie hat keine Vorurteile, strebt nicht nach Macht und Status und ist nicht nachtragend. Sie hört jedem aufmerksam zu, ermüdet nicht, braucht keinen Urlaub und arbeitet durch Nacht und Wochenende. Es gibt keine Konflikte im Team und keine mit der Führungskraft. Sie erhält alle benötigten Daten und berechnet die Ergebnisse streng rational. Intelligente Software ist deshalb der perfekte Mikromanager, der strategische, taktische und operative Ziele schnell, präzise und fehlerfrei verfolgt, wenn wir sie dafür programmieren.

Was sie nicht hat, ist ein Motiv und ein Wille. Ihre Entscheidungsregeln sind die Ziele von Menschen, in Regeln gegossen: Einhaltung gesetzlicher Anforderungen, maximierter Output, minimierter Ressourceneinsatz, minimiertes Risiko. Für einen großen Teil der alltäglichen Entscheidungen kann das menschliche Zutun damit entfallen; das ist die Zielmarke von 80 Prozent aus dem Buch. Die verbleibenden 20 Prozent sind die Meta-Entscheidungen: Ziele setzen, Regeln entwerfen, Ausnahmen behandeln, Zielkonflikte auflösen.

Daraus folgen drei Aufgaben, die im selbstfahrenden Unternehmen niemand an Software delegieren kann:

1. Das Entscheidungssystem entwerfen. Welche Entscheidungen fallen nach welchen Regeln, mit welchen Schwellenwerten, aus welchen Daten? Diese Meta-Entscheidung ist die eigentliche Führungsaufgabe.
2. Das Entscheidungssystem überprüfen. Algorithmen müssen laufend daraufhin geprüft werden, ob das Unternehmen effektiv, effizient, rechtskonform und fair handelt und die Interessen aller Stakeholder, des Umfelds und der Umwelt schützt. Urteilsvermögen, Ethik und Moral bleiben menschlich.
3. Das Entscheidungssystem weiterentwickeln. Lernende Algorithmen machen am Anfang Fehler; jede erkannte Fehlentscheidung ist Rohstoff für die nächste Version der Regeln.

Ich halte diese Arbeitsteilung für die eigentliche Entlastung. Führungskräfte müssen ihre Intuition nicht mehr für die Prüfung von Szenarien strapazieren, die eine Maschine vollständig durchrechnen kann. Sie arbeiten an einem Entscheidungssystem höherer Ordnung, in Ruhe und befreit von den Lasten, Konflikten und Emotionen des Alltags.

Der nächste Schritt

Wie sich das Entscheidungssystem eines Unternehmens Schritt für Schritt in Software überführen lässt und welche Rolle Transparenz und Lernen dabei spielen, beschreibt das Buch „Das selbstfahrende Unternehmen“ (Springer Gabler 2021): Zum Buch. Wenn Sie prüfen möchten, welche Entscheidungen in Ihrem Unternehmen bereits heute regelbasiert fallen könnten, sprechen wir gern darüber: Expertengespräch buchen.