Sichere Software bedeutet sichere Entscheidungen

Die Vision des selbstfahrenden Unternehmens steht und fällt mit einer Zahl: Rund 80 Prozent aller betrieblichen Entscheidungen werden von Software getroffen, Menschen entscheiden in den verbleibenden Ausnahmefällen und setzen den Rahmen. Viele Führungskräfte hören darin zuerst einen Kontrollverlust. Ich sehe das Gegenteil, allerdings unter einer Bedingung: Die Software muss so gebaut sein, dass ihre Entscheidungen nachvollziehbar, überprüfbar und lernfähig sind. Dieser Beitrag erklärt, wie Software-Algorithmen entscheiden, warum neuronale Netze und Deep Learning die Qualität dieser Entscheidungen laufend steigern und woran sich sichere Software-Entscheidungen erkennen lassen.

Warum die Entscheidung der Prüfstein ist

In „Das selbstfahrende Unternehmen“ (Springer Gabler 2021) habe ich die Schwelle so definiert: Sind etwa 80 Prozent der betrieblichen Funktionen und Entscheidungen automatisiert und von ausreichend intelligenten Algorithmen gesteuert, ist das Unternehmen selbstfahrend. Die Zahl ist bewusst als Größenordnung gewählt, denn Unternehmen durchlaufen die Evolutionsstufen nicht als Ganzes, sondern in einzelnen Bereichen, Abteilungen und Teams. Die Stufen selbst habe ich in der Zusammenfassung des Buchs beschrieben.

Entscheidend ist, was mit den übrigen 20 Prozent geschieht. Menschen entscheiden dort, wo Software an ihre Grenzen stößt: in echten Ausnahmefällen und auf der Metaebene, also bei den strategischen Vorgaben und den ethischen, ökologischen und sozialen Bedingungen, innerhalb derer die Software entscheiden darf. Das Management verschiebt sich damit vom Treffen operativer Einzelentscheidungen zum Setzen des Rahmens. Weil sämtliche Systemzustände jederzeit einsehbar sind, wird dieser Rahmen nicht nur vorgegeben, sondern laufend überprüft. Und weil der Zustand des Gesamtsystems bekannt ist, lassen sich Entscheidungen vorab simulieren, statt sie im Alltag auszuprobieren.

Wer die Vision in einem Satz ablehnt, argumentiert meist mit der Sicherheit: Software könne Fehler machen, ihre Logik sei undurchsichtig, niemand trage Verantwortung. Alle drei Einwände sind berechtigt, und alle drei lassen sich adressieren, wenn man versteht, wie Software zu Entscheidungen kommt.

Wie Software-Algorithmen Entscheidungen treffen

Unternehmerinnen und Unternehmer wissen, dass ihr Arbeitsalltag zu einem großen Teil aus Entscheidungen besteht. Genau das wird zur Kernaufgabe von Software-Algorithmen. Ihr Vorteil liegt in zwei Eigenschaften: Sie bewältigen Datenmengen, die kein Mensch überblicken kann, und ihr Entscheidungsverhalten ist vollständig protokollierbar. Eine algorithmische Entscheidung entsteht aus der Berechnung von Zusammenhängen in den Daten; welche Daten eingeflossen sind und welche Parameter den Ausschlag gaben, lässt sich im Nachhinein Schritt für Schritt nachvollziehen.

Menschen entscheiden anders. Sie verfügen fast immer über unvollständige Informationen, wägen intuitiv ab und unterliegen unter Zeitdruck, Stress und Angst, also im gewöhnlichen Büroalltag, systematischen Verzerrungen, wie sie die Verhaltensökonomie seit Jahrzehnten beschreibt. Das ist kein Vorwurf, aber es legt nahe, die strenge Logik und die Datenbreite der Software für die Masse der operativen und taktischen Entscheidungen zu nutzen und den Menschen dort einzusetzen, wo er unersetzlich ist: bei der Meta-Entscheidung, die für alle Einzelentscheidungen den stimmigen Rahmen schafft.

Das bedeutet nicht, dass Software fehlerfrei entscheidet. Gerade zu Beginn eines Lernprozesses trifft ein Algorithmus häufig Fehlentscheidungen. Der Unterschied zur menschlichen Organisation liegt im Umgang damit: Der Fehler wird von Menschen oder von anderen Algorithmen erkannt und an den Algorithmus zurückgemeldet, und dieser korrigiert seine Entscheidungsparameter, sodass die veränderte Konfiguration bereits bei der nächsten Entscheidung wirkt. Fehler sind in diesem Modell keine Betriebsstörung, sondern die systematische Grundlage für zielgerichtetes Lernen. In einer Abteilung, in der Fehler vertuscht werden, um relative Vorteile zu sichern, gibt es diesen Rückkopplungskreis nicht.

Deep Learning: Warum die Entscheidungsqualität steigt

Dass die Qualität algorithmischer Entscheidungen mit der Zeit zunimmt, beruht auf dem Prinzip neuronaler Netzwerke. Diese sind zunächst schlicht dumm. Sie bestehen aus Knoten, die miteinander verbunden sind, und das Netz entscheidet allein aufgrund dieser Verbindungen. Jeder Knoten hat eine einzige Aufgabe: Er macht laufend Inventur über die Signale, die er erhält, und gibt ein Ergebnis an seine Nachbarn weiter. Dieser Vorgang folgt einem mathematisch einfachen Konstrukt, das seit Jahrzehnten beschrieben ist (Gasteiger und Zupan 1999). Deep Learning bezeichnet die Zusammenschaltung vieler solcher Schichten, um über einfache Aufgaben hinaus eine höhere Stufe der Intelligenz zu erreichen.

Am Beispiel der Bilderkennung wird das Prinzip greifbar. Ein digitales Bild ist eine Bitmap aus Punkten mit unterschiedlichen Farb- und Grauwerten. Die erste Schicht des Netzes prüft für jeden Punkt nur, ob er hell oder dunkel ist, und reicht das Ergebnis weiter. Die nächste Schicht stellt fest, ob zwischen Nachbarpunkten ein Kontrast besteht, und erkennt daraus Linien. Weitere Schichten unterscheiden harte von weichen Kanten und gerade von gekrümmten Linien, bis irgendwann eine Schicht eine Nase oder ein Ohr erkennt, sie zählt und auf ein Gesicht schließt. Erhält das System viele Bilder von Gesichtern, lernt es, welche Merkmale eine Bitmap aufweisen muss, damit ein Gesicht vorliegt. Mit einer Datenbank lassen sich diese Gesichter schließlich Personen zuordnen, wie es die Entsperrung von Smartphones und die Fotoverwaltung längst im Alltag zeigen.

Auf diese Weise lernt ein Algorithmus mit hoher Geschwindigkeit und übertrifft seine menschlichen Kolleginnen und Kollegen bei klar umrissenen Aufgaben bald deutlich. Wo der Mensch das Ende seiner Lernkurve erreicht, lernt die Software mit jedem weiteren Datensatz weiter. Beim ersten selbstfahrenden Tesla lag die Menge der Bilder, mit denen das System lernte, im Jahr 2017 bei rund 70.000; heute sind es mehrere Millionen, und mit der Menge sinkt die Fehlerquote, wie ich im Buch beschrieben habe. Seit Ende November 2022 kann zudem jede und jeder mit ChatGPT ausprobieren, was ein tiefes neuronales Netz mit Sprache leistet. Ich halte das für einen wichtigen Moment, weil die Technologie damit für Führungskräfte anfassbar wird. Für Unternehmensentscheidungen gilt aber eine klare Abgrenzung: Ein Sprachmodell erzeugt plausible Texte, es entscheidet nicht auf Basis der Unternehmensdaten und legt seine Gründe nicht offen. Die Entscheidungsnetzwerke des selbstfahrenden Unternehmens sind auf den jeweiligen Anwendungsfall trainiert, arbeiten auf geprüften Daten und protokollieren jede Entscheidung.

Ich gehe davon aus, dass in den kommenden zehn Jahren viele Anwendungen in Unternehmen auf solchen selbstlernenden Algorithmen beruhen und daraus ein immer dichteres Netzwerk von Software-Entscheidungen entsteht, das auf Basis der gemeinsamen Daten das gesamte Unternehmen durchzieht.

Was eine Software-Entscheidung sicher macht

Sicherheit ist keine Eigenschaft des Algorithmus, sondern des Systems, in das er eingebettet ist.

Aus unseren Projekten der letzten Jahre haben sich vier Bedingungen herauskristallisiert, die eine Software-Entscheidung sicher machen:

• Nachvollziehbarkeit. Jede Entscheidung wird mit ihren Eingangsdaten, den angewandten Regeln und dem Ergebnis protokolliert. Was nicht protokolliert wird, kann weder geprüft noch korrigiert werden.
• Transparenz. Sämtliche Systemzustände sind jederzeit einsehbar. Abweichungen von den Zielen werden in Echtzeit erkannt und nicht erst im Quartalsbericht.
• Rückkopplung. Erkannte Fehler fließen als Lernsignal an den Algorithmus zurück. Ein System ohne diesen Kreislauf wiederholt seine Fehler mit hoher Präzision.
• Rahmen. Menschen definieren auf der Metaebene, welche Ziele verfolgt und welche Grenzen eingehalten werden. Die Software optimiert innerhalb dieses Rahmens, nie darüber hinaus.

Eine Einschränkung gehört dazu, und ich habe sie im Buch nicht verschwiegen: Bei selbstständig lernenden Algorithmen verändert sich das Entscheidungsverhalten mit jedem Fehler, der zurückgemeldet wird. Nach einiger Zeit aktiven Lernens ist die einzelne Entscheidung für den Menschen nicht mehr ohne Weiteres nachvollziehbar. Deshalb gehören Protokollierung und Prüfbarkeit von Beginn an in die Spezifikation entscheidungsfähiger Software und nicht in eine nachträgliche Ergänzung. Der seit April 2021 verhandelte Vorschlag der Europäischen Kommission für eine KI-Verordnung geht mit seinen Anforderungen an Transparenz und menschliche Aufsicht in genau diese Richtung.

Die Gegenüberstellung zeigt, wo Software dem Menschen überlegen ist und wo der Mensch bleibt:

Gesamtoptimum und Szenarien statt Abteilungslogik und Bauchgefühl

Softwaregesteuerte Unternehmen erreichen eine neue Dimension der Aufgabenbewältigung: Sie entscheiden genauer und schneller, lösen vielfältigere Probleme, ermüden nicht und arbeiten Tag und Nacht, ohne Wochenende und Urlaub, zu langfristig sehr niedrigen Kosten. Der wesentliche Grund für die neue Qualität liegt jedoch woanders: Die Software lässt sich streng auf das Gesamtoptimum des Unternehmens ausrichten.

Wer länger in einer größeren, hierarchisch strukturierten Organisation gearbeitet hat, kennt das Gegenteil. Jede Abteilung entwickelt mit der Zeit ihre eigene Systemlogik, wirtschaftet in die eigene Tasche, hält Informationen zurück oder gibt geschönte Zahlen weiter. Bestenfalls wird dieses Verhalten einmal im Jahr in einem Workshop aufgedeckt, und zwei Wochen später ist alles beim Alten. Die vollständige Transparenz des Gesamtsystems beendet dieses Spiel, weil jede Abweichung sofort sichtbar ist. Die übergeordnete Kontrolle bleibt beim Menschen, er übt sie aber punktuell aus, und das Berichtssystem dahinter liefert auf Knopfdruck, wofür heute Controlling-Teams wochenlang Zahlen zusammentragen.

Das zweite Argument ist der Zeithorizont. Menschen sind aufgrund ihrer begrenzten Aufnahme- und Verarbeitungskapazität kaum imstande, die weit in die Zukunft reichenden Folgen einer Entscheidung vollständig zu erfassen. Im festen Glauben, rational zu denken, bleiben erhebliche Lücken. Die Zahl der Szenarien, die mit fortschreitender Zukunft zu berücksichtigen wären, kann niemand im Kopf durchrechnen. Software im selbstfahrenden Unternehmen greift in Echtzeit auf sämtliche Unternehmensdaten zu, kombiniert sie mit externen Daten und rechnet jedes gewünschte Szenario mit allen Folgeeffekten für das gesamte Unternehmen durch. Damit liegt bereits zum Zeitpunkt der strategischen Entscheidung eine gesicherte Datengrundlage vor, aus der die operativen Pläne abgeleitet werden.

Wie groß die Aufgabe ist, zeigen die Datenmengen: Nach einer Prognose der International Data Corporation (zitiert nach Statista 2020) wächst das weltweite Datenvolumen von 33 Zettabyte im Jahr 2018 auf 175 Zettabyte im Jahr 2025, also auf mehr als das Fünffache. Das eigentliche Problem der Unternehmen ist dabei nicht die Speicherung, sondern die aktive Nutzung dieser Daten. Wer heute schon an der Flut von E-Mails scheitert, wird dieses Volumen nicht mit zusätzlichen Mitarbeiterinnen und Mitarbeitern bewältigen. Diese Aufgabe muss Software übernehmen, damit die obersten Entscheidungsträgerinnen und Entscheidungsträger Menschen bleiben können.

Die Organisation folgt der Entscheidung

Unternehmen stehen unter dauerndem Druck: Marktveränderungen, neue Technologien, Konkurrenz durch Start-ups, individuelle Kundenwünsche, Personalmangel. Klassische, hierarchisch strukturierte Organisationen mit schlecht vernetzten Abteilungen halten mit diesem Tempo oft nicht mit, und das Potenzial, das Software-Entscheidungen für eine schnelle Anpassung bieten, bleibt ungenutzt.

Deshalb verändert sich mit den Entscheidungen auch die Organisationsform. Produkte, Services und Geschäftsfunktionen lassen sich nur dann rasch anpassen, wenn Entscheidungen und Aufgaben geteilt und dezentralisiert werden. Die starren Grenzen zwischen Abteilungen lösen sich auf, und auch zu Lieferanten, Behörden und Partnern entstehen interaktive Schnittstellen, über die Entscheidungen automatisiert abgestimmt werden. Der größte Vorteil dieser softwarebasierten Organisation ist zugleich ihre einfachste Regel: Alle verfolgen konsequent dieselben Ziele, weil das System es nicht anders zulässt. Wie diese Struktur aussieht, habe ich im Beitrag Die Unternehmensstruktur für wahre Agilität beschrieben; warum die Algorithmen und nicht die Prozesse den Kern bilden, im Beitrag Das Ende der Prozesse, hoch leben die Algorithmen.

Der nächste Schritt

Sichere Software bedeutet sichere Entscheidungen, aber nur, wenn Nachvollziehbarkeit, Transparenz, Rückkopplung und Rahmen von Anfang an spezifiziert werden. Die vollständige Vision mit den Evolutionsstufen bis 2035 finden Sie unter Zum Buch. Welche Entscheidungen in Ihrem Unternehmen als Erstes an Software übergehen können und welche Anforderungen dafür in die Spezifikation gehören, klären wir gern in einem persönlichen Termin: Expertengespräch buchen.