Kognitive Software ist mehr als künstliche Intelligenz

Seit ChatGPT Ende November 2022 für alle zugänglich wurde, erreichen uns in Gesprächen mit Vorständen und IT-Leitungen zwei Fragen: Ist das die künstliche Intelligenz, die künftig Unternehmen steuert? Und wenn nicht, was fehlt noch? In meinem Buch „Das selbstfahrende Unternehmen“ (Springer Gabler 2021) verwende ich für die Software, die im Unternehmen des Jahres 2035 den Großteil der Entscheidungen trifft, einen eigenen Begriff: kognitive Software. Dieser Beitrag erklärt, was sie von der heute verfügbaren künstlichen Intelligenz unterscheidet, was ChatGPT bereits davon vorwegnimmt und welche zwei Anforderungen jede Entscheidungssoftware erfüllen muss, bevor ihr ein Unternehmen Entscheidungen überlässt.

Künstliche Intelligenz: ein alter Begriff ohne scharfe Grenze

Der Begriff der künstlichen Intelligenz ist so alt wie die Informatik selbst und bis heute nicht exakt definiert. Alan Turing schlug 1950 ein pragmatisches Kriterium vor: Künstliche Intelligenz liegt vor, wenn ich nicht mehr unterscheiden kann, ob ich es mit einem Menschen oder einer Maschine zu tun habe. Wie wenig belastbar dieses Kriterium ist, zeigte Joseph Weizenbaum bereits 1966 mit einem Programm, das Fragen lediglich umformulierte und zurückspielte, und dem einzelne Nutzerinnen und Nutzer dennoch echte Emotionen entgegenbrachten.

Für die Praxis ist eine andere Unterscheidung hilfreicher. Klassische Software besteht im Kern aus einer sehr großen Zahl von Wenn-dann-Entscheidungen, die Menschen vorab festgelegt haben. Ein Algorithmus ist ein Rezept: Ofen vorheizen, Mehl abwiegen, eine bestimmte Zeit backen. Lernende Algorithmen dagegen verändern ihre Entscheidungen anhand der Daten, die sie sehen. Das einfachste Beispiel ist der lernende Spamfilter, den ich vor Jahren selbst programmiert habe: Er speichert für jedes Wort einer E-Mail, wie oft es in Nachrichten vorkam, die Nutzerinnen und Nutzer als unerwünscht markiert haben, und leitet daraus für jede neue E-Mail eine Spam-Wahrscheinlichkeit ab.

Fast alles, was heute unter künstlicher Intelligenz läuft, ist sogenannte schwache KI oder Narrow AI: Ein Lernalgorithmus wird für eine einzelne Aufgabe trainiert, etwa Sprache erkennen, Bilder klassifizieren oder Maschinenausfälle vorhersagen. Was er dabei lernt, lässt sich nicht auf die nächste Aufgabe übertragen. Genau diese Übertragung ist im Unternehmensalltag aber die Regel: Wer ein Kundenproblem löst, greift auf Wissen über Produkte, Verträge, Lieferanten und Menschen zurück. Das langfristige Ziel der Forschung ist daher eine General Intelligence, die komplexe Denkprozesse von Menschen nachahmt und Erkenntnisse zwischen Aufgaben überträgt.

Was ChatGPT zeigt und was es nicht zeigt

Mit ChatGPT begegnet ein KI-System dem breiten Publikum nicht als Funktion in einer App, sondern als Gesprächspartner, der zu nahezu jedem Thema Rede und Antwort steht. Nach einer im Februar 2023 von Reuters zitierten UBS-Analyse hat es innerhalb von zwei Monaten rund 100 Millionen Nutzerinnen und Nutzer erreicht. Gestern hat OpenAI mit GPT-4 bereits das Nachfolgemodell vorgestellt, das nach Angaben des Herstellers auch Bilder als Eingabe versteht und in Fachprüfungen deutlich besser abschneidet als sein Vorgänger.

Bemerkenswert an ChatGPT ist nicht die einzelne Fähigkeit, sondern die Breite: Es beantwortet Folge- und Detailfragen zu nahezu jedem Wissensgebiet, korrigiert sich, wenn man es auf einen Fehler hinweist, stellt falsche Prämissen in Frage und lehnt unangemessene Anfragen ab. Damit tritt es aus dem engen Problemraum der Narrow AI heraus und zeigt in Teilbereichen genau jenen kontextbezogenen gesunden Menschenverstand, den wir für kognitive Software brauchen.

Die zweite Beobachtung ist ebenso wichtig. Im Buch habe ich beschrieben, dass künstliche Intelligenz im Kern auf einzelnen Algorithmen beruhen, in ihrer Wirkung aber aus der Vernetzung von Teilsystemen entstehen wird, so wie die Spracheingabe am Smartphone erst durch das Zusammenspiel von phonetischer Dekodierung, Sinnerfassung und Rechenzentrum brauchbar wurde. ChatGPT bestätigt das: Ein großes Sprachmodell, das Training auf Dialoge, die Bewertung der Antworten durch Menschen und eine einfache Oberfläche ergeben zusammen etwas, das keine der Komponenten für sich leistet.

Was ChatGPT nicht zeigt, ist ebenso deutlich. Es kennt weder die Verträge noch die Stücklisten oder die Kundenhistorie eines Unternehmens. Es hat keinen Zugriff auf dessen Systeme. Es erfindet, wenn es eine Antwort nicht weiß, Quellen und Zahlen, die plausibel klingen, und es kann nicht erklären, wie es zu einer Aussage gekommen ist. Als Entscheidungssystem für ein Unternehmen ist es damit ungeeignet; als Baustein eines solchen Systems ist es beeindruckend.

Was kognitive Software von künstlicher Intelligenz unterscheidet

Kognitive Software, wie ich den Begriff verwende, ist der Verbund aus lernenden Algorithmen, den Regeln und Daten des Unternehmens und den Schnittstellen zu seinen Systemen, der Entscheidungen selbstständig, vorausschauend und nachvollziehbar trifft. Der Unterschied zur heute üblichen künstlichen Intelligenz liegt in vier Punkten:

• Kontext statt Einzelaufgabe. Kognitive Software ahmt intellektuelle Fähigkeiten flexibel nach und wendet sie über Aufgaben hinweg an, statt ein einzelnes Muster zu erkennen.
• Dynamik statt Momentaufnahme. Sie bewältigt Herausforderungen in dynamischen Systemen, passt sich an veränderte Bedingungen an und bleibt bei Störungen handlungsfähig.
• Unternehmensdaten statt Weltwissen. Ihr Rohstoff sind die eigenen Daten, ergänzt um externe Quellen wie Wetterdaten, Marktpreise oder Bonitätsinformationen.
• Begründung statt Blackbox. Jede Entscheidung ist nachvollziehbar und in ihrer Wirkung vorhersehbar; dazu weiter unten mehr.

Die Rechenleistung dafür ist längst vorhanden; für Teilbereiche eines Unternehmens lässt sich kognitive Software heute bauen. Ihre Entwicklung beginnt allerdings nicht beim Algorithmus, sondern bei der Analyse, wie Menschen im jeweiligen Bereich tatsächlich entscheiden: welche Informationen sie heranziehen, welche Regeln sie anwenden, wo sie Ermessen ausüben. Erst diese Analyse macht aus einem Modell eine Software, der ein Unternehmen Entscheidungen überlassen kann.

Vier Einsatzfelder: Erkennen, Assistieren, Vorhersagen, Detektieren

In der Literatur werden lernende Algorithmen meist nach Methode oder Lernverhalten eingeteilt: symbolische KI, neuronale Netze, Simulation. Für Entscheidungsträgerinnen und Entscheidungsträger ist eine Einteilung nach Einsatzgebiet nützlicher, weil Anwendungsfälle desselben Feldes ähnliche Daten, Risiken und Integrationsanforderungen haben. Aus unserer Beratungspraxis ist dafür das RAPD-Framework entstanden, das ich im Buch beschreibe:

ChatGPT fällt in das Feld Assistance und zeigt, wie schnell dieses Feld gerade reift. Die anderen drei Felder sind in vielen Unternehmen bereits produktiv, allerdings meist als isolierte Lösungen einzelner Abteilungen. Kognitive Software entsteht, wenn die vier Felder mit den Unternehmensdaten und untereinander verbunden werden: Sie wertet fortlaufend große Datenmengen aus, erkennt Muster im Verhalten von Kundinnen und Kunden sowie von Märkten, interpretiert Korrelationen, bewertet Chancen und Risiken datenbasiert, erstellt individualisierte Angebote, beschleunigt Entscheidungen in Akutsituationen und hält Compliance-Vorgaben ohne Ausnahme ein.

Zwei Anforderungen: Nachvollziehbarkeit und Vorhersehbarkeit

Die wichtigsten Anforderungen an kognitive Software habe ich im Buch nicht technisch, sondern gesellschaftlich begründet: Entscheidungen, die niemand nachvollziehen kann, werden von Betroffenen nicht akzeptiert, weder von Mitarbeiterinnen und Mitarbeitern noch von Kundinnen und Kunden, weder von Aufsichtsbehörden noch von Gerichten. Nachvollziehbarkeit bedeutet, dass sich für jede Entscheidung angeben lässt, auf welchen Daten und Regeln sie beruht. Vorhersehbarkeit bedeutet, dass sich vorab sagen lässt, wie die Software in einer bestimmten Situation entscheiden wird. Der von der Europäischen Kommission im April 2021 vorgelegte Entwurf einer KI-Verordnung zielt auf dieselben Eigenschaften, und wir gehen davon aus, dass sie zum Maßstab für jeden Einsatz im Unternehmen werden.

Für den Umgang mit Systemen wie ChatGPT folgt daraus eine klare Regel: Sie gehören dorthin, wo ein Mensch das Ergebnis prüft, bevor es wirkt, also in die Vorbereitung von Texten, Recherchen und Entscheidungsvorlagen. In einer Kreditentscheidung, einer Schadensregulierung oder einer Preisfreigabe haben sie als Blackbox nichts verloren. Dort braucht es kognitive Software, deren Regeln explizit sind und deren lernende Komponenten so eingebettet werden, dass ihr Beitrag protokolliert und geprüft werden kann. Warum sichere Software sichere Entscheidungen bedeutet und wie selbstfahrende Unternehmen entscheiden, haben wir in dieser Serie bereits beschrieben.

Warum Menschen schlechter entscheiden, als sie glauben

Der Einwand liegt nahe: Warum sollte Software besser entscheiden als erfahrene Führungskräfte? Die Antwort gibt die Verhaltensökonomie, die seit den Arbeiten von Daniel Kahneman und Amos Tversky systematisch belegt, wie wenig rational Menschen unter Informationsflut, Zeitdruck und Stress entscheiden, also unter den Bedingungen des normalen Büroalltags. Sechs Verzerrungen sind für Unternehmensentscheidungen besonders folgenreich:

• Informationsüberlastung. Bei zu vielen Informationen ziehen Menschen wegen begrenzter kognitiver Ressourcen nur wenige heran, und oft die weniger relevanten.
• Stereotype. Neue Informationen werden bekannten Mustern zugeordnet, auch wenn sie nicht hineinpassen; weil das unbewusst geschieht, wird es selten bemerkt.
• Ankereffekt. Die erste Einschätzung prägt alle weiteren, selbst wenn sie sich als falsch herausstellt.
• Halo-Effekt. Ein einzelner, besonders auffälliger Aspekt überstrahlt alle übrigen und verzerrt die Gesamtbeurteilung.
• Risky Shift. In Gruppen dominiert das Streben nach Konsens und Harmonie; Risiken werden systematisch ausgeblendet, und Entscheidungen fallen riskanter aus als Einzelentscheidungen auf derselben Datenbasis.
• Mentale Konten. Wer eine Opernkarte um 100 Euro verliert, kauft meist keine neue; wer auf dem Weg 100 Euro in bar verliert, kauft die Karte trotzdem. Der Schaden ist identisch, die Entscheidung nicht, weil wir Ausgaben in getrennten Konten verbuchen.

Dazu kommen die Motive, die Steven Reiss (2004) in seiner Theorie der 16 Lebensmotive beschrieben hat, etwa Macht, Anerkennung, Status und Rache, und die in hierarchischen Organisationen unzählige Entscheidungen prägen, ohne dass sie in einer Vorlage auftauchen.

Kognitive Software ist in einem präzisen Sinn kognitiv. Menschen glauben oft nur, kognitiv-rational zu handeln.

Kognitive Software kennt diese Verzerrungen nicht. Sie hat keine Vorurteile, ist nicht nachtragend, ermüdet nicht und verarbeitet die vollständige Datenlage statt eines Ausschnitts. Das heißt nicht, dass sie fehlerfrei wäre: Ihre Fehler stammen aus den Daten, mit denen sie trainiert wurde, und aus Regeln, die jemand falsch formuliert hat. Genau deshalb sind Nachvollziehbarkeit und Vorhersehbarkeit keine Kür, sondern die Bedingung, unter der Software menschliche Entscheidungen ersetzen darf.

Was Unternehmen verlieren, die abwarten

Unternehmen, die an analogen Entscheidungswegen festhalten, geraten mit wachsenden Datenmengen und beschleunigtem Wandel in eine Schere, die sich von Jahr zu Jahr weiter öffnet:

• Sie werden langsamer und fehleranfälliger bei der Analyse und Bewertung von Chancen und Risiken.
• Sie können nur eine begrenzte Informationsdichte bewältigen und lassen Signale ungenutzt, die im Datenbestand längst vorliegen.
• Der manuelle Aufwand, Informationen zu erheben und bis zu den Entscheidungsträgerinnen und Entscheidungsträgern zu transportieren, wächst schneller als die Organisation.
• Auf jedem Weg durch die Hierarchie können Informationen durch Fehler, Emotionen und Eigeninteressen verändert oder unterdrückt werden.
• Der Zeitverzug menschlicher Weitergabe wird kritisch, etwa bei individualisierten Angeboten oder in akuten Krisen.

Der Fachkräftemangel verschärft diese Entwicklung, weil genau jene Menschen fehlen, die den manuellen Informationstransport bisher geleistet haben. Kognitive Software ist deshalb kein Projekt für das Jahr 2035, sondern der Hebel, mit dem Unternehmen in den kommenden Jahren ihre Wertschöpfung steigern und die Koordinationskosten senken. Der erste Schritt dorthin ist jetzt fällig.

Der nächste Schritt

Der erste Schritt ist keine Technologieentscheidung, sondern eine Bestandsaufnahme: Welche Entscheidungen trifft das Unternehmen täglich, auf welchen Daten beruhen sie, und in welchem der vier Einsatzfelder ließe sich die erste kognitive Softwarelösung mit nachvollziehbaren Regeln aufbauen? Die Grundlagen dazu beschreibt mein Buch „Das selbstfahrende Unternehmen“: Zum Buch. In einem Expertengespräch identifizieren wir gemeinsam den Bereich, in dem Ihr Unternehmen mit kognitiver Software beginnen sollte.