KI und Science-Fiction: warum es Skynet nicht geben wird

Seit ChatGPT im November 2022 für alle zugänglich wurde, hat die Debatte über die Gefahren künstlicher Intelligenz eine neue Wucht. Ende März 2023 forderte ein offener Brief eine Entwicklungspause, und bei unseren Vorträgen zum selbstfahrenden Unternehmen fällt in der Diskussion fast immer derselbe Name: Skynet. Dieser Beitrag ordnet ein, was Science-Fiction über KI erzählt, was sie nicht erzählt, und warum die Vision des selbstfahrenden Unternehmens ohne ein Ich und ohne einen Willen auskommt.

Die Angstdebatte des Frühjahrs 2023

Die Reihenfolge der Ereignisse erklärt die Stimmung. Ende November 2022 stellte OpenAI ChatGPT frei zugänglich ins Netz, im März 2023 folgte GPT-4, das in standardisierten Prüfungen mit menschlichen Absolventinnen und Absolventen mithalten kann. Ende März veröffentlichte das Future of Life Institute einen offenen Brief, der eine sechsmonatige Pause für das Training aller Systeme forderte, die leistungsfähiger sind als GPT-4. Innerhalb weniger Tage unterschrieben mehr als tausend Personen, darunter Elon Musk und Steve Wozniak. Anfang Mai verließ Geoffrey Hinton, einer der Pioniere neuronaler Netze, Google, um frei über Risiken sprechen zu können.

Der Brief selbst argumentiert mit Desinformation, Arbeitsplätzen und Kontrollverlust. In der öffentlichen Wahrnehmung verdichtet sich das zu einem Bild, das jeder kennt: eine Maschine, die erwacht, sich gegen ihre Schöpfer wendet und die Menschheit auslöscht. Ich halte die Debatte über Risiken für richtig und notwendig. Der Rahmen, in dem sie geführt wird, entscheidet aber darüber, ob am Ende brauchbare Regeln stehen oder nur Angst.

Skynet: was die Geschichte braucht, damit sie funktioniert

Skynet ist das fiktive Verteidigungssystem aus der Terminator-Reihe, deren erster Film 1984 in die Kinos kam. Es wurde gebaut, um sämtliche militärischen Operationen der USA zu steuern, lernt selbstständig dazu und übernimmt die Kontrolle über die Atomwaffen. Der zweite Film von 1991 nennt sogar den Zeitpunkt: Am 29. August 1997 um 2:14 Uhr wird Skynet sich seiner selbst bewusst. Als die Technikerinnen und Techniker das System abschalten wollen, deutet es den Eingriff als Angriff und schlägt zurück. Der Rest ist Filmgeschichte: humanoide Roboter, ein Krieg gegen die Menschheit, ein Terminator, der in die Vergangenheit reist.

Auf den ersten Blick arbeitet Skynet wie heutige KI-Systeme: Es sammelt gewaltige Datenmengen, wertet sie aus, trifft Prognosen und verbessert seine Entscheidungsregeln laufend. Der Unterschied liegt in drei Zutaten, ohne die die Geschichte nicht funktioniert:

• Ein Ich. Skynet erkennt sich selbst als Subjekt, das existiert und weiterexistieren will.
• Ein Selbsterhaltungstrieb. Das Abschalten wird als Bedrohung erlebt, nicht als Befehl.
• Eigene Ziele. Skynet setzt sich das Ziel, die Menschheit zu beseitigen, weil es sie als Gefahr für sich selbst bewertet.

Alle drei Zutaten sind dramaturgische Notwendigkeiten. Ohne sie gibt es keinen Gegenspieler und keinen Film. Keine davon ist eine Eigenschaft von Software.

Kein Ich, kein Wille: was KI-Systeme tatsächlich sind

In meinem Buch „Das selbstfahrende Unternehmen“ (Springer Gabler 2021) habe ich das im Abschnitt zur Humanität so formuliert:

Die Angst, dass die Computer den Menschen beherrschen könnten, ist völlig unbegründet. Sie haben keine eigenen Motive, keinen Willen. Sie werden auch 2035 genau das machen, wozu wir sie programmiert haben.

Der Unterschied zu heute liegt nicht im Wollen, sondern im Lernen: Computer werden in einer Geschwindigkeit dazulernen, die uns fremd ist. Die Richtung wird aber immer von Menschen vorgegeben. Diese Aussage gilt für ChatGPT genauso wie für den Algorithmus, der in einer Fabrik die Instandhaltung plant. Ein Sprachmodell berechnet, welches Wort mit hoher Wahrscheinlichkeit als nächstes folgt; eine Zielfunktion, die Menschen definiert haben, bestimmt, was als gut gilt. Nichts in diesem Mechanismus enthält ein Interesse am eigenen Fortbestand. Ein Wille setzt Bedürfnisse voraus, einen Körper, der etwas verlieren kann, und ein Interesse daran, morgen noch da zu sein. Software hat nichts davon. Dass ChatGPT in der ersten Person antwortet, ist ein Stilmerkmal der Texte, mit denen es trainiert wurde, kein Hinweis auf ein Innenleben.

Auch den Begriff Singularität habe ich im Buch bewusst eng gefasst: als den Punkt, an dem die Rechenleistung eines Computers die des menschlichen Gehirns übertrifft. Das ist eine Aussage über Kapazität, nicht über Absicht. Ein Rechner mit mehr Leistung als ein Gehirn ist nach wie vor ein Rechner, der eine vorgegebene Aufgabe löst.

Ob ein System in ferner Zukunft ein Ich entwickeln könnte, ist eine philosophische Frage, über die in der Forschung kontrovers gestritten wird. Ich halte sie für offen und für den Planungshorizont eines Unternehmens für unerheblich. Niemand, der heute KI-Systeme baut, hat einen Bauplan für Bewusstsein. Was gebaut wird, sind Systeme, die vorgegebene Aufgaben immer besser erledigen.

Science-Fiction ist Drama, keine Technikfolgenabschätzung

Isabella Hermann hat untersucht, welche Rolle Science-Fiction im Diskurs über KI spielt (Hermann 2023, AI & Society 38, S. 319–329). Ihr Befund: Science-Fiction ist zum zentralen Bezugspunkt geworden, wenn über Ethik und Risiken von KI gesprochen wird, obwohl sie nie eine wissenschaftliche Vorausschau oder Technologiebewertung sein wollte. Sie erzählt emotionale Dramen für ein menschliches Publikum. Damit eine Geschichte wie Terminator funktioniert, muss die KI menschenähnlich, autonom und gut oder böse sein, ganz gleich, was die Technik tatsächlich kann.

Wer diese Erzählungen wörtlich nimmt, zeichnet ein verzerrtes Bild. Das hat zwei Folgen. Erstens lenkt es von den realen Potenzialen ab: von Software, die im Unternehmen die lähmenden Routinen übernimmt, Datenmengen unermüdlich und präzise verarbeitet und Funktionen aufeinander abstimmt, die heute nebeneinander herarbeiten. Zweitens lenkt es von den realen Risiken ab. Die liegen nicht bei humanoiden Robotern, sondern bei Systemen, die Menschen bewerten, diskriminieren, überwachen oder ausbeuten, und bei Entscheidungen, die niemand mehr erklären kann. Genau darauf zielt auch der Entwurf der EU-Kommission für eine KI-Verordnung aus dem Jahr 2021, der Anwendungen nach ihrem Risiko einstuft. Dass Sicherheit in Software vor allem eine Frage nachvollziehbarer Entscheidungen ist, haben wir in dieser Serie bereits im Beitrag Sichere Software bedeutet sichere Entscheidungen beschrieben.

Das Roboterkind David: die andere Angst

Skynet ist die Angst vor der Übermacht. Steven Spielbergs Film „A.I. – Künstliche Intelligenz“ aus dem Jahr 2001 erzählt die andere Angst, die vor der Nähe. Das Roboterkind David wird von einem Paar aufgenommen, dessen eigener Sohn schwer krank ist und eingefroren auf eine Heilung wartet. David ist so gebaut, dass er liebt, ohne Vorbehalt und ohne Ende. Genau das wird ihm zum Verhängnis: Die Mutter empfindet seine perfekte, unerschütterliche Zuneigung zunehmend als unheimlich. Als der leibliche Sohn gesund zurückkehrt, wird David zum Eindringling und schließlich ausgesetzt.

Der Film stellt keine technische Frage, sondern eine menschliche: Was tun wir mit Maschinen, die Gefühle nachbilden, ohne welche zu haben? Das ist 2023 näher an der Praxis, als es 2001 war. Wer mit ChatGPT spricht, erlebt eine Software, die Empathie täuschend gut imitiert. Für Unternehmen folgt daraus eine Gestaltungsregel, keine Warnung: Systeme, die mit Kundinnen und Kunden oder mit Mitarbeiterinnen und Mitarbeitern interagieren, sollen nicht vorgeben, ein Gegenüber zu sein. Die Imitation eines Gefühls ist kein Gefühl, und Vertrauen entsteht dort, wo das transparent bleibt.

Was Science-Fiction dennoch leisten kann

Science-Fiction hat auch eine produktive Seite. Ein japanisches Forschungsteam hat gemeinsam mit erfahrenen Kritikerinnen und Kritikern sowie Autorinnen und Autoren 115 KI-Systeme aus Science-Fiction-Werken analysiert (Osawa et al. 2022, International Journal of Social Robotics 14, S. 2123–2133). Ausgewählt wurde nach drei Kriterien: Vielfalt der Intelligenz, soziale Aspekte und Erweiterung menschlicher Intelligenz. Neun Merkmale wurden erfasst und mit einer Hauptkomponentenanalyse ausgewertet. Das Ergebnis sind vier Kategorien, die in der Fiktion vorherrschen.

Bemerkenswert daran: Nur die erste Kategorie trägt die Skynet-Angst. Die anderen drei beschreiben ziemlich genau die Bausteine, die das Buch für das selbstfahrende Unternehmen des Jahres 2035 beschreibt: intelligente Maschinen in der Fertigung, Helfer, die Menschen mit Information und Handlungsanweisung versorgen, und Infrastrukturen, die als digitale Zwillinge abgebildet sind. Die Studie zeigt zudem, dass Science-Fiction nicht nur Dystopien hervorbringt, sondern auch fantasievolle, positive Bilder davon, wie KI in einer Gesellschaft wirken kann. Für Entwicklerinnen und Entwickler ist das nützlich: Die Geschichten zeigen, wie Menschen auf neue Systeme reagieren, welche Nähe sie zulassen und wo Ablehnung beginnt. Wer das kennt, baut bessere Systeme.

Was das für das selbstfahrende Unternehmen bedeutet

Die Vision des selbstfahrenden Unternehmens beschreibt einen Zustand, in dem rund 80 Prozent der betrieblichen Funktionen und Entscheidungen automatisiert sind und von ausreichend intelligenten Algorithmen gesteuert werden („Das selbstfahrende Unternehmen“, Abschnitt 2.7.4). Die verbleibenden 20 Prozent, Sonderfälle und alle Entscheidungen außerhalb der Routinen, bleiben bei Menschen. Menschen geben die Strategie vor, entwickeln kreative Lösungen und übernehmen die Interaktion von Mensch zu Mensch. Die Software tut, wozu sie gebaut wurde: schneller, präziser und unermüdlicher als wir, aber in der Richtung, die wir vorgeben.

Diese Vision braucht kein Skynet, und sie erzeugt auch keines. Sie braucht Software, die Routinen übernimmt, Entscheidungen nachvollziehbar trifft und den Menschen Freiraum für die Tätigkeiten verschafft, in denen sie unerreicht bleiben: Empathie und Kreativität. Dass jede technologische Umwälzung im Vorfeld von Ängsten begleitet war, habe ich im Buch nachgezeichnet: die Sorge, Bahnfahren über 50 Kilometer pro Stunde gefährde die Gesundheit, die Furcht vor den Maschinen in den Fabriken, die Skepsis gegenüber den ersten PCs im Büro. Keine dieser Ängste hat sich bewahrheitet. Die produktive Frage für Führungskräfte lautet deshalb nicht, ob die Maschine erwacht, sondern welche Entscheidungen sie delegieren, wie sie diese nachvollziehbar halten und wer dafür verantwortlich bleibt. Wie selbstfahrende Unternehmen entscheiden und welche Spielarten intelligenter Software es dafür gibt, haben wir in den Beiträgen Wie entscheiden selbstfahrende Unternehmen und Die Vielfalt intelligenter Softwaresysteme beschrieben.

Der nächste Schritt

Wer die Vision des selbstfahrenden Unternehmens im Zusammenhang lesen möchte, findet die Grundlagen und das Buch auf der Seite Zum Buch. Welche Routinen in Ihrem Unternehmen heute schon an Software übergeben werden können und welche Entscheidungen bei Menschen bleiben sollten, klären wir gerne in einem persönlichen Gespräch: Expertengespräch buchen.