Buchclub: ‚Die Regierung der Maschinen‘: Wer regiert eigentlich unsere digitale Zukunft?

Wer über Künstliche Intelligenz schreibt, landet schnell bei denselben Fragen: Welche Berufe verschwinden? Werden Maschinen irgendwann intelligenter als Menschen? Und wie verändert ChatGPT unseren Alltag? Jill Lepore interessiert sich in „Die Regierung der Maschinen: Aufstieg und Fall des Künstlichen Staates“ für eine grundsätzlichere Frage. Was geschieht mit einer Demokratie, wenn immer mehr Entscheidungen von technischen Systemen vorbereitet, beeinflusst oder getroffen werden und gleichzeitig einige wenige Unternehmen über enorme Mengen an Daten, Kapital und technischer Infrastruktur verfügen?

Lepore betrachtet KI deshalb nicht als plötzlich aufgetauchtes Phänomen der vergangenen Jahre. Die amerikanische Historikerin erzählt eine wesentlich längere Geschichte. Das zeigt bereits der Aufbau ihres 381 Seiten starken Buches, das in zwei große Teile gegliedert ist. Unter der Überschrift „Maschinelles Regieren“ reicht die Reise vom „Buch der Zahlen“ über „Technokratie AG“ und „Maschinen, die denken“ bis zur „Twitter-Revolution“ und zu „ai.gov“. Anschließend beschäftigt sich Lepore unter der Überschrift „Was Roboter wollen“ unter anderem mit Darwin, «I, Robot» und dem „Killerbot“.

Das ist ein kluger Ansatz, denn Lepore schreibt als Historikerin und nicht als Technikprophetin. Sie möchte weniger vorhersagen, welche KI im Jahr 2035 welche Fähigkeiten besitzen könnte. Stattdessen interessiert sie, welche Vorstellungen von Menschen, Maschinen und Gesellschaft überhaupt dazu geführt haben, dass wir Algorithmen heute eine derartige Bedeutung zugestehen. Dabei verbindet sie Technikgeschichte mit Literatur, Philosophie und Politik. Roboter und denkende Maschinen existierten schließlich lange in der menschlichen Vorstellung, bevor heutige KI-Systeme entstanden. Science-Fiction wird damit nicht zum unterhaltsamen Nebenschauplatz, sondern zu einem Teil der Geschichte: Menschen haben sich seit langer Zeit ausgemalt, was geschehen könnte, wenn Maschinen menschliche Aufgaben übernehmen – und dabei zugleich darüber nachgedacht, was den Menschen eigentlich ausmacht.

Lepores zentrale Idee ist der „Künstliche Staat“. Darunter versteht sie eine Entwicklung, bei der demokratische Selbstbestimmung zunehmend durch technologische Systeme und privatwirtschaftliche Machtstrukturen verdrängt wird. Der Verlag fasst ihre Warnung drastisch als mögliche „Regierung ohne Menschen“ zusammen. Lepores Gegenidee besteht darin, die technologische Lenkung der Demokratie durch eine demokratische Lenkung der Technologie zu ersetzen.

Damit wird „Die Regierung der Maschinen“ zwangsläufig politisch. Lepore richtet ihren Blick insbesondere auf die Konzentration von Macht bei einigen sehr vermögenden Akteuren der Technologiebranche. Ihre Kritik lautet dabei nicht einfach, dass diese Menschen zu viel Geld besitzen. Problematisch wird für sie vielmehr die Verbindung von Kapital, Technologie, Daten und gesellschaftlichem Einfluss. Wer technische Systeme kontrolliert, die von Millionen oder Milliarden Menschen genutzt werden, besitzt schließlich eine andere Form von Macht als ein gewöhnliches Unternehmen.

Gerade an diesem Punkt wird das Buch besonders interessant. Denn die großen Auseinandersetzungen um KI handeln häufig von der Leistungsfähigkeit der Technik. Lepore verschiebt die Perspektive: Selbst wenn eine Maschine hervorragend funktioniert, ist damit noch längst nicht beantwortet, wer darüber entscheiden sollte, wofür sie eingesetzt wird. Effizienz und demokratische Legitimation sind zwei völlig unterschiedliche Dinge. Lepore beschreibt den drohenden Künstlichen Staat entsprechend als eine Ordnung, in der Menschen erfasst, sortiert und segmentiert werden und dabei Gemeinschaft sowie politische Selbstbestimmung verloren gehen können. Das ist ihre These und bewusst eine alarmierende Zuspitzung, keine neutrale Beschreibung des heutigen Staates. Der Verlag selbst bezeichnet das Buch ausdrücklich als Weckruf und nicht als Abgesang auf die Demokratie.

Gerade diese Unterscheidung ist wichtig. „Die Regierung der Maschinen“ ist kein Buch, das behauptet, die Demokratie sei bereits abgeschafft und wir würden längst von Robotern regiert. Lepore beschreibt eine Entwicklung, vor der sie warnt. Das macht ihre Argumentation zugleich streitbar. Nicht jeder Leser wird ihre Verbindung von Technologieunternehmen, KI und staatlicher Macht in derselben Schärfe teilen. Doch gerade deshalb lohnt sich das Buch. Lepore zwingt dazu, über KI jenseits der üblichen Begeisterungs- und Untergangsszenarien nachzudenken. Die entscheidende Frage ist bei ihr nicht, ob Künstliche Intelligenz „gut“ oder „böse“ ist. Technologie besitzt schließlich keine demokratische Legitimation aus sich selbst heraus. Entscheidend ist, wer sie entwickelt, wer ihre Regeln bestimmt und welchen Einfluss die Gesellschaft darauf hat.

Bemerkenswert ist auch, wie breit Lepore ihre Geschichte anlegt. Kapitel über Technokratie und Computer stehen neben literarischen und philosophischen Betrachtungen. Dadurch wird aus einem aktuellen KI-Buch eine Kulturgeschichte unseres Verhältnisses zu Maschinen. Das „Philosophie Magazin“ hebt entsprechend hervor, dass Lepore zeige, wie Roboter und Computer seit mehr als einem Jahrhundert die politische und kulturelle Fantasie beschäftigen. Das verhindert zugleich, dass „Die Regierung der Maschinen“ schon nach wenigen Jahren völlig veraltet wirken dürfte. Wer ausschließlich wissen möchte, welches KI-Modell gerade die besten Ergebnisse erzielt, wird hier ohnehin nicht bedient. Lepore interessiert die Struktur hinter der Technologie. Sie fragt, warum Menschen bereit sind, Entscheidungen an Maschinen abzugeben, warum technischer Fortschritt so häufig mit gesellschaftlichem Fortschritt gleichgesetzt wird und welche politischen Konsequenzen daraus entstehen können.

Dabei trägt das Buch seine Haltung deutlich vor sich her. Schon die Wortwahl des „Künstlichen Staates“ ist eine Provokation. Lepore möchte nicht lediglich erklären, sondern alarmieren. Das kann stellenweise zugespitzt wirken, sorgt aber gleichzeitig dafür, dass aus den 381 Seiten keine trockene Geschichte der Computertechnik wird. Besonders stark ist „Die Regierung der Maschinen“ dort, wo Lepore Vergangenheit und Gegenwart miteinander verbindet. Die heutige KI-Euphorie erscheint dadurch weniger als historisch einmaliger Moment. Viele Hoffnungen und Ängste, die derzeit mit Künstlicher Intelligenz verbunden werden, besitzen ältere Vorläufer. Neu sind Geschwindigkeit, Reichweite und die wirtschaftliche Macht jener Unternehmen, die die Systeme entwickeln.
Und dennoch endet Lepore nicht fatalistisch. Schon der Untertitel spricht schließlich von „Aufstieg und Fall“ des Künstlichen Staates. Ihre Botschaft ist gerade nicht, dass Menschen gegenüber der technologischen Entwicklung machtlos seien. Die Regeln, unter denen Technologie eingesetzt wird, sind gesellschaftliche und politische Entscheidungen. Das macht „Die Regierung der Maschinen“ zu einem spannenden Gegenstück zu vielen aktuellen KI-Büchern.