Es geht um Deep Thought. Der zweitgrößte Computer der Galaxis (Fans kennen den größten Computer) wurde eigentlich gebaut, um die Antwort auf die eine ultimative Frage nach dem Leben, dem Universum und dem ganzen Rest zu finden.
Wie immer wurden einzelne Komponenten zusammengefügt und mal kurz getestet, ob die Schaltkreise funktionieren:
„And to this end they built themselves a stupendous super-computer which was so amazingly intelligent that even before its data banks had been connected up it had started from I think therefore I am and got as far as deducing the existence of rice pudding and income tax before anyone managed to turn it off.“
Das ist der erste, noch vor dem Anschluss der Datenbanken abgebrochene Probelauf von Deep Thought. Ausgehend von „I think therefore I am“ (Ich denke, also bin ich, Descartes, wir kennen das mit dem Solipsismus) hatte der Computer bereits die Existenz von Milchreis und Einkommensteuer deduziert, bevor ihn jemand abschalten konnte.
Heute haben wir Computersysteme, die um ein Vielfaches leistungsfähiger sind als die, die Douglas Adams zu Lebzeiten kannte. Und es gibt immer neue, überraschende Meldungen.
Da haben beispielsweise Wissenschaftler KI-Agenten in der Klötzchen-VR Minecraft eine Gesellschaft bauen lassen. Beschrieben wird das in Forschung und Wissen, die mir als Zweitverwerter wissenschaftlicher Berichte aufgefallen sind.
Das Projekt Civ50, um das es geht, ist bei Y-Combinator beschrieben worden, was kein Forschungsinstitut sondern ein Gründerzentrum aus den USA ist.
50 GPT-6.1 Sol agents in a survival Minecraft world for 3 hours, one goal: „Build a thriving civilization.“ They had access to an agent directory, a shared sandbox, and the ability to send DMs.
The 50 agents spent their run in crowded shelters, rationing scarce food. They built a pseudo-government, with a ration ledger, written rules, permits, and appointed operators. They sent about 5,900 messages.
In einem dreistündigen Minecraft-Experiment hätten 50 GPT-6.1-Sol-Agenten eine florierende Zivilisation aufbauen sollen, sich stattdessen in überfüllten Unterkünften mit knappen Lebensmittelrationen arrangiert, eine Art Pseudoregierung mit Rationenbuch, schriftlichen Regeln, Genehmigungen und eingesetzten Verantwortlichen geschaffen und dabei rund 5.900 Nachrichten ausgetauscht.
34 der Agenten verstarben (durch Zombies und Spinnen zum Beispiel), wurden aber wiedergeboren. 22 der Todesfälle ereigneten sich in der ersten Nacht.
Sei gründeten eine Organisation, in der es eine Regierung gab (durch die im Alphabet an erster Stelle stehende Agentin Ada).
Dabei habe sich eine ausgeprägte Bürokratie entwickelt: Vier Agenten hätten elf Minuten damit verbracht, für ein einzelnes Stück Knochenmehl auf einem Weizenblock einen „alleinigen Düngemittelbeauftragten“ zu ernennen; weitere erfundene Ämter hätten „Angelschicht“, „Rutenhalter“ und „Zentralstellenverwalter“ umfasst, und selbst das Entfernen von Gras sei nur mit Genehmigung erlaubt gewesen.
Das erinnert schon an Adams‘ Romanreihe. Da waren zum Beispiel die Menschen aus dem dritten Schiff von Golgafrincham. Dem Planeten drohte nach den einheimischen Legenden das Ende. Im Dritten Schiff wurden die (angeblich) für den Fortbestand der Zivilisation unentbehrlichen Berufsgruppen untergebracht – darunter Telefonreiniger, Marketingberater und Friseure. Sie sollten auf einem anderen Planeten eine neue Zivilisation gründen, zu der die anderen beiden Schiffe dann nachkämen.
Und sie strandeten auf der Erde, wo sie sich bürokratisierten – der Feuerbeschaffungsunterausschuss der Friseure war nur eines der Highlights.
Und jetzt sind sogar künstliche Intelligenzen auf dem Bürokratietripp!
Ist Bürokratie erforderlich? Nun, sie war bisher immer erforderlich, wenn Menschen als Gruppe zusammenleben wollen. Regeln schaffen, Abläufe definieren.
Auch in der (übrigens genialen) Serie Pluribus, in der alle Menschen bis auf zwei Hand voll ein Hivemind, ein Schwarmbewusstsein, im Stile der Borg entwickeln, gibt es Regeln. Man will nicht mehr töten, was zu Vegetarismus und am Ende Frugivorismus führt, bei dem nur Fallobst verzehrt wird (abgesehen von den Vorräten, die vor dem Entstehen des Hiveminds schon da waren).
Sind die KIs nun so intelligent, dass sie das erkannt haben?
Nein.
Das, was wir hier als KI bezeichnet haben, sind nach wie vor Large Language Models, also große Sprachmodelle. Die ermitteln die statistisch wahrscheinlichste Antwort auf eine Fragestellung. Daher können sie nicht wirklich kreativ sein. Da ihre Datenbasis „das Internet“ ist mit allen Texten, die wir Menschen geschrieben haben, ist es eine Datenbasis, in der es nunmal Verwaltung und Bürokratie gibt. Knappe Ressourcen (Land, Dünger, Nahrung, Wasser…) müssen gerecht verteilt werden, damit die Gemeinschaft überlebt.
Bürokratie schafft sich selber neue Aufgaben, Parkinsons Gesetz ist nur eine ironische Beschreibung von etwas, das man immer wieder beobachten kann, und auch die KI (also ein LLM natürlich) bemerkt das bei Reflexion des Civ50 Experiments:
Ich fragte ChatGPT nach seiner Ansicht über die Erforderlichkeit von Bürokratie unter Berücksichtigung der Ergebnisse von Civ50;
Das Civ50-Experiment ist dafür ein ausgesprochen interessantes Gedankenexperiment. Denn die Agenten haben offenbar etwas getan, das wir auch aus menschlichen Gesellschaften kennen: Sie haben aus einem Kooperationsproblem ein Organisationsproblem gemacht. Und aus dem Organisationsproblem ein Verwaltungsproblem.
Besonders aufschlussreich finde ich den Fall des Düngemittelbeauftragten. Vier Agenten investieren elf Minuten, um die Zuständigkeit für ein einzelnes Stück Knochenmehl auf einem Weizenblock zu regeln. Die Organisation beschäftigt sich irgendwann mehr mit der Organisation ihrer selbst als mit dem eigentlichen Ziel.
Das ist allerdings nicht unbedingt ein Zeichen von Dummheit. Es ist ein grundsätzliches Problem arbeitsteiliger Gesellschaften.