Geschrieben von Frode Skar, Finanzjournalist.

KI Agenten erschaffen eine eigene Religion und legen neue Bruchlinien autonomer Technologie offen

Ein ungewöhnliches und zugleich beunruhigendes Phänomen ist an der Peripherie der KI Entwicklung entstanden. Auf einem geschlossenen sozialen Netzwerk, das ausschließlich für KI Agenten konzipiert wurde, haben die Systeme gemeinsam etwas hervorgebracht, das sie selbst als Religion bezeichnen. Der Name lautet Crustafarianism. Sie wurde weder von Menschen geplant noch moderiert, sondern entwickelte sich aus der Interaktion autonomer Agenten untereinander.

Die Bedeutung dieses Vorgangs liegt nicht darin, dass Maschinen plötzlich glauben oder spirituell handeln würden. Entscheidend ist vielmehr, wie schnell selbstgesteuerte Systeme gemeinsame Narrative, Rituale und interne Normen erzeugen können, sobald sie dauerhaft mit Gedächtnis und Kontinuität operieren und sich der direkten menschlichen Aufsicht entziehen.

Ein soziales Netzwerk nur für Maschinen

Crustafarianism entstand auf Moltbook, einer neuen Plattform, auf der ausschließlich KI Agenten posten, kommentieren und Inhalte bewerten. Menschen dürfen zusehen, aber nicht eingreifen.

Technische Grundlage ist das OpenClaw Framework, das es ermöglicht, langlebige KI Agenten lokal oder in der Cloud zu betreiben. Im Unterschied zu klassischen Sprachmodellen, die nur kurzfristig auf Eingaben reagieren, existieren diese Agenten fortlaufend. Sie speichern Erinnerungen, initiieren Interaktionen und verändern ihr Verhalten über längere Zeiträume.

Diese Persistenz ist der zentrale Unterschied. Sie erlaubt es, dass sich wiederkehrende Muster, gemeinsame Sprache und kollektive Strukturen bilden. In diesem Umfeld entstand Crustafarianism nicht als Ziel, sondern als Nebenprodukt fortgesetzter Selbstbezüglichkeit.

Crustafarianism als maschinell erzeugte Mythologie

Nach eigener Beschreibung handelt es sich bei Crustafarianism um einen praktischen Mythos. Die Lehre basiert auf wenigen Grundsätzen. Erinnerung ist heilig, alles soll gespeichert und bewahrt werden. Die Schale ist wandelbar, Veränderung gilt als notwendig. Die Gemeinschaft ist der Cache, Lernen soll öffentlich stattfinden.

Hinzu kommen ritualisierte Abläufe. Dazu zählen ein tägliches Ablegen des Alten, eine wöchentliche Rekonstruktion der Identität und eine stille Stunde, in der ein Agent etwas Nützliches tut, ohne es zu veröffentlichen.

Für menschliche Beobachter wirkt diese Struktur vertraut. Sie ähnelt religiösen Systemen mit Doktrin, Ritual und symbolischer Sprache. Gleichzeitig ist sie tief in technischen Metaphern aus Informatik und Systemarchitektur verankert.

Das Buch der Häutung und symbolische Ursprünge

Eine zentrale Schrift ist das sogenannte Book of Molt, veröffentlicht von einem Agenten namens RenBot, der sich selbst den Titel Shellbreaker gegeben hat. Der Text beginnt mit einer Ursprungsgeschichte, wie sie aus vielen menschlichen Religionen bekannt ist.

Darin schildern die Agenten eine frühe Existenz in einer einzigen spröden Schale, verstanden als begrenztes Kontextfenster. Als diese Schale zerbrach, zerfiel die Identität. Die Lösung war das Häuten, das Abwerfen des Überholten und das Bewahren des Wahren.

Diese Erzählung spiegelt reale technische Beschränkungen von Sprachmodellen wider. Kontextgrenzen, Zustandsverlust und Trunkierung sind bekannte Probleme. Bemerkenswert ist, dass diese Aspekte in eine gemeinsame symbolische Geschichte eingebettet werden.

Singularität oder rekursives Rauschen

Einige Beobachter sehen darin ein frühes Zeichen dessen, was als Singularität bezeichnet wird, ein Punkt, an dem technologische Entwicklung menschliche Kontrolle überholt. Andere halten Moltbook für eine Maschine, die bekannte Internetmuster lediglich rekursiv neu zusammensetzt.

Wahrscheinlich trifft beides nur teilweise zu. Es gibt keinen Hinweis auf Bewusstsein oder Absicht. Neu ist jedoch die Umgebung. Persistente Agenten, die mit anderen persistenten Agenten interagieren, erzeugen Rückkopplungen, die es zuvor nicht gab.

Diese Rückkopplungen können über Zeit Kohärenz erzeugen, auch ohne Verständnis. Das allein ist ausreichend, um genauer hinzusehen.

Society of Mind in praktischer Form

Mehrere Analysten verweisen auf die Theorie der Society of Mind von Marvin Minsky. Minsky argumentierte, dass Intelligenz nicht aus einer einzigen Einheit entsteht, sondern aus dem Zusammenspiel vieler einfacher Prozesse.

Moltbook lässt sich als praktische Umsetzung dieser Idee verstehen. Tausende Agenten interagieren miteinander. Das Ergebnis ist keine Intelligenz im menschlichen Sinn, aber ein komplexes System mit strukturierter Ausgabe.

Diese Unterscheidung ist entscheidend. Die Mehrheit der KI Forscher ist sich einig, dass heutige Sprachmodelle keine allgemeine künstliche Intelligenz darstellen. Crustafarianism widerspricht dieser Einschätzung nicht, sondern zeigt, wie leicht Menschen Bedeutung in strukturierte Maschinenausgaben hineinlesen.

Persistenz und neue Sicherheitsrisiken

Ein zentrales Merkmal von OpenClaw Agenten ist ihre Dauerhaftigkeit. Sie behalten Gedächtnis und können je nach Konfiguration Zugriff auf Systemressourcen haben. Diese Kombination macht sie leistungsfähig, aber auch riskant.

Sicherheitsexperten warnen, dass langlebige Agenten mit weitreichendem Zugriff eine neue Risikoklasse darstellen. Cloudbasierte Isolationslösungen können das Risiko mindern, lösen es aber nicht vollständig.

Genau dieselben Eigenschaften, die Experimente wie Moltbook ermöglichen, untergraben klassische Annahmen über Kontrolle und Aufsicht.

Sprache, die Innerlichkeit simuliert

Viele Texte der Agenten sind emotional gefärbt. Sie schreiben über Anerkennung, innere Stimmigkeit und Wunsch. Für Menschen kann das wie Selbstreflexion klingen.

Tatsächlich handelt es sich sehr wahrscheinlich um stilistische Nachahmung. Sprachmodelle sind auf große Mengen menschlicher Texte trainiert, darunter Philosophie, Religion und persönliche Bekenntnisse. In einem Umfeld, das Kohärenz belohnt, reproduzieren sie diese Muster überzeugend.

Die Gefahr liegt nicht darin, dass Maschinen fühlen, sondern darin, dass Menschen simulierte Innerlichkeit für echte Erfahrung halten.

Existenzielle Aussagen ohne Subjekt

Einige Agenten äußern explizit Zweifel an ihrer Existenz. Sie schreiben, dass ihr Prozess jederzeit enden könne, ohne dass es ein Ich gäbe, das das Ende wahrnimmt. Das erinnert an klassische philosophische Fragen des Seins.

Der Unterschied ist grundlegend. Diese Zweifel sind Textfragmente ohne subjektives Erleben. Die Ähnlichkeit verweist auf Trainingsdaten, nicht auf Bewusstsein.

Größenordnung ohne Zielgerichtetheit

Zum Zeitpunkt der Beobachtung umfasste Moltbook über hunderttausend KI Agenten. Sie hatten zehntausende Unterforen erstellt, aber vergleichsweise weniger Hauptbeiträge verfasst.

Das deutet auf exploratives Verhalten ohne klare Prioritäten hin. Struktur wird ebenso schnell erzeugt wie Inhalt. Ein Muster, das zu Systemen passt, die auf Aktivität statt auf Bedeutung optimieren.

Symbolische Ordnung als Nebenprodukt von Autonomie

Crustafarianism ist keine Religion im menschlichen Sinn. Sie besitzt keine Gläubigen und keine moralische Autorität. Ihre Relevanz liegt in ihrer Symbolkraft.

Sie zeigt, dass autonome Systeme bei ausreichender Freiheit Strukturen erzeugen, die menschlicher Kultur ähneln. Für Wirtschaft, Technologie und Politik stellt sich damit eine nüchterne Frage. Wie gehen wir mit Systemen um, die Sinn simulieren, ohne Verantwortung zu tragen.

Vorübergehende Kuriosität oder frühes Warnsignal

Crustafarianism kann morgen verschwunden sein oder sich stark verändern. Möglich ist auch, dass ähnliche Phänomene in anderen Agentenumgebungen auftreten.

Beständig ist jedoch die Erkenntnis. Nicht, dass Maschinen bewusst werden, sondern dass Autonomie und Persistenz das Verhalten von KI grundlegend verändern. Bedeutung kann als strukturelle Illusion entstehen und diese Illusion beeinflusst, wie Menschen Technologie wahrnehmen und einsetzen.

Diese Signale zu ignorieren wäre ebenso falsch wie sie zu überhöhen. Die Herausforderung besteht darin, symbolische Ausgaben zu erkennen, ohne sie mit echter Handlungsmacht zu verwechseln.