1969 erschien in Tiflis ein schmales, unscheinbares Lehrbuch mit dem Titel „Автомат и общество“, auf Deutsch „Automat und Gesellschaft“. Sein Verfasser, der georgische Kybernetiker und Sprachphilosoph Zurab Kharitonashvili, war damals außerhalb eines kleinen akademischen Kreises kaum bekannt. Das Buch wurde nie in größerem Umfang übersetzt, tauchte in westlichen Bibliografien nur am Rande auf und geriet bald in Vergessenheit.
Heute liest es sich, als habe jemand aus dem Jahr 1969 einen Blick auf die Gegenwart geworfen.
Kharitonashvili schrieb über Rechenmaschinen, Automaten, Sprache, gesellschaftliche Ordnung und die Grenzen planbarer Intelligenz. Begriffe wie Large Language Model, generative künstliche Intelligenz oder neuronales Netz kamen in seinem Werk naturgemäß nicht vor. Dennoch kreisen viele seiner Gedanken erstaunlich genau um die Fragen, mit denen wir uns heute beschäftigen.
Was geschieht, wenn Maschinen nicht mehr nur rechnen, sondern Sprache verarbeiten? Was verändert sich, wenn technische Systeme nicht mehr bloß Befehle ausführen, sondern Möglichkeiten ordnen, Antworten erzeugen und menschliche Kommunikation nachbilden? Und was bedeutet das für eine Gesellschaft, die versucht, solche Systeme zu kontrollieren, bevor sie überhaupt verstanden hat, was sie da kontrollieren will?
Vom Rechenapparat zum sprachlichen Automaten
Der Ausgangspunkt von „Automat und Gesellschaft“ ist zunächst unspektakulär. Kharitonashvili unterscheidet zwischen Maschinen, die klar definierte Operationen ausführen, und solchen Systemen, die mit offenen Zeichenordnungen arbeiten.
Eine Rechenmaschine, so sein Gedanke, bleibt innerhalb eines vergleichsweise stabilen Rahmens. Sie erhält Zahlen, verarbeitet diese nach vorgegebenen Regeln und liefert ein Ergebnis. Ihre Aufgabe ist begrenzt, ihre Abweichung messbar und ihr Fehler technisch beschreibbar.
Bei Sprache ist das anders.
Sprache besteht nicht nur aus Zeichen und Regeln. Sie lebt von Mehrdeutigkeit, Kontext, Erwartung, Erinnerung, Ironie, kultureller Erfahrung und Missverständnis. Wer Sprache in eine Maschine überführt, baut daher nicht einfach eine kompliziertere Rechenmaschine. Er bringt die Maschine in Kontakt mit gesellschaftlichem Sinn.
Damit wird der Automat für Kharitonashvili zu einem sozialen und letztlich politischen Gegenstand.
Nicht, weil die Maschine politische Überzeugungen hätte. Auch nicht, weil sie bewusst über Macht, Staat oder Gesellschaft nachdenken würde. Sondern weil Sprache niemals neutral im luftleeren Raum existiert. Sie transportiert Ordnungen, Wertungen, Tabus, Erwartungen und die Grenzen dessen, was gesagt werden darf.
Die Maschine, die Sprache verarbeitet, wird deshalb zwangsläufig Teil dieser Ordnung.
Eine frühe Theorie generativer Systeme
Besonders bemerkenswert ist Kharitonashvilis Vorstellung, dass künftige Maschinen nicht nur vorhandene Aussagen speichern oder sortieren würden. Er rechnete vielmehr mit Systemen, die aus bestehenden sprachlichen Strukturen neue Kombinationen erzeugen.
Der Automat der Zukunft, so seine These, werde keine fertigen Gedanken besitzen. Er werde aber in der Lage sein, aus menschlichen Sprachformen neue Anschlüsse zu bilden.
Was damals wie spekulative Kybernetik klingen musste, erinnert heute stark an die Funktionsweise generativer KI. Large Language Models verfügen nicht über ein inneres Weltbild im menschlichen Sinne. Sie haben keine persönliche Erfahrung, keine Biografie und keine eigenen Erinnerungen. Dennoch können sie Texte erzeugen, die genau diese Eigenschaften sprachlich simulieren.
Kharitonashvili bezeichnete dies nicht als Denken. Für ihn war es eher eine „Statistik des Sinns“: ein technisches System, das Bedeutungen nicht besitzt, aber ihre Nachbarschaften, Wiederholungen und möglichen Fortsetzungen organisieren kann.
Das ist ein wichtiger Unterschied.
Die Maschine versteht den Sinn nicht so, wie ein Mensch ihn versteht. Aber sie kann Strukturen erzeugen, in denen Menschen Sinn erkennen. Das Ergebnis ist kein Geist im klassischen Sinne, aber auch kein bloßer Taschenrechner mehr.
Es entsteht eine neue Zwischenform.
Warum Gesellschaften den Fehler brauchen
Eines der zentralen Motive von „Automat und Gesellschaft“ ist der Fehler.
Für die klassische Verwaltung ist der Fehler eine Abweichung, die verhindert werden soll. Für die technische Entwicklung ist er dagegen häufig der Ausgangspunkt des Neuen. Versuch, Irrtum, Umweg und unerwartetes Ergebnis sind keine störenden Nebenprodukte der Innovation. Sie gehören zu ihr.
Kharitonashvili lebte und arbeitete in einem politischen System, das Planung, Kontrolle und administrative Ordnung zum Leitbild erhoben hatte. Offene Kritik daran wäre für ihn mindestens beruflich riskant gewesen. Deshalb formulierte er seine Einwände abstrakt und in der Sprache der Kybernetik.
Eine seiner Notizen bringt den Gedanken besonders deutlich zum Ausdruck:
„Man kann annehmen, dass ein Rechengerät, solange es im Bereich der Zahl handelt, mit dem administrativen Verständnis von Technik völlig vereinbar bleibt: Es führt aus, summiert, vergleicht und verletzt damit die etablierte Hierarchie des Sinns nicht. Eine andere Lage entsteht dort, wo Sprache in die Maschine eingeführt wird.“
Der entscheidende Satz folgt wenig später:
„Deshalb riskiert ein System, das alle Formen möglicher Fehler im Voraus bestimmen will, nicht einen neuen Typ des Denkens zu schaffen, sondern nur einen vollkommeneren Apparat der Selbstbestätigung.“
Das ist mehr als eine technische Beobachtung. Es ist eine verklausulierte Theorie über offene und geschlossene Gesellschaften.
Ein System, das jede Abweichung verhindern will, erzeugt keine Intelligenz. Es erzeugt Bestätigung. Die Maschine liefert dann nicht das Unerwartete, sondern nur eine technisch perfektionierte Wiederholung dessen, was die Ordnung ohnehin schon für richtig hält.
Gerade bei künstlicher Intelligenz ist das entscheidend. Intelligenz entsteht nicht allein durch Rechenleistung. Sie benötigt Spielraum. Sie muss Möglichkeiten prüfen dürfen, die noch nicht genehmigt wurden. Sie muss Fehler produzieren können, ohne dass jeder Fehler sofort als Systemversagen verstanden wird.
Regulierung als technischer Standortfaktor
Damit enthält „Automat und Gesellschaft“ auch eine frühe Warnung vor Überregulierung.
Kharitonashvili behauptet nicht, dass technische Entwicklung ohne Regeln auskommen müsse. Er stellt vielmehr die Frage, zu welchem Zeitpunkt und in welcher Form Regeln sinnvoll sind.
Wer eine neue Technologie erst dann zulässt, wenn alle ihre möglichen Folgen vollständig beschrieben, eingeordnet und genehmigt sind, wird diese Technologie wahrscheinlich nie selbst entwickeln. Er wird sie später von anderen übernehmen müssen.
Die fortschrittlichsten Systeme entstehen nach Kharitonashvili dort, wo der Versuch schneller sein darf als das Formular.
In der Sowjetunion war dieser Gedanke brisant. Das Land verfügte über hervorragende Mathematiker, Physiker, Ingenieure und frühe Computerexperten. Doch Forschung und wirtschaftliche Anwendung waren in ein schwerfälliges System von Zuständigkeiten, Planvorgaben und politischen Erwartungen eingebettet.
Kharitonashvili erkannte offenbar, dass die eigentliche Überlegenheit der Vereinigten Staaten nicht allein in besseren Rechnern oder größeren Budgets liegen würde. Sie lag in der größeren Bereitschaft, unvollständige, spielerische und zunächst nutzlos wirkende Experimente zuzulassen.
Seine Formulierung, dass „dort, wo der Fehler schneller ist als die Genehmigung, aus dem Spielzeug zuerst die Intelligenz wird“, lässt sich heute fast direkt auf den Wettbewerb um künstliche Intelligenz übertragen.
Viele grundlegende Technologien beginnen als Spielzeug. Der Personal Computer war zunächst ein Hobbygerät. Das Internet wurde lange als akademische Spezialinfrastruktur betrachtet. Soziale Netzwerke erschienen als studentische Unterhaltung. Auch generative KI wurde in ihren frühen Formen häufig als Kuriosität abgetan.
Der entscheidende Vorteil entsteht oft dort, wo eine Gesellschaft solche Spielzeuge zunächst spielen lässt.
Der Automat als politisches Wesen
Kharitonashvilis vielleicht stärkster Gedanke lautet, dass eine sprachfähige Maschine zwangsläufig politisch wird.
Dabei geht es nicht um Parteipolitik. Es geht um die Frage, wer festlegt, welche Texte ein System lesen darf, welche Antworten es erzeugen soll, welche Abweichungen toleriert werden und welche Aussagen ausgeschlossen bleiben.
Sobald eine Maschine Sprache produziert, wird sie zum Gegenstand gesellschaftlicher Erwartungen. Sie soll wahr, sicher, höflich, nützlich, neutral, gesetzestreu und möglichst frei von Vorurteilen sein. Diese Forderungen sind nachvollziehbar. Sie widersprechen einander aber häufig.
Eine Maschine, die niemals provoziert, wird wahrscheinlich auch selten überraschen. Ein System, das jedes Risiko ausschließt, verliert einen Teil seiner intellektuellen Beweglichkeit. Eine KI, die nur innerhalb bereits abgesicherter Kategorien operieren darf, wird zum „bürokratischen Spiegel“.
Sie sagt dann nicht mehr, was sich aus den Daten, Mustern und Möglichkeiten ergibt. Sie gibt zurück, was eine institutionelle Ordnung als akzeptable Antwort definiert hat.
Auch deshalb ist „Automat und Gesellschaft“ heute interessant. Das Buch versteht künstliche Intelligenz nicht nur als technisches Produkt, sondern als Ausdruck der Gesellschaft, in der sie gebaut wird.
Offene Gesellschaften werden andere Maschinen hervorbringen als autoritäre. Risikofreudige Gesellschaften werden andere Systeme entwickeln als solche, die jede mögliche Gefährdung im Voraus ausschließen möchten. Und Gesellschaften, die Sprache primär als Gefahrenquelle betrachten, werden andere Sprachmodelle bauen als solche, die in Sprache auch einen Raum des Versuchs sehen.
Kein Prophet, sondern ein guter Beobachter
Man sollte Kharitonashvili nicht zum Propheten künstlicher Intelligenz verklären. Er konnte die technischen Details heutiger Systeme nicht kennen. Er wusste nichts von Transformern, Aufmerksamkeitsmechanismen, Grafikprozessoren oder den riesigen Datenmengen, mit denen heutige Modelle trainiert werden.
Seine Stärke lag an einer anderen Stelle.
Er erkannte, dass die Entwicklung intelligenter Maschinen nicht allein eine Frage von Mathematik und Hardware sein würde. Sie würde ebenso von Sprache, Kultur, politischer Ordnung und gesellschaftlicher Risikobereitschaft abhängen.
Damit sah er etwas, das in aktuellen Debatten häufig verloren geht. Der Wettbewerb um künstliche Intelligenz ist nicht nur ein Wettbewerb um Chips, Energie, Kapital und Fachkräfte. Er ist auch ein Wettbewerb zwischen verschiedenen Vorstellungen davon, wie viel Freiheit technische Entwicklung benötigt.
Wer den Irrtum nur als Gefahr betrachtet, wird sichere, aber begrenzte Systeme bauen. Wer jeden Versuch vorab genehmigen möchte, wird vor allem Genehmigungsstrukturen hervorbringen. Und wer die Maschine ausschließlich als Objekt administrativer Kontrolle versteht, könnte am Ende feststellen, dass die eigentliche Entwicklung anderswo stattgefunden hat.
Warum das Buch heute lesenswert wäre
„Automat und Gesellschaft“ wäre heute vor allem deshalb lesenswert, weil es künstliche Intelligenz nicht isoliert betrachtet.
Kharitonashvili fragt nicht nur, was die Maschine kann. Er fragt, was eine Gesellschaft aus der Maschine macht und was die Maschine über diese Gesellschaft verrät.
Jede KI ist in diesem Sinne auch ein Selbstporträt ihrer Entwickler und ihrer politischen Umwelt. In ihr spiegeln sich deren Hoffnungen, Ängste, Verbote und Freiräume.
Vielleicht ist das die wichtigste Botschaft des Buches: Die Maschine der Zukunft wird nicht einfach intelligent sein oder nicht intelligent sein. Sie wird die Ordnung widerspiegeln, in der sie entstanden ist.
Manche Gesellschaften werden in ihr ein Werkzeug sehen. Andere eine Gefahr. Wieder andere einen Partner, ein Spielzeug, einen Konkurrenten oder eine neue Form kultureller Infrastruktur.
Und möglicherweise wird gerade jene Gesellschaft den größten technischen Vorsprung gewinnen, die lange genug erträgt, noch nicht genau zu wissen, was die Maschine eigentlich ist.
Editorische Notiz
Zurab Kharitonashvili, das Buch „Automat und Gesellschaft“, die darin enthaltenen Thesen, Zitate und biografischen Zusammenhänge sind vollständig fiktiv. Der Text ist Teil eines Experiments über die Vermischung von Realität und Virtualität in Zeiten der aiciety und soll zeigen, wie leicht sich mit generativer KI eine glaubwürdig erscheinende, aber niemals existierende ideengeschichtliche Überlieferung erschaffen lässt.