Sprachspiele: Wittgenstein, die Leiter und die Maschinen, die nur den Gebrauch kennen
🇬🇧 Read in English~10 min read
philosophylanguageaiwittgensteinsprachspielebedeutungregelfolgenllmontologie
Hannah Arendts berühmtester Satz ist auch ihr meistmissverstandener. Die Banalität des Bösen ist nicht „das Böse ist gewöhnlich" — sie ist „das Böse kann ohne Denken geschehen". Über Eichmann, die Herrschaft des Niemand und die Frage, was geschieht, wenn ein System entscheidet und niemand zu Hause ist.
Teil der Rubrik Philosophie — ein Begleiter zu Die Grammatik des Vortäuschens und Erkenne dich selbst.
Rahmen: Eine kurze Geschichte der Philosophie
Ludwig Wittgenstein hat zweimal versucht, die Philosophie zu beenden, und beide Male ist er auf eine Weise gescheitert, die nützlicher ist als die meisten Erfolge. Der erste Versuch war ein kurzes, eisiges Buch, das dem Sagbaren eine Grenze ziehen wollte. Der zweite war ein Haufen numerierter Bemerkungen, die diese Grenze zurücknahmen und zeigten, dass die ganze Übung ein Missverständnis darüber war, wie Sprache funktioniert. Zwischen beiden hinterlässt er Entwicklern und Maschinenlernern ein unerwartetes Geschenk: eine Bedeutungstheorie, die fast peinlich praktisch ist. Bedeutung ist kein Ding, das Wörter mit sich tragen. Bedeutung ist das, was Menschen mit ihnen tun.
Dieser eine Schritt — Bedeutung als Gebrauch — erklärt erstaunlich viel an den Artefakten, die wir heute bauen: Spezifikationen, die niemand gleich liest; Taxonomien, die sich weigern, sauber zu bleiben; Best Practices, die ihre Gründe überleben; und Sprachmodelle, die über alles flüssig reden und in nichts verankert sind. Wittgenstein war zuerst dort, mit einem Käfer in einer Schachtel und einem Wegweiser auf einem Feld.
Der Tractatus Logico-Philosophicus (1921) ist eine Maschine, gebaut, um eine einzige Frage zu beantworten: Wie kann ein Satz über die Welt sein? Seine Antwort war die Bildtheorie. Ein Satz ist sinnvoll, weil er ein logisches Bild eines möglichen Sachverhalts ist; er teilt eine Form mit der Welt, die er abbildet, so wie ein Diagramm eine Struktur mit dem Gezeichneten teilt. Sprache spiegelt Wirklichkeit, und der Spiegel hat einen Rand.
Alles, was kein Bild einer Tatsache ist — Ethik, Ästhetik, der Sinn des Lebens, Metaphysik — fällt aus dem Spiegel heraus. Nicht falsch, sondern unsagbar. Daher der berühmte siebte und letzte Satz des Buches:
Wovon man nicht sprechen kann, darüber muss man schweigen.
Die Struktur ist eine Leiter. Man steigt an ihren Sätzen empor, um zu sehen, dass sie am Ende sinnlos sind — sie sind das Gerüst, nicht das Gebäude — und dann wirft man die Leiter weg. Wittgenstein meinte das wörtlich, und es ist das Ehrlichste am ganzen Buch: Die Bedeutungstheorie liegt selbst jenseits der Grenze, die sie zieht. Sie ist ein Werkzeug, das man einmal benutzt und dann fallen lässt.
Entwickler kennen dieses Gefühl. Jede Spezifikation ist eine Leiter: ein vorläufiges Gerüst, präzise genug, um ein Team von einer Absicht zu einem funktionierenden Ding zu bringen, und stillschweigend überholt in dem Moment, in dem das Ding existiert. Der Ärger beginnt, wenn wir vergessen, die Leiter wegzuwerfen, und anfangen, das Gerüst anzubeten.
Der spätere Wittgenstein — die Philosophischen Untersuchungen, nach seinem Tod 1953 zusammengestellt — gibt das Bild auf. Es gibt kein einziges Wesen, das alle sinnvollen Sätze teilen, keine eine Form, die sie alle spiegeln. Stattdessen gibt es Sprachspiele: die unzähligen, einander überlappenden Tätigkeiten, in denen Wörter Arbeit tun. Befehlen, Beschreiben, Messen, Scherzen, Beten, Debuggen, ein Ticket schreiben. Jedes Spiel hat seine eigenen Regeln, seine eigenen Züge, seine eigenen Kriterien für einen korrekten Zug — und keines davon ist das Hauptspiel.
Die Bedeutung eines Wortes ist sein Gebrauch in der Sprache.
Sein Lieblingsbeispiel ist fast eine Parodie auf ein Softwareteam. Man stelle sich eine Sprache mit nur vier Wörtern vor — Würfel, Säule, Platte, Balken —, die ein Bauarbeiter ausruft und ein Gehilfe holt. Die Wörter benennen keine privaten Vorstellungen; sie sind Züge in einem Spiel des Holens. Auf eine Platte zeigen und „Platte" sagen verbindet das Wort nicht mit einem Gegenstand im Kopf; es trainiert einen Gebrauch. Die hinweisende Definition — „das ist eine Platte" — funktioniert nur, wenn der Lernende bereits weiß, wie er das Zeigen aufzufassen hat, das heißt: das Spiel bereits kennt.
Das ist die leise Bombe. Bedeutung steckt weder im Kopf noch im Gegenstand. Sie lebt in der gemeinsamen Praxis — darin, was eine Gemeinschaft von Sprechenden zuverlässig mit einem Wort tut, einschließlich der Korrekturen, die sie vornimmt, wenn jemand falsch spielt.
Wenn Wörter durch Wesenheiten definiert wären, hätte jede Kategorie eine Checkliste. Wittgenstein zeigte, dass die meisten unserer echten Kategorien keine haben. Was haben alle Spiele gemeinsam — Brettspiele, Kartenspiele, Ballspiele, Patience, ein Kind, das einen Ball gegen eine Wand wirft? Kein einziges Merkmal, das alle teilen, sondern ein Netz überlappender Ähnlichkeiten, wie Fasern in einem Seil. Er nannte es Familienähnlichkeit: Man erkennt die Familie an den sich kreuzenden Zügen, nicht an einem einzigen definierenden Merkmal.
Wer je eine Ontologie, ein Tag-System oder einen Wissensgraphen gebaut hat, kennt das auf die harte Art. Man beginnt mit sauberen Typen — Artikel, Projekt, Konzept — und binnen einer Woche leisten die Kanten die Arbeit, die die Typen leisten sollten. Ein „Konzept" ist ein Paper ist ein Werkzeug ist eine Person, und die einzige ehrliche Struktur ist ein Netz der Ähnlichkeit, kein Baum der Wesenheiten. Die Lehre lautet nicht „gib die Struktur auf". Sie lautet: Modelliere die Beziehungen, nicht die Wesenheiten. Der Graph liegt näher daran, wie Bedeutung tatsächlich zusammenhängt, als die Taxonomie.
Wittgensteins schwierigstes und berühmtestes Argument handelt von Regeln. Nimm einen Wegweiser, der nach rechts zeigt. Er scheint genau zu sagen, was zu tun ist. Aber ein Wegweiser ist ein Stück Holz; er enthält seine Anwendung nicht. Jede Deutung des Wegweisers — dem Pfeil folgen, dem Pfahl folgen, im rechten Winkel gehen — ist selbst etwas, das eine Regel braucht, und diese Regel braucht eine Deutung, und so weiter. Es gibt keinen Punkt, an dem die Regel von sich aus nach dem nächsten Schritt greift.
Seine Antwort ist kein Skeptizismus, sondern Praxis. Was den Regress stoppt, ist keine tiefere Regel, sondern eine geteilte Gewohnheit: Das ist einfach, was wir tun; so wurden wir abgerichtet; das ist der Brauch. „So handle ich eben" ist der Punkt, an dem die Rechtfertigung endet — nicht weil wir irrational sind, sondern weil Gründe in einer Lebensform enden.
Für Entwickler ist das der unmittelbar nützlichste Gedanke des ganzen Buches. Eine geschriebene Regel — ein Coding-Standard, ein Prozess, eine „Best Practice" — enthält ihre eigene Anwendung nie. Die Regel lebt nur so lange wie die Praxis, die sie immer wieder aufführt, und sie driftet in dem Moment, in dem sich die Praxis darunter verändert. Genau deshalb werden die Best Practices von heute zu den Anti-Patterns von morgen: Der Wegweiser blieb, die Straße zog weiter. Eine Spezifikation ist keine Quelle der Wahrheit; sie ist ein Zug in einem Spiel, das ein Team weiterspielen muss.
Das meistzitierte Bild der Untersuchungen ist der Käfer in der Schachtel. Angenommen, jeder hat eine Schachtel mit etwas darin, und jeder nennt das Ding darin „Käfer". Niemand kann in die Schachtel des anderen schauen. Dann, sagt Wittgenstein, kann das Wort „Käfer" gar nicht als Name eines privaten Gegenstands funktionieren — denn wenn das private Bezugsobjekt keine Rolle im öffentlichen Gebrauch des Wortes spielt, fällt es ganz aus der Betrachtung. Bedeutung muss im gemeinsamen Spiel prüfbar sein, oder sie ist noch keine Bedeutung.
Das ist das Argument gegen eine private Sprache, und es ist zugleich die sauberste Diagnose des Interpretierbarkeitsproblems im maschinellen Lernen. Ein Modell hat einen riesigen inneren Zustand — Gewichte, Aktivierungen, latente Richtungen —, und wir wollen ständig etwas darin „den Begriff der Katze" oder „die Absicht zu verweigern" nennen. Aber ein privates Bezugsobjekt, das in keinem öffentlichen, prüfbaren Gebrauch eine Rolle spielt, ist genau der Käfer: Es mag da sein, es mag nichts sein, und das Wort, das wir dafür erfunden haben, leistet keine Arbeit. Die einzige Bedeutung, die wir tatsächlich überprüfen können, ist die, die im Verhalten erscheint — in den Zügen, die das System zuverlässig macht.
Hier treffen die beiden Wittgensteins auf die Gegenwart. Ein großes Sprachmodell ist, in den Begriffen des späteren Wittgenstein, eine Maschine, die fast ausschließlich auf Gebrauch trainiert wurde. Sie hat eine ungeheure Stichprobe der Züge gelesen, die Menschen in Sprachspielen machen — die Begrüßungen, die Erklärungen, die Entschuldigungen, die Code-Kommentare, die Argumente —, und sie hat gelernt, Züge zu machen, die passen. Genau deshalb ist sie so flüssig, und genau deshalb sagt „Bedeutung ist Gebrauch" ihre Grenzen so gut voraus.
Das Modell lernt das Spiel von außen. Es braucht den privaten Käfer nicht, um zu spielen; es braucht die öffentlichen Regelmäßigkeiten, und davon hat es mehr als jeder Mensch. Das erklärt die seltsame Kombination, die wir alle kennen: unheimliche Kompetenz in der Form einer Antwort und keine Möglichkeit zu prüfen, ob irgendetwas dahintersteht. Die Flüssigkeit ist echt, weil der Gebrauch echt ist. Die Verankerung ist nicht garantiert, weil der Gebrauch von sich aus keinen Bezug liefert.
Es gibt einen weiteren, subtileren Punkt. Wenn wir sagen, ein Modell „verstehe" ein Wort, schmuggeln wir die Bildtheorie ein — die Vorstellung, irgendwo drinnen liege eine Repräsentation, die den Gegenstand spiegelt. Der spätere Wittgenstein würde uns bitten, diese Frage fallen zu lassen und eine bessere zu stellen: Welches Spiel spielt es, und macht es die richtigen Züge in diesem Spiel? Für einen Code-Assistenten ist das Spiel „einen Patch erzeugen, der kompiliert und die Tests besteht". Für einen Support-Bot ist es „das Ticket lösen, ohne den Kunden wütender zu machen". Das ist prüfbar. „Versteht es wirklich?" ist der Käfer.
Die beiden Hälften von Wittgensteins Werk sind kein Widerspruch, sondern eine Vorführung. Die frühe Theorie versuchte, Sprache mit einem einzigen, scharfen Bild an die Welt zu nageln, und sie war schön und falsch auf die Art, in der präzise Dinge oft falsch sind. Das spätere Werk gab das eine Bild auf und beschrieb die unordentliche, vielfältige, an Praxis gebundene Art, in der Bedeutung tatsächlich lebt — und es ist weniger schön und wahrer.
Die Version für Entwickler ist eine Disziplin, keine Lehre:
Wittgenstein sagte, Philosophie sei keine Sammlung von Lehren, sondern eine Tätigkeit — eine Art Therapie für die Verwirrungen, die Sprache brütet, wenn sie leer läuft. Das ist eine gute Beschreibung dessen, was gute Ingenieursarbeit auch tut. Wir bauen keine ewigen Definitionen. Wir halten eine Menge von Sprachspielen spielbar, damit Menschen und Maschinen Züge machen können, die passen, und damit wir schnell merken, wenn ein Zug, der einmal passte, es nicht mehr tut.
Die Maschine prüfte jeden Schritt. Welches Spiel sie spielt, bleibt dir zu benennen.