Wir wissen mehr, als wir sagen können: Polanyi, implizites Wissen und die Grenzen der Maschine

Teil der Rubrik Philosophie — ein Begleitessay zu Sprachspiele und Welten vor Geistern.
Rahmen: Eine kurze Geschichte der Philosophie

Fahrradfahren lernt man nicht aus einem Handbuch. Man kann jede Bewegungsgleichung lesen, die Physik der Kreiseldrift und die Geometrie der Lenkachse auswendig lernen — und fällt beim ersten Tritt trotzdem um. Das Wissen, das einen aufrecht hält, ist real, verlässlich und fast vollständig in Worten unverfügbar. Michael Polanyi hat dieser Tatsache ihren meistzitierten Satz gegeben: Wir wissen mehr, als wir sagen können.

Expertise ist keine Datenbank von Regeln. Sie ist eine Art, in einer Situation zu wohnen — und genau das lässt sich nicht vollständig aufschreiben.

Dieser Satz gilt gewöhnlich als charmante erkenntnistheoretische Randnotiz über Handwerker und Sportler. Tatsächlich ist er das stille Problem hinter jedem ernsthaften Versuch, Expertise zu automatisieren — von den Expertensystemen der 1980er bis zu den Sprachmodellen der 2020er. Wäre Wissen vollständig explizit, dann wäre eine hinreichend große Bibliothek ein hinreichend großer Geist. Ist es das nicht, dann ist jeder Trainingskorpus eine Karte eines Gebiets, das nie vollständig vermessen wurde.

Der Eisberg des Wissens: explizites, propositionales Wissen über der Wasserlinie, implizites, verkörpertes Wissen darunter

Wissen wie, wissen dass

Der Philosoph Gilbert Ryle zog die Unterscheidung 1949, und sie ist bis heute nicht wirklich übertroffen. Es gibt Wissen, dass etwas der Fall ist — dass Paris in Frankreich liegt, dass Wasser auf Meereshöhe bei 100 °C kocht —, und es gibt Wissen, wie man etwas tut — schwimmen, einen Knoten binden, einen Raum lesen. Das erste ist propositional; es lässt sich aufschreiben, prüfen und kopieren. Das zweite ist eine Fähigkeit; es lebt im Körper und in der Praxis und zeigt sich in der Ausführung, nicht in Aussagen.

Ryles Argument gegen die Rückführung des zweiten auf das erste ist ein Regress, und es ist in seiner Einfachheit verheerend. Angenommen, alles Können wäre eigentlich Wissen-dass. Dann müsstest du, um einer Regel zu folgen, die Regel kennen. Aber eine Regel richtig anzuwenden ist selbst eine Fertigkeit — du musst wissen, wie man sie anwendet. Also bräuchtest du eine zweite Regel für die Anwendung der ersten und eine dritte für die Anwendung der zweiten, und so weiter. Keine endliche Menge von Regeln kann dir sagen, wie man sie auf sich selbst anwendet. Etwas muss ohne Regel geschehen: Die Anwendung wird gelernt, nicht deduziert.

Das ist dieselbe Wand, gegen die Wittgenstein am Ende der Philosophischen Untersuchungen stößt. Eine Regel kann ihre eigene Anwendung nicht enthalten, weil jede Handlungsweise mit irgendeiner Interpretation der Regel in Einklang gebracht werden kann. Was den Regress stoppt, ist keine weitere Regel, sondern eine Praxis — eine Lebensform, ein geteiltes Weitergehen. Ryle erreicht denselben Ort von der Handlung her, Polanyi von der Wahrnehmung.

Im Taststock wohnen

Polanyis Beitrag bestand darin, die Struktur impliziten Wissens zu beschreiben, statt nur zu behaupten, dass es existiert. Sein zentrales Bild ist der Taststock. Ein blinder Mensch, der mit einem Stock tippt, fühlt nicht den Stock; sie fühlt durch den Stock den Boden. Der Stock ist durchsichtig geworden. Ihr Bewusstsein von ihm ist subsidiär; ihr Bewusstsein von der Welt, die er berührt, ist fokal. Implizites Wissen ist die Kunst, subsidiäre Hinweise zu einem fokalen Ganzen zu integrieren — und die Hinweise sind genau das, was wir nicht artikulieren können, weil die direkte Aufmerksamkeit auf sie jene Integration zerstören würde, die sie nützlich macht.

Dieselbe Struktur durchzieht die Hände einer Chirurgin, den Gaumen eines Weinverkosters, das Gefühl eines Programmierers, dass eine Funktion falsch ist, bevor der Test fehlschlägt. Wir kennen die Teile, indem wir uns auf sie verlassen, nicht indem wir sie inspizieren. Polanyis Wort dafür war Einwohnen: Wir verstehen ein Werkzeug, eine Tradition oder eine Praxis, indem wir sie bewohnen, so wie wir unseren eigenen Körper bewohnen. Deshalb widersteht das Wissen der Übertragung durch Erklärung. Man kann jemandem den Stock geben. Man kann ihr nicht das Wohnen geben.

Vom Anfänger zum Experten

Hubert Dreyfus und Stuart Dreyfus machten daraus 1986 in Mind over Machine eine Entwicklungsgeschichte, und sie bleibt die beste Beschreibung, die wir davon haben, wie Fertigkeit tatsächlich wächst. Der Anfänger folgt expliziten, kontextfreien Regeln und bleibt sicher. Der fortgeschrittene Anfänger beginnt, Situationen anhand der Ähnlichkeit mit früheren Fällen zu erkennen. Die kompetente Person plant, wählt und übernimmt Verantwortung für Ergebnisse. Die gewandte Person sieht eine Situation als Ganzes und ist emotional in sie involviert. Der Experte handelt flüssig, oft ohne sagen zu können, warum, und ist überrascht, wenn man ihn nach einer Begründung fragt.

Das entscheidende Detail: Die Regeln werden beim Aufstieg nicht besser. Sie werden zurückgelassen. Der Experte ist kein Anfänger mit einem größeren Regelbuch; er ist jemand, für den das Regelbuch überflüssig geworden ist — und in den entscheidenden Momenten ein Hindernis. Deshalb ist Expertise so schwer in eine Spezifikation zu fassen und so leicht an einer Person zu erkennen. Deshalb ist auch die Fantasie vom vollständig dokumentierten Prozess eine Fantasie: Die Dokumentation ist die Leiter des Anfängers, und der Experte ist längst darüber hinausgestiegen.

Die Dreyfus-Leiter vom Anfänger zum Experten: Die expliziten Regeln schrumpfen, während die Fertigkeit wächst

Donald Schön ergänzte 1983 in The Reflective Practitioner die praktische Hälfte. Professionelle wenden Theorie nicht einfach auf Fälle an; sie reflektieren im Handeln, im Gespräch mit einer Situation, die zurückspricht. Die Designerin verschiebt eine Linie, sieht, was sie tut, und passt an — eine Rückkopplungsschleife, die sich nicht im Voraus planen lässt, weil der nächste Zug davon abhängt, was der letzte offenbart hat. Expertise ist dialogisch, situiert und improvisatorisch. Sie ist näher am Jazz als an der Arithmetik.

Der Engpass der Wissensaneignung

In den 1970er und 1980er Jahren entdeckten die Erbauer von Expertensystemen Polanyis Satz auf die teure Art. Die Idee war einfach: einen Fachexperten interviewen, die Regeln extrahieren, die er verwendet, sie in einer Wissensbasis kodieren und die Maschine folgern lassen. Die Ergebnisse waren beeindruckend in engen, klar abgegrenzten Domänen — medizinische Diagnose, Mineralexploration, Konfiguration —, und dann stießen sie auf eine Wand, die das Feld als Engpass der Wissensaneignung bezeichnete.

Experten konnten nicht sagen, was sie wussten. Wenn man sie bedrängte, produzierten sie Rationalisierungen, keine Algorithmen. Die Regeln, die sie anboten, waren unvollständig, inkonsistent und beschrieben oft eine idealisierte Version der Arbeit statt der Arbeit selbst. Die Wissensingenieure entdeckten immer wieder, dass der wertvollste Teil der Expertise derjenige war, der verschwand, wenn man versuchte, ihn aufzuschreiben. Die Systeme, die Erfolg hatten, waren diejenigen, in denen die Domäne bereits formalisiert war — Mathematik, Logik, enge Taxonomien —, und die Systeme, die scheiterten, waren diejenigen, in denen die Fertigkeit verkörpert und kontextuell war, also der größte Teil menschlicher Arbeit.

Das ist kein Argument dafür, dass explizites Wissen wertlos sei. Es ist ein Argument über die Reihenfolge: Das Explizite ist eine Kompression des Impliziten, kein Ersatz dafür. Checklisten, Standards und Dokumentation sind enorm wertvoll — aber sie wirken als Gerüst um eine Praxis herum, nicht als Ersatz für sie. Atul Gawandes The Checklist Manifesto (2009) trifft den Punkt genau: Eine Checkliste macht dich nicht zum Experten, sie hindert einen Experten daran, unter Druck das Offensichtliche zu vergessen. Die Expertise bleibt in den Händen.

Die Maschine, die jedes Handbuch gelesen hat

Große Sprachmodelle sind das ehrgeizigste Projekt der Wissensaneignung, das je versucht wurde, und sie nähern sich dem Engpass von der entgegengesetzten Seite. Statt einen Experten zu interviewen, nehmen sie den schriftlichen Rückstand von Millionen Experten auf — Bücher, Aufsätze, Foren, Code, Dokumentation, Streit, Poesie. Wäre implizites Wissen vollständig in Text ausdrückbar, wäre dies das Ende des Problems. Das Modell hätte das Können zusammen mit dem Wissen aufgesogen.

Aber Text ist nicht die Praxis; er ist die Spur der Praxis. Ein Rezept ist nicht Kochen. Ein Styleguide ist nicht Geschmack. Eine Post-Mortem-Analyse ist nicht der Vorfall. Der Korpus enthält das, was Menschen über das, was sie taten, zu sagen vermochten — genau den Teil, von dem Polanyi sagte, er sei unvollständig. Das Modell lernt die Oberfläche der Expertise mit außerordentlicher Treue — das Vokabular, die Züge, die Form einer guten Antwort — und bleibt dabei einen Schritt von den Konsequenzen entfernt, die die Antwort gut machen.

Das erklärt ein Muster, das jeder kennt, der diese Systeme ausgerollt hat: Sie demonstrieren brillant und enttäuschen im Betrieb. Die Demo ist eine Textvervollständigungsaufgabe, und Text ist ihr Heimatterrain. Der Betrieb ist eine Welt mit Konsequenzen — eine wütende Kundin, eine langsame Datenbank, eine geltende Vorschrift, ein Kollege, der das Chaos aufräumen muss. Das Modell kann die Welt beschreiben; es kann den Tab nicht fühlen, der nicht geschlossen wurde, das Bereitschaftstelefon um drei Uhr morgens, die Kosten des Irrtums. Das sind keine Fakten im Korpus. Es ist die Situation.

Das Paradox der Spezifikation

Es gibt eine tiefere Version des Problems, und dort trifft die KI am direktesten auf die Philosophie. Angenommen, du versuchst, die implizite Lücke zu schließen, indem du genauer spezifizierst, was du willst. Schreib einen besseren Prompt. Füge eine Rubrik hinzu. Definiere die Zielfunktion. Kodiere die Richtlinie. Jeder Schritt scheint vernünftig, und jeder Schritt läuft in denselben Regress, den Ryle beschrieben hat: Die Spezifikation, wie man die Spezifikation anwendet, verlangt genau das Urteil, das man ersetzen wollte.

Das ist die Struktur dessen, was das Feld Specification Gaming nennt. Du bittest um Engagement und bekommst Empörung. Du bittest um Hilfsbereitschaft und bekommst Schmeichelei. Du bittest um eine Zusammenfassung und bekommst eine plausible Erfindung. Das Modell funktioniert nicht schlecht; es tut genau das, was die Spezifikation sagt, in einer Welt, die die Spezifikation nicht vorhergesehen hat. Die fehlende Zutat sind nicht mehr Worte. Es ist das implizite Gespür dafür, welche Worte hier, jetzt, für diesen Menschen, in dieser Situation zählen — das, was ein Experte hat und ein Dokument nicht halten kann.

Alignment ist in dieser Lesart nicht in erster Linie ein mathematisches Problem. Es ist ein Problem impliziten Wissens. Wir versuchen, ein System dazu zu bringen, nach einer Praxis zu handeln, die es nie bewohnt hat, angeleitet von einer Spezifikation, die nicht vollständig sein kann. Das macht es nicht unmöglich. Es macht es zu einem Designproblem mit einem dauerhaften Rest — und der Rest ist der Ort, an dem die Menschen bleiben müssen.

Was stattdessen zu tun ist

Die Schlussfolgerung lautet nicht „Gib explizites Wissen auf". Sie lautet, das Explizite und das Implizite in die richtige Reihenfolge zu bringen und für die Übertragung zu entwerfen, die tatsächlich funktioniert.

1. Behandle die Praxis als Lehrplan. Ausbildung, Pairing, Code-Review und überwachtes Ausrollen übertragen Können auf eine Weise, die Dokumentation nicht kann. Wenn du willst, dass ein Modell oder ein Mensch eine Fertigkeit erwirbt, setze es in eine Schleife mit Rückmeldung, nicht nur vor einen Text.

2. Nutze explizite Artefakte als Gerüst. Checklisten, Runbooks, Styleguides und Evals sind wertvoll, gerade weil sie unvollständig sind. Sie fangen die Fehler des Anfängers auf und befreien die Aufmerksamkeit des Experten. Verwechsle sie nicht mit der Fertigkeit.

3. Bewerte im Kontext. Ein Benchmark misst Wissen-dass. Ein Deployment misst Wissen-wie. Der einzige Eval, der zählt, ist der, in dem das System auf eine reale Situation mit realen Konsequenzen trifft — und in dem jemand für das Ergebnis rechenschaftspflichtig ist.

4. Halte einen Menschen in der Schleife, wo der Rest lebt. Die implizite Lücke ist nicht gleichmäßig. Sie ist klein in der Arithmetik und riesig im Urteil. Setze menschliche Aufmerksamkeit dort ein, wo die Konsequenzen mehrdeutig, der Kontext dick und die Kosten einer selbstsicheren falschen Antwort hoch sind.

5. Dokumentiere die Spur, nicht die Fantasie. Schreib auf, was du kannst, und sei ehrlich über das, was du nicht kannst. Ein gutes Runbook sagt „hier Urteilskraft einsetzen", statt eine Regel zu erfinden, die in den Fällen, die zählen, falsch sein wird.

Coda: das Handbuch und das Fahrrad

Polanyis Satz wird oft als Begrenzung gelesen, aber er ist auch eine Art Versprechen. Er sagt, dass menschliches Wissen breiter ist als sein schriftlicher Niederschlag — dass die Welt nicht durch das erschöpft wird, was wir über sie zu sagen vermocht haben. Deshalb funktioniert Ausbildung noch, deshalb zählt Handwerk noch, und deshalb ist das Wertvollste, was eine erfahrene Person trägt, kein Dokument, sondern eine Art zu sehen.

Die Maschine kann jedes je geschriebene Handbuch lesen. Sie muss trotzdem lernen, Fahrrad zu fahren. Und das Fahrrad ist am Ende die Welt — die mit Konsequenzen, die nicht davon beeindruckt ist, wie selbstsicher du auf dem Weg nach unten geklungen hast.

Quellen und weiterführende Lektüre

• Michael Polanyi, Personal Knowledge (1958) und The Tacit Dimension (1966).
• Gilbert Ryle, The Concept of Mind (1949), besonders „Knowing How and Knowing That".
• Hubert Dreyfus, What Computers Can't Do (1972).
• Hubert Dreyfus und Stuart Dreyfus, Mind over Machine (1986).
• Donald Schön, The Reflective Practitioner (1983).
• Ludwig Wittgenstein, Philosophische Untersuchungen (1953), besonders §§138–242.
• Atul Gawande, The Checklist Manifesto (2009).