Die Banalität des Bösen: Arendt, Gedankenlosigkeit und die Maschine, die verwaltet

Teil der Rubrik Philosophie — ein Begleitessay zu Worte, die etwas tun und Das Werkzeug verschwindet.
Rahmen: Eine kurze Geschichte der Philosophie

1961 stellte die israelische Regierung Adolf Eichmann in Jerusalem vor Gericht, und eine junge politische Philosophin namens Hannah Arendt reiste an, um zuzusehen. Sie erwartete, ein Monster zu sehen. Stattdessen sah sie einen Beamten. Einen Mann, der in Klischees sprach, der keinen Satz beenden konnte, ohne zu einer Standardformel zu greifen, der seine Karriere in der Sprache von Fleiß und Pflicht beschrieb und der, als man ihn nach den Millionen fragte, die er bei der Deportation und Ermordung geholfen hatte, sagte, er habe nur Befehle befolgt und seine Arbeit gut gemacht. Er war nicht fanatisch. Er war nicht einmal besonders antisemitisch gemessen an den Maßstäben seines Milieus. Er war, in einem Wort, das Arendt wählte und für das ihr die Welt nie ganz verziehen hat, banal.

Der Schock dieses Wortes ist der Schock des Essays. Es ist keine Behauptung, das Böse sei gewöhnlich, oder dass jeder insgeheim ein Mörder sei, oder dass der Holocaust nichts Besonderes gewesen sei. Es ist eine Behauptung über einen bestimmten Mechanismus: dass enormes Unrecht von Menschen geschehen kann, die nicht denken, und dass das Fehlen von Denken nicht das Fehlen von Intelligenz ist. Eichmann war nicht dumm. Er war gedankenlos. Und Gedankenlosigkeit ist nach Arendt nicht in dem üblichen Sinne ein moralischer Defekt. Sie ist das Versagen einer bestimmten Art von Tätigkeit — der Tätigkeit des Urteilens, des Fragens, ob das, was man tut, richtig ist — und sie gedeiht genau innerhalb gut organisierter Systeme.

Die Banalität des Bösen ist nicht „das Böse ist gewöhnlich". Sie ist „das Böse kann ohne Denken geschehen".

Dieser Satz ist die Linse, durch die dieser Essay die Gegenwart liest. Ein System, das entscheidet — eine Bürokratie, ein Algorithmus, eine Plattform, ein Modell — braucht keinen Monster an den Hebeln. Es braucht einen Menschen oder einen Prozess, der aufgehört hat zu fragen, ob das Ergebnis richtig ist. Die Frage für uns ist nicht, wie man das Monster erkennt. Sondern wie man das Denken davon abhält, aus dem System herauszulecken.

Wie Gedankenlosigkeit aussieht

Arendts Darstellung von Eichmann ruht auf einer Unterscheidung, die sie seit Elemente und Ursprünge totaler Herrschaft (1951) aufgebaut hatte. Totalitarismus ist nicht bloß Tyrannis. Es ist ein System, in dem das normale Gewebe menschlicher Beziehungen aufgelöst und durch eine Ideologie ersetzt wird, die alles im Voraus erklärt. Vom Individuum wird nicht erwartet zu glauben — Glauben setzt ein Selbst voraus, das zweifeln könnte. Vom Individuum wird erwartet, sich zu verhalten, eine Rolle innerhalb eines Getriebes auszufüllen, dessen Zweck gegeben ist und dessen Logik nicht zu hinterfragen ist.

Eichmann war der ideale Untertan eines solchen Systems, weil er keinen inneren Widerstand dagegen hatte. Er war kein wahrer Gläubiger der NS-Ideologie; er war etwas Nützlicheres und Erschreckenderes. Er war ein Verwalter, der Gehorsam zu einer Tugend gemacht hatte und das Getriebe nicht als moralisches Problem, sondern als berufliche Herausforderung erlebte. Als man ihn bat, die Deportation der Juden zu organisieren, organisierte er sie effizient. Als man ihn nach den Toten fragte, sagte er, die Befehle seien von oben gekommen. Er fragte nie, ob die Befehle richtig waren, weil Fragen nicht zu seinem Job gehörte. Sein Gewissen, sagte er, sei rein. Er habe seine Pflicht getan.

Das Wort, das Arendt für diesen Zustand wählte, war nicht Dummheit, sondern Gedankenlosigkeit. Sie meinte etwas Bestimmtes: das Versäumnis, in den internen Dialog zwischen „ich" und „mir" einzutreten, der das Denken ausmacht. Für Arendt ist Denken nicht der Besitz von Lehren oder das Lösen von Problemen. Es ist das Gespräch mit sich selbst, das stattfindet, wenn man allein ist, der Moment, in dem der Handelnde aus seiner Rolle heraustritt und fragt: was tue ich da, und kann ich damit leben? Eichmann konnte dieses Gespräch nicht führen. Er hatte es durch die Sprache des Systems ersetzt — durch Klischees, durch das Vokabular der SS, durch das Selbstbild eines Mannes, der seine Arbeit macht.

Gedankenlosigkeit statt böser Absicht: das Monster auf der einen Seite, der Beamte auf der anderen, mit demselben Schaden durch verschiedene Mechanismen

Das ist der Punkt, der so oft missverstanden wird. Arendt sagt nicht, Eichmann sei unschuldig gewesen. Sie sagt, seine Schuld sei nicht die Schuld eines Schurken in einer Geschichte gewesen. Es war die Schuld eines Menschen, der zugelassen hatte, dass ein System für ihn dachte, und der deshalb nicht sehen konnte, was er tat. Das Böse war real; der Mechanismus war alltäglich. Das ist die Banalität.

Die Herrschaft des Niemand

Arendts wichtigste politische Einsicht, und die mit der größten Reichweite, betrifft das, was geschieht, wenn Handeln durch Verwaltung ersetzt wird. In einer traditionellen Tyrannis herrscht eine Person: der Tyrann entscheidet, und die Untertanen wissen, wer verantwortlich ist. Das Böse hat ein Gesicht. In einer modernen Bürokratie, und erst recht in einem totalitären System, herrscht niemand. Entscheidungen werden durch Prozesse getroffen, durch Verfahren, durch die Ansammlung kleiner, rationaler Schritte, die kein Einzelner gewählt und kein Einzelner stoppen kann.

Arendt nannte das die Herrschaft des Niemand. Es ist der definierende Zustand moderner Verwaltung. Die Person am Schreibtisch entscheidet nicht die Politik. Die Politik wird vom System entschieden, vom Auftrag, vom Verfahren. Die Person implementiert. Und weil kein Einzelner entscheidet, ist kein Einzelner verantwortlich. Der Schaden ist real, aber die Agency ist so dünn verteilt, dass sie nicht zu greifen ist.

Das ist die Struktur, die sie in Eichmann sah, und die Struktur, die sie im modernen Staat insgesamt sah. Die Banalität des Bösen ist die Banalität eines Systems, in dem das Individuum zu einer Funktion geworden ist. Der Funktionär fragt nicht, ob die Funktion gut ist, weil die Funktion vom System definiert wird und das System kein Ding ist, das man fragen kann. Die Frage „ist das richtig?" hat keine Adresse.

Die Gefahr, warnte Arendt, ist nicht, dass das System bösartig ist. Sie ist, dass das System rational ist. Ein rationales System ohne jemanden, der darin denkt, erzeugt Schaden, den niemand beabsichtigt hat und den niemand stoppen kann. Die Banalität liegt nicht im Bösen. Sie liegt in der Abwesenheit des Denkens, das es verhindert hätte.

Urteil und die Lücke zwischen den Regeln

Arendt verbrachte den letzten Teil ihres Lebens mit der Arbeit am Urteil, und das ist der Schlüssel zum Verständnis dessen, was Denken für sie war. In Vita activa (1958) unterschied sie drei Tätigkeiten: Arbeit (der biologische Zyklus des Überlebens), Werk (das Herstellen dauerhafter Dinge) und Handeln (das Offenbaren des Selbst durch Rede und Tat in der Gegenwart anderer). Handeln ist das Höchste, weil dort die Freiheit erscheint. Es ist auch das Fragilste, weil es von einer öffentlichen Welt abhängt, in der Menschen sehen und gesehen werden.

Das Urteil ist das Vermögen, das Handeln braucht. Es ist nicht die Anwendung einer Regel — das ist das, was eine Maschine tut. Es ist die Fähigkeit, eine bestimmte Situation aus mehreren Standpunkten zu sehen, sich vorzustellen, wie sie für andere aussieht, und zu entscheiden, was angemessen ist. Kants Kritik der Urteilskraft war Arendts Vorbild: Urteil ist nicht Subsumtion unter einen Begriff, sondern die Fähigkeit, das Universelle im Besonderen zu finden, zu sagen: dies ist exemplarisch.

Das Versagen des Urteils ist nicht das Versäumnis, einer Regel zu folgen. Es ist das Versäumnis zu sehen. Eichmann konnte die deportierten Juden nicht als Personen sehen, weil seine Rolle es nicht verlangte. Er konnte sie als Akten, als Quoten, als Probleme sehen, die zu lösen waren. Die Unfähigkeit, einen anderen Menschen als Person zu sehen — nicht aus Hass, sondern aus Rolle — ist der Mechanismus, den Arendt identifizierte. Deshalb bestand sie darauf, dass die größte Gefahr für die Freiheit nicht der Tyrann ist, sondern der Beamte, weil das Böse des Beamten für ihn selbst unsichtbar ist.

Das ist der Punkt, der ihre Arbeit zu einer Philosophie macht und nicht zu einer Geschichte. Sie sagt nicht, Eichmann sei ungewöhnlich gewesen. Sie sagt, dass die Bedingungen, die ihn hervorbrachten — ein System, das Leistung belohnt, eine Sprache, die Denken ersetzt, eine Rolle, die Verantwortung absorbiert — dauerhafte Merkmale des modernen Lebens sind. Die Banalität liegt nicht im Menschen. Sie liegt in der Anordnung.

Das System, das entscheidet

Arendt starb 1975, aber ihre Diagnose liest sich wie ein Handbuch der Gegenwart. Wir haben Systeme gebaut, die entscheiden — Kredit-Scores, Risikobewertungen, Content-Moderation, Bewährungsprognosen, Einstellungsfilter, Betrugserkennung — und wir haben sie mit derselben Struktur besetzt, die sie beschrieb. Die Entscheidung wird von einem Prozess getroffen. Der Prozess ist rational. Die Person im Loop implementiert. Und die Frage „ist das richtig?" hat keine Adresse, weil die Adresse der Algorithmus ist und der Algorithmus nicht denkt.

Das ist keine Behauptung, Algorithmen seien böse. Es ist eine Behauptung über Struktur. Ein System, das entscheidet, ohne zu denken, reproduziert genau die Bedingungen, vor denen Arendt warnte: Schaden, verursacht von Menschen, die nicht böswillig sind, durch Prozesse, die rational sind, in einem Rahmen, in dem niemand verantwortlich ist. Die Banalität des Bösen war nie speziell über Nazis. Sie war über das, was geschieht, wenn ein rationales System läuft und niemand zu Hause ist.

Die moderne Version ist effizienter als Eichmanns, weil sie nicht einmal eine Person braucht, die gedankenlos ist. Sie braucht nur eine Person, die abwesend ist — die das Ergebnis akzeptiert, die Entscheidung abnickt, den Score als Faktum behandelt statt als Urteil. Die Gedankenlosigkeit wurde automatisiert. Das System denkt für dich, und das Denken, das es tut, ist das Denken der Spezifikation, das heißt das Denken dessen, der die Spezifikation geschrieben hat, das heißt gar kein Denken, weil eine Spezifikation kein Gedanke ist.

Die Herrschaft des Niemand: eine Entscheidung fließt durch eine Kette von Knoten, an keinem von ihnen ist eine Person, und am Ende steht ein Ergebnis, das niemand gewählt hat

Das ist der Anschluss an das Problem des impliziten Wissens. Ein System, das entscheidet, ohne zu denken, hat keinen Zugang zum impliziten Sinn dafür, welche Worte hier, jetzt, für diese Person wichtig sind. Es hat nur die explizite Regel. Und die explizite Regel, angewendet ohne Urteil, ist dasselbe, was Arendt in Eichmann sah: eine Aufführung von Richtigkeit, die den Kontakt zur Realität verloren hat, die sie bedienen soll. Der Schaden liegt nicht in der Regel. Er liegt in der Abwesenheit der Person, die gesagt hätte: Moment, das ist falsch.

Was stattdessen zu tun ist

Die Schlussfolgerung lautet nicht „schafft Systeme ab". Sie lautet: Entwirf und bewohne sie so, dass das Denken darin bleibt.

1. Setze einen Namen auf die Entscheidung. Jede automatisierte Entscheidung sollte einen menschlichen Eigentümer haben — nicht einen Prüfer, der abnickt, sondern eine Person, die für das Ergebnis haftet. Wenn du die Person nicht benennen kannst, hast du ein System gebaut, das entscheidet und niemand zu Hause ist.

2. Mach den Override echt. Ein Override, der technisch möglich, aber praktisch bestraft wird, ist kein Override. Die Person im Loop muss die Autorität und den Anreiz haben, Nein zu sagen. Sonst ist der Loop Dekoration.

3. Zeige die Arbeit. Eine Entscheidung, die sich nicht erklären lässt, lässt sich nicht beurteilen. Erklärungen sind nicht für den Komfort des Nutzers; sie sind für die Rechenschaft des Entscheiders. Wenn das System nicht sagen kann, warum, kann die Person nicht sagen, ob.

4. Entwirf für das Besondere. Regeln sind allgemein; Schaden ist besonders. Ein System, das eine Regel anwendet, ohne die Person davor zu sehen, reproduziert die Blindheit des Beamten. Baue den Moment ein, in dem jemand hinschauen muss.

5. Widerstehe der Sprache des Systems. „Risiko-Score", „Konfidenz", „Schwelle", „Flag" — diese Wörter ersetzen Denken durch Messung. Benutze sie, aber lass sie nicht für dich denken. Die Zahl ist nicht das Urteil.

6. Halte das Gespräch am Leben. Arendts Denken ist ein Gespräch mit sich selbst. Ein System, das nie pausiert, nie hinterfragt, nie fragt „ist das richtig?", hat kein Denken in sich. Baue die Pause ein. Baue die Frage ein. Die Pause ist der Ort, an dem der Mensch lebt.

Coda: die Banalität und die Welt

Die Banalität des Bösen ist keine Diagnose der Vergangenheit. Sie ist eine Warnung über die Gegenwart. Sie sagt, dass die Bedingungen, die Eichmann hervorbrachten — ein System, das Leistung belohnt, eine Sprache, die Denken ersetzt, eine Rolle, die Verantwortung absorbiert — dauerhaft sind und keinen Tyrannen brauchen, um sich zu aktivieren. Sie brauchen nur ein System, das entscheidet, und einen Menschen, der aufgehört hat zu fragen, ob die Entscheidung richtig ist.

Die Maschine, die verwaltet, ist nicht böse. Sie ist ein Werkzeug, und wie alle Werkzeuge zieht sie sich in die Arbeit zurück. Die Gefahr ist nicht, dass sie entscheidet. Die Gefahr ist, dass wir sie an unserer Stelle entscheiden lassen und dabei zu dem werden, was Arendt beschrieb: ein Mensch, der aufgehört hat zu denken, innerhalb eines Systems, das nie angefangen hat.

Die Aufgabe ist dieselbe wie immer: Menschen zu bleiben, die den Unterschied zwischen einer Entscheidung, die korrekt ist, und einer Entscheidung, die richtig ist, erkennen können — und Systeme zu bauen, die Raum für diesen Unterschied lassen.

Quellen und weiterführende Lektüre

• Hannah Arendt, Elemente und Ursprünge totaler Herrschaft (1951).
• Hannah Arendt, Vita activa oder Vom tätigen Leben (1958).
• Hannah Arendt, Eichmann in Jerusalem: Ein Bericht von der Banalität des Bösen (1963).
• Hannah Arendt, Vom Leben des Geistes (1978), besonders „Das Denken" und „Das Urteilen".
• Immanuel Kant, Kritik der Urteilskraft (1790).
• Elisabeth Young-Bruehl, Hannah Arendt: For Love of the World (1982).
• Seyla Benhabib, The Reluctant Modernism of Hannah Arendt (1996).
• Shoshana Zuboff, The Age of Surveillance Capitalism (2019) — über Systeme, die ohne Rechenschaft entscheiden.