2026-06 · 3 Min. Lesezeit
Wir wissen mehr, als wir erklären können
Lange Zeit galt Verständnis als Maßstab für Expertise. Intelligente Systeme beginnen, diese beiden Dinge voneinander zu lösen.
Lange Zeit galt Verständnis als Maßstab für Expertise. Zunehmend beginnen sich diese beiden Dinge voneinander zu lösen.
Fragt man eine erfahrene Ärztin, woran sie eine Diagnose erkannt hat. Einen Feuerwehrmann, warum er sich für genau diesen Eingang entschieden hat. Oder einen Designer, weshalb sich ein Workflow sofort falsch angefühlt hat. Die Antworten fallen oft überraschend ähnlich aus.
„Irgendetwas daran hat nicht gestimmt."
Sie wissen es. Aber zu erklären, woher dieses Wissen kommt, ist deutlich schwieriger.
Über Jahrzehnte hat Software unsere Abhängigkeit von genau dieser Form der Intuition reduziert. Prozesse wurden explizit. Regeln wurden in Workflows übersetzt. Entscheidungen wurden dokumentiert. Gute Systeme sollten so nachvollziehbar sein, dass sich ihr Verhalten erlernen ließ.
Intelligente Systeme scheinen diese Entwicklung nun leise umzukehren.
Bisherige Abstraktion verbarg die Umsetzung. Niemand muss einen Verbrennungsmotor verstehen, um Auto zu fahren. Niemand muss Betriebssysteme kennen, um eine Nachricht zu verschicken. KI führt eine andere Form der Abstraktion ein. Sie verbirgt zunehmend das Denken selbst — nicht nur was passiert, sondern warum.
Dieser Unterschied wirkt zunächst klein. Seine Folgen sind es nicht.
Wenn die Entscheidungslogik unsichtbar wird, verändert sich auch Expertise. Menschen entwickeln immer seltener vollständige mentale Modelle eines Systems. Stattdessen entsteht etwas anderes: ein Gespür dafür, wann ein System zuverlässig arbeitet, wo seine Grenzen liegen, welche Aufgaben gut funktionieren, wann Eingreifen sinnvoll ist.
Ihr Wissen wird weniger explizit. Dafür intuitiver. Weniger regelbasiert. Mehr verkörpert.
Diese Intuition sollte man nicht mit Oberflächlichkeit verwechseln. Sie entsteht durch Wiederholung. Durch Experimentieren. Durch Hunderte kleiner Korrekturen zwischen Erwartung und Ergebnis. Die Expertise ist real. Sie lässt sich nur schwer in Worte fassen.
In vielen Fällen wissen Menschen deutlich mehr, als sie erklären können.
Eine der bemerkenswertesten Eigenschaften moderner KI besteht darin, dass sie Menschen befähigt, hochkomplexe Systeme zu nutzen, ohne sie vollständig zu verstehen.
Darin liegt eine neue Herausforderung für Design. Lange Zeit gingen wir davon aus, dass gute Produkte möglichst wenig Lernen erfordern. Vielleicht brauchen sie heute eine andere Form des Lernens — nicht das Auswendiglernen von Funktionen, nicht das Beherrschen einer Oberfläche, sondern das Entwickeln einer verlässlichen Intuition für Systeme, deren innere Logik nur teilweise sichtbar bleibt.
Erklärungen helfen. Dokumentation ebenfalls. Doch beides löst das eigentliche Problem nicht.
Das Ziel ist nicht vollständiges Verständnis — das wird zunehmend unrealistisch. Entscheidend ist, Menschen dabei zu unterstützen, ihr eigenes Vertrauen richtig zu kalibrieren: zu erkennen, wann ein System zuverlässig ist, wann Unsicherheit besteht, und vor allem, wann das eigene mentale Modell nicht mehr zur Realität passt.
Die Zukunft von Expertise gehört möglicherweise nicht den Menschen, die intelligente Systeme am besten verstehen. Sondern denen, die wissen, wie viel Vertrauen sie in etwas setzen können, das sie nie vollständig erklären werden.
Die Beobachtung, dass Praktikerinnen und Praktiker mehr wissen, als sie sagen können, geht auf Michael Polanyis Konzept des impliziten Wissens zurück, entwickelt in Das implizite Wissen (1966). Die Beispiele mit dem Feuerwehrmann und der Ärztin spiegeln Gary Kleins Forschung zur naturalistischen Entscheidungsfindung wider, dokumentiert in Sources of Power (1998). Beide Perspektiven bleiben überraschend relevant für die Frage, wie Menschen lernen, mit intelligenten Systemen zu arbeiten.