2026-06 · 3 Min. Lesezeit
Wenn Interaktion zu Governance wird
Agentische Systeme führen nicht nur Anweisungen aus. Sie passen sich an. Das verändert, wofür Feedback da ist — und wer verantwortlich ist für das, was das System lernt.
Über weite Teile der Softwaregeschichte hinweg waren Interaktion und Governance zwei getrennte Themen.
Nutzer arbeiteten mit dem System. Organisationen verantworteten die Ergebnisse. Die Rollenverteilung war klar. Software führte definierte Regeln aus. Wenn sich diese Regeln ändern mussten, änderten Menschen sie. Das System selbst blieb weitgehend konstant.
Genau diese Annahme wird zunehmend fragil.
Agentische Systeme führen nicht einfach Anweisungen aus. Sie interpretieren Ziele. Priorisieren Informationen. Koordinieren Aktivitäten. Passen ihr Verhalten an. Und immer häufiger tun sie all das, während die Arbeit bereits läuft.
Daraus entsteht eine subtile, aber tiefgreifende Veränderung. Jede Korrektur wird zu mehr als einer Korrektur. Jeder Eingriff zu mehr als einem Eingriff. Jede Klarstellung zu mehr als einer Klarstellung. Sie werden zu Signalen, die zukünftiges Verhalten beeinflussen.
Über Jahrzehnte hinweg diente Feedback vor allem dazu, Produkte zu verbessern. Heute dient Feedback zunehmend dazu, Systeme zu steuern.
Dieser Unterschied ist entscheidend.
Wenn jemand einen Dashboard-Filter korrigierte, änderte das selten etwas am Verhalten der Software für andere Nutzer. Wenn jemand heute eine KI-Empfehlung korrigiert, kann diese Korrektur zukünftige Priorisierungen, Klassifizierungen, Eskalationen oder Delegationsentscheidungen beeinflussen. Die Interaktion endet nicht mehr mit der Interaktion. Sie wird Teil des Betriebsmodells.
Dadurch verändert sich die Rolle von Design. In adaptiven Systemen hilft Feedback nicht mehr dabei, herauszufinden, ob eine Erfahrung funktioniert. Es hilft Organisationen dabei, zu steuern, wie Systeme lernen.
Genau hier entsteht die zentrale Spannung: Lernende Systeme brauchen Korrekturen. Menschen können jedoch nicht ihre gesamte Arbeitszeit damit verbringen, Systeme zu korrigieren.
Fordert man zu häufig Feedback ein, steigen Nutzer aus. Fordert man zu selten Feedback ein, driftet das System von der Realität weg. Beides führt letztlich zum selben Ergebnis: einer wachsenden Lücke zwischen organisatorischer Absicht und tatsächlichem Systemverhalten.
Die interessante Frage lautet deshalb nicht, wie viel Feedback ein System sammelt. Sondern an welchen Stellen Feedback Folgen hat.
Eine Korrektur der Formulierung ist meist harmlos. Eine Korrektur der Risikobewertung möglicherweise nicht. Eine Klarstellung der Absicht betrifft vielleicht einen einzelnen Vorgang. Eine Anpassung von Eskalationskriterien kann hunderte zukünftige Entscheidungen beeinflussen.
Nicht jedes Feedback trägt dasselbe organisatorische Gewicht. Die meisten Interfaces behandeln es jedoch so. Das wirkt zunehmend unzureichend.
Je adaptiver Systeme werden, desto weniger sollten Organisationen darüber nachdenken, wie sie Feedback sammeln — und desto mehr darüber, wie sie Anpassung steuern.
Was darf das System lernen? Wer darf dieses Lernen beeinflussen? Welche Korrekturen bleiben lokal? Welche werden Teil gemeinsamen Verhaltens? Welche Änderungen erfordern Überprüfung und Freigabe?
Das klingt zunächst nach operativen Fragen. Immer häufiger sind es Designfragen. Denn die Antworten bestimmen, wie Menschen und Systeme sich gegenseitig über die Zeit formen.
Lange Zeit beschäftigte sich Interaktionsdesign vor allem damit, Menschen zu helfen, Software zu verstehen. Agentische Systeme bringen eine zweite Herausforderung mit sich: Organisationen dabei zu helfen zu verstehen, wie sich Software verändert.
Die Zukunft gehört möglicherweise nicht den Systemen, die am schnellsten lernen. Sondern den Systemen, die auch während des Lernens steuerbar bleiben.
Viele Gedanken dieses Textes wurden durch die Arbeiten von Itamar Medeiros, Christopher Noessel, Lucy Suchman, Donald Norman sowie durch die Forschungstraditionen von Human-Computer Interaction, CSCW, Kybernetik und adaptiven Systemen inspiriert.