2026-06 · 3 min de lectura
Cuando la interacción se convierte en gobernanza
Los sistemas agénticos no se limitan a ejecutar instrucciones. También se adaptan. Eso cambia para qué sirve el feedback — y quién es responsable de lo que el sistema aprende.
Durante gran parte de la historia del software, la interacción y la gobernanza pertenecían a ámbitos distintos.
Las personas interactuaban con el sistema. Las organizaciones gestionaban las consecuencias. La relación era relativamente sencilla. El software ejecutaba reglas definidas de antemano. Cuando esas reglas debían cambiar, las cambiaban las personas. El sistema, en esencia, permanecía estable.
Esa premisa está empezando a desaparecer.
Los sistemas agentivos ya no se limitan a ejecutar instrucciones. Interpretan objetivos. Priorizan información. Coordinan acciones. Adaptan su comportamiento. Y cada vez lo hacen más mientras el trabajo ya está en marcha.
Esto introduce un cambio sutil, pero profundo. Cada corrección deja de ser solo una corrección. Cada intervención deja de ser solo una intervención. Cada aclaración deja de ser solo una aclaración. Se convierten en señales que moldean el comportamiento futuro.
Durante décadas, el feedback sirvió principalmente para mejorar productos. Hoy, cada vez más, sirve para gobernar sistemas.
Y esa diferencia es importante.
Cuando un usuario corregía un filtro en un dashboard, rara vez cambiaba el comportamiento del software para otras personas. Cuando hoy corrige una recomendación generada por IA, puede estar influyendo en futuras prioridades, clasificaciones, escalados o decisiones de delegación. La interacción ya no termina cuando termina la interacción. Pasa a formar parte del propio modelo operativo.
Y eso transforma el papel del diseño. En los sistemas adaptativos, el feedback ya no sirve para saber si una experiencia funciona. Sirve para que las organizaciones regulen cómo aprenden los sistemas.
Y ahí aparece una tensión fundamental: los sistemas necesitan correcciones para mantenerse alineados. Las personas no pueden dedicar su jornada laboral a entrenarlos constantemente.
Si se pide feedback con demasiada frecuencia, los usuarios se desconectan. Si se pide demasiado poco, el sistema empieza a desviarse de la realidad. Ambos caminos conducen al mismo resultado: una distancia creciente entre la intención organizativa y el comportamiento real del sistema.
Por eso la pregunta interesante no es cuánto feedback recopila un sistema. La pregunta es dónde ese feedback se vuelve relevante.
Corregir una redacción suele ser inofensivo. Corregir cómo se clasifica un riesgo puede no serlo. Aclarar una intención puede afectar a una única tarea. Modificar un criterio de escalado puede influir en cientos de decisiones futuras.
No todo el feedback tiene el mismo peso organizativo. Sin embargo, la mayoría de las interfaces lo tratan como si lo tuviera. Cada vez parece una simplificación menos sostenible.
A medida que los sistemas se vuelven más adaptativos, las organizaciones necesitarán pensar menos en recopilar feedback y más en gobernar la adaptación.
¿Qué está autorizado a aprender el sistema? ¿Quién puede influir en ese aprendizaje? ¿Qué correcciones permanecen locales? ¿Cuáles se convierten en comportamiento compartido? ¿Qué cambios requieren revisión?
A primera vista parecen preguntas operativas. Cada vez más, son preguntas de diseño. Porque sus respuestas determinan cómo personas y sistemas se transforman mutuamente con el tiempo.
Durante años, el diseño de interacción se centró en ayudar a las personas a comprender el software. Los sistemas agentivos introducen un segundo desafío: ayudar a las organizaciones a comprender cómo el software cambia mientras aprende.
Puede que el futuro no pertenezca a los sistemas que aprenden más rápido. Puede que pertenezca a aquellos que siguen siendo gobernables mientras aprenden.
Muchas de las ideas de esta reflexión fueron inspiradas por el trabajo de Itamar Medeiros, Christopher Noessel, Lucy Suchman, Donald Norman y por las tradiciones de investigación en Interacción Persona-Computadora, CSCW, cibernética y sistemas adaptativos.