Sabemos más de lo que podemos explicar

Durante mucho tiempo, entender un sistema fue sinónimo de ser experto. Cada vez más, esas dos ideas empiezan a separarse.

Pregúntale a una médica con experiencia cómo supo cuál era el diagnóstico. A un bombero por qué eligió entrar por una puerta y no por otra. O a un diseñador por qué un flujo de trabajo le pareció incorrecto desde el primer momento. Las respuestas suelen parecerse mucho.

"Simplemente no me cuadraba."

Lo saben. Explicar cómo lo saben resulta mucho más difícil.

Durante décadas, el software redujo nuestra dependencia de este tipo de intuición. Los procesos se hicieron explícitos. Las reglas se transformaron en flujos de trabajo. Las decisiones quedaron documentadas. Esperábamos que un buen sistema fuera lo suficientemente predecible como para poder aprenderlo.

Los sistemas inteligentes están invirtiendo esa tendencia, casi sin que nos demos cuenta.

---

Hasta ahora, la abstracción ocultaba la implementación. No necesitamos entender un motor para conducir un coche. Ni conocer un sistema operativo para enviar un mensaje. La IA introduce una abstracción diferente. Empieza a ocultar el razonamiento — no solo qué ocurre, sino por qué ocurre.

La diferencia parece sutil. Sus consecuencias no lo son.

Cuando el razonamiento deja de ser visible, también cambia la naturaleza de la experiencia. Las personas dejan de construir modelos mentales completos del sistema. En su lugar desarrollan algo distinto: una intuición sobre cuándo el sistema funciona bien, dónde están sus límites, qué tipo de tareas resuelve con fiabilidad, cuándo intervenir.

Su conocimiento deja de ser completamente explícito. Se vuelve más intuitivo. Menos procedural. Más incorporado a la práctica.

---

No deberíamos confundir esa intuición con superficialidad. Se construye a base de repetición. De experimentación. De cientos de pequeños ajustes entre lo que esperábamos y lo que realmente ocurrió. La experiencia existe. Simplemente resulta difícil expresarla con palabras.

En muchos casos, las personas saben mucho más de lo que son capaces de explicar.

Una de las propiedades más extraordinarias de la IA moderna es que permite a las personas construir y utilizar sistemas muy complejos sin comprenderlos por completo.

---

Ahí aparece un nuevo reto para el diseño. Durante años asumimos que un buen producto debía exigir el menor aprendizaje posible. Quizá ahora necesite otro tipo de aprendizaje — no memorizar funciones, ni dominar una interfaz, sino desarrollar una intuición fiable sobre sistemas cuya lógica interna solo es parcialmente visible.

Las explicaciones ayudan. La documentación también. Pero ninguna resuelve por completo el problema.

El objetivo ya no es comprenderlo todo — probablemente eso deje de ser posible. Lo importante es ayudar a las personas a calibrar su confianza: a reconocer cuándo el sistema es fiable, cuándo existe incertidumbre, y sobre todo, cuándo su propio modelo mental ha dejado de reflejar la realidad.

El futuro de la experiencia quizá no pertenezca a quienes mejor entienden los sistemas inteligentes, sino a quienes saben calibrar su confianza frente a aquello que nunca podrán explicar del todo.

---

La observación de que los profesionales saben más de lo que pueden expresar se apoya en el concepto de conocimiento tácito de Michael Polanyi, desarrollado en La dimensión tácita (1966). Los ejemplos del bombero y la médica remiten a la investigación de Gary Klein sobre la toma de decisiones naturalista, documentada en Sources of Power (1998). Ambas perspectivas siguen siendo sorprendentemente relevantes para entender cómo las personas aprenden a trabajar junto a sistemas inteligentes.