🧩 Tu control humano dejó de ser independiente

La contramedida más repetida cuando se introduce inteligencia artificial en un proceso es siempre la misma: tranquilos, luego lo revisa una persona.

Esa frase descansa en un supuesto que casi nunca se enuncia: que la persona que revisa es un control independiente del que produjo la salida (output). Si falla el primero, el segundo lo caza.

Un trabajo reciente de la Wharton School pone ese supuesto en duda, y de una forma bastante incómoda.

Lo que midieron

Steven Shaw y Gideon Nave proponen lo que llaman teoría de los tres sistemas. A los dos clásicos, la intuición rápida y la deliberación lenta, añaden un tercero: la cognición artificial, que opera fuera del cerebro y puede complementar o sustituir a los otros dos.

Y predicen un fenómeno al que llaman rendición cognitiva: adoptar lo que dice la máquina con escaso escrutinio, por encima tanto de la intuición como del razonamiento propio.

Para comprobarlo hicieron tres experimentos preregistrados con 1.372 participantes y 9.593 intentos, manipulando en secreto si el asistente acertaba o se equivocaba.

Las dos filas que importan para nuestro oficio son la tercera y la cuarta. No es solo que el error de la máquina se cuele: es que quien lo deja pasar se queda más seguro que antes.

Un control que falla y además aumenta la confianza de quien lo ejecuta no es un control débil. Es un control que empuja en la dirección contraria.

Por qué esto rompe la contramedida habitual

En fiabilidad hay un principio que no es opinable: la redundancia solo funciona si los fallos son independientes. Dos comprobaciones que fallan por la misma causa y a la vez no son dos comprobaciones. Son una, con más coste.

Ahora pon en esa estructura al revisor. Si quien produce el borrador consulta un asistente y quien revisa consulta el mismo tipo de asistente, ante el mismo material y con la misma plausibilidad aparente, los dos pasos han dejado de ser independientes.

El error que ninguno de los dos detecta no es un error cualquiera: es precisamente el que suena bien, que es el que la máquina produce mejor.

Lo que no dice el estudio

Conviene ser honesto con el alcance, porque el resultado es llamativo y se presta a estirarlo más de la cuenta.

• Es un experimento de laboratorio con una prueba de reflexión cognitiva. Los propios autores advierten que el entorno controlado limita la extrapolación al trabajo real.
• A fecha de hoy es un preprint, es decir, todavía no ha pasado revisión por pares.
• Mide decisiones individuales rápidas, no procesos con varias personas, plazos y consecuencias reales.
• No dice que usar un asistente empeore el resultado: cuando acertaba, el rendimiento subía bastante.

Lo que sí aporta, y es suficiente para cambiar un diseño de proceso, es evidencia de que la revisión humana no es automáticamente independiente, y de que la confianza no es un buen indicador de que la revisión haya funcionado.

Lo que proponen los propios autores

Shaw y Nave no se quedan en el diagnóstico. Su sugerencia práctica es que señalar la fiabilidad de cada salida ayuda a regular su uso: indicar si una respuesta está fundamentada en fuentes, si es probabilística o si es incierta.

Dicho en nuestro vocabulario: convertir una salida uniforme en una salida con etiqueta, para que quien la recibe sepa cuánta verificación le toca. Es una condición del sistema, no un recordatorio a la persona.

También describen rutas intermedias con nombre propio, y una es la que conviene diseñar: verificar y luego adoptar. La rendición no es inevitable; es lo que ocurre cuando nada en el proceso obliga a pasar por la verificación.

Cómo se recupera la independencia

La independencia de un control no se declara: se diseña. Y hay formas concretas de recuperarla sin prohibir nada.

La última fila no es un veto moral a la herramienta. Es exactamente lo mismo que se hace en cualquier proceso crítico cuando se exige que la verificación no comparta instrumento con la medición.

El giro de Shingo

Shigeo Shingo insistía en que inspeccionar detecta, pero no fabrica calidad, y en que la contramedida fuerte actúa sobre la condición que permite el error, no sobre la atención de quien revisa.

Aplicado aquí, pedir más atención es justo lo que el estudio sugiere que no va a funcionar, porque ni la presión de tiempo ni los incentivos cambiaron el patrón.

Lo que sí cambia la condición es hacer verificable el contenido: que la salida venga con sus fuentes, que los datos se puedan comprobar uno a uno, y que exista un paso que no permita avanzar sin esa comprobación. Eso es Poka-yoke, y no depende de que nadie esté especialmente despierto esa tarde.

El desperdicio de una revisión que no revisa

Tres preguntas

• En nuestros procesos con revisión, ¿el revisor usa la misma herramienta que quien produce?
• ¿Qué comprueba exactamente el revisor: que sea coherente, o que sea cierto?
• Si una salida asistida contuviera un error plausible, ¿en qué paso concreto se detectaría?

La tercera suele dejar claro si hay un control o solo una firma.

Si quieres revisarlo con tu equipo

Distinguir una revisión que verifica de una que solo acompaña es un ejercicio concreto sobre vuestros propios procesos. Formatos y duraciones en la página de formación.

Para seguir leyendo

Sobre lo escaso cuando el análisis es abundante, Cuando la inteligencia se vuelve abundante, lo escaso es el criterio. Sobre cuánto se inspecciona sin saberlo, Tu organización inspecciona más de lo que cree. Y sobre los controles que se añaden y nunca se quitan, Cuando cada incidente empeora el proceso.

Fuente

Shaw, S. D. y Nave, G., «Thinking: Fast, Slow, and Artificial. How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender», The Wharton School Research Paper, enero de 2026. Ver el artículo. Los datos y la teoría de los tres sistemas son suyos; la lectura en clave de independencia de los controles y las contramedidas son mías.