En 1983, la investigadora en psicología cognitiva Lisanne Bainbridge publicó un trabajo fundacional titulado Ironies of Automation. Su conclusión principal sintetizaba una contradicción inherente al diseño de sistemas técnicos: al automatizar las tareas consideradas rutinarias o predecibles, el operador humano queda al margen del proceso continuo y solo se le exige intervenir en situaciones anómalas, imprevistas o críticas. En la práctica, se le pide resolver el escenario de mayor complejidad técnica justo cuando el sistema le ha privado de la práctica diaria que mantiene viva su pericia.
Durante cuatro décadas, este fenómeno se ha analizado y regulado con precisión en sectores críticos como la aviación comercial, la navegación marítima y la anestesiología. Sin embargo, la actual integración de modelos probabilísticos y sistemas generativos en tareas de análisis y gestión organizativa parece estar reproduciendo exactamente la misma paradoja, prescindiendo de los aprendizajes consolidados por la literatura de factores humanos.
La mecánica del desacondicionamiento cognitivo (Deskilling)
La delegación sostenida de procesos en herramientas de resolución automática introduce dos efectos bien documentados: el sesgo de automatización (automation bias) y la complacencia con el automatismo (automation complacency). El operador tiende a sobreestimar la precisión del sistema debido a su coherencia formal aparente, reduciendo progresivamente su atención crítica y su esfuerzo de comprobación. A medida que el contraste de fuentes, la estructuración de informes intermedios y el cálculo analítico básico se transfieren a la herramienta, tiene lugar una pérdida gradual de destreza (skill decay o deskilling). Resolver un problema complejo exige una familiaridad constante con sus componentes más simples. Si los equipos no ejercitan de forma regular la formulación autónoma de hipótesis, su capacidad para identificar sesgos sutiles o errores de bulto en los resultados del software se reduce de manera notable.
La necesidad del modo degradado deliberado
En los protocolos de seguridad aérea, los simuladores de vuelo no se emplean únicamente para supervisar trayectorias automáticas estables, sino para entrenar la desconexión del sistema y la recuperación manual del control en condiciones límite. La pericia operativa (manual proficiency) no se conserva por inercia; exige una práctica estructurada del procedimiento manual y del funcionamiento en modo degradado.
En la gobernanza de la mayoría de las organizaciones, sin embargo, la resiliencia operativa se mide casi exclusivamente en tiempo de recuperación tecnológica: cuántos minutos tarda un servicio en restaurarse tras una caída. Rara vez se audita o se entrena la resiliencia de los equipos humanos: cuánta capacidad real retiene el personal para sostener la operativa y adoptar decisiones de criterio si la herramienta no está disponible o deja de ser fiable.
Preservar la destreza autónoma no es una postura refractaria a la innovación tecnológica, sino la única condición objetiva para que la supervisión del sistema sea efectiva y no meramente declarativa. Ejercitar la capacidad de operar sin la herramienta constituye un requisito indispensable de diseño para cualquier institución que pretenda mantener la soberanía sobre sus propios procesos.
