En la literatura sobre diseño de sistemas existe un principio empírico que las escuelas de ingeniería conocen bien: la pericia no sobrevive a la falta de uso. Durante décadas, los analistas de factores humanos han advertido que interponer automatismos entre el operador y la materia física genera un confort inmediato que disuelve la memoria del oficio.
Cuando la herramienta resuelve todo el esfuerzo ordinario sin exigir atención, el cerebro humano se desconecta del proceso. Si la tarea se mantiene estable, la organización registra ganancias de productividad. Pero si el entorno se aparta de lo previsto o el sistema técnico falla, la institución descubre con brutalidad que sus equipos pueden carecer de la práctica necesaria para responder sin una pantalla por delante.
La lección de la ingeniería aeronáutica
En la historia industrial contemporánea, la crisis de certificación y control del Boeing 737 MAX constituye el paradigma de esta fractura organizativa.
El desarrollo del 737 MAX estuvo condicionado por objetivos de continuidad comercial y de formación respecto a modelos anteriores. El MCAS se incorporó para modificar determinadas características de manejo del avión; reducir el caso a un sustituto del entrenamiento manual omite los problemas de diseño y certificación que las investigaciones examinaron.
En su diseño original, el MCAS podía ordenar ajustes del estabilizador basándose en la señal de un solo sensor de ángulo de ataque. Esa dependencia y los supuestos sobre la respuesta de las tripulaciones formaban parte de un problema de seguridad más amplio.
Los accidentes mostraron el riesgo de activaciones no previstas del MCAS ante datos erróneos y de órdenes repetidas de morro abajo. El NTSB cuestionó los supuestos de reconocimiento y respuesta de los pilotos ante múltiples alertas, y recomendó mejoras de diseño, procedimientos y formación. Esos hallazgos no permiten concluir, por sí solos, que las tripulaciones hubieran perdido destreza por desuso.
Un programa no asume responsabilidad moral ni sustituye las obligaciones de quienes diseñan, certifican y operan el sistema. La lección organizativa es examinar conjuntamente las decisiones de diseño, supervisión y formación, sin reducir la explicación del accidente a una única causa ni atribuir automáticamente toda la responsabilidad a un solo comité.
La ilusión de la intendencia perfecta
Esta patología está penetrando de manera inadvertida en los centros de decisión corporativa a medida que se estandarizan las herramientas generativas y analíticas avanzadas:
- La pérdida de la base formativa: Las capacidades complejas de juicio estratégico no surgen de la nada; se construyen tras años de fricción con los problemas elementales de base. Cuando una empresa automatiza por completo la elaboración de borradores, el análisis primario de datos o la síntesis técnica, elimina el entrenamiento que permitía a sus futuros directivos forjar su propio criterio.
- El colapso ante la anomalía: Las máquinas destacan identificando correlaciones en situaciones repetitivas sobre datos históricos. Sin embargo, los momentos decisivos de una organización ocurren cuando la realidad quiebra el patrón estadístico. Quien solo ha aprendido a validar salidas técnicas queda completamente paralizado cuando el software entra en contradicción con los hechos.
- La subordinación al protocolo: Cuando se pierde la capacidad de contrastar el razonamiento a mano, la supervisión se convierte en un acto de fe ciega. El profesional aprueba lo que la pantalla indica porque carece de la solvencia técnica para formular una hipótesis contraria y sostenerla frente al comité.
Preservar el oficio en la era técnica
La gobernanza de sistemas madura no propone renunciar a la automatización ni regresar a procedimientos arcaicos por simple romanticismo operativo.
Exige, por el contrario, la lucidez de diseñar organizaciones con redundancia cognitiva: estructuras donde la adopción de herramientas técnicas conviva con la práctica deliberada y periódica del juicio en manual.
La verdadera fortaleza de una institución no se mide por la velocidad con la que sus algoritmos resuelven la rutina diaria. Se mide por la presencia de profesionales que conservan el oficio, la veteranía y la independencia de juicio necesarias para desconectar la máquina, tomar los mandos manuales y responder de las consecuencias cuando el sistema entra en barrena.
