En el proyecto de un sistema de control totalmente digital para una planta de energía nuclear estadounidense, se conservaron deliberadamente pasos manuales en aquellas secuencias que la automatización podría haber ejecutado por sí sola. Así lo relata el director del desarrollo del sistema, describiendo una decisión tomada hace más de diez años.
Según su explicación, el objetivo no fue la reducción máxima del trabajo manual, sino la preservación de las habilidades de los operadores. Un operador que simplemente observa la automatización deja gradualmente de actuar como tal.
Este ejemplo es relevante para el debate sobre la eficiencia de la IA: la automatización puede acelerar los procesos, pero al mismo tiempo reducir la práctica regular necesaria para los expertos. La fuente no indica cuán extendido está el problema ni qué métodos para prevenirlo han demostrado ser eficaces.
comentario editorial
Por qué importa
Consecuencia probable: los desarrolladores de IA y de sistemas críticos evaluarán con mayor frecuencia no solo la velocidad de la automatización, sino también la conservación de la práctica regular de los especialistas. La siguiente señal observable serán los requisitos formales de formación manual, procedimientos de respaldo o verificación de las habilidades de los operadores. Persiste una incertidumbre sustancial: la fuente proporcionada describe un solo proyecto y no muestra hasta qué punto la conclusión es aplicable a otros sistemas.