Dans le cadre d'un projet de système de commande entièrement numérique pour une centrale nucléaire américaine, des étapes manuelles ont été délibérément conservées dans les séquences que l'automatisation aurait pu exécuter seule. C'est ce que rapporte le responsable du développement du système, décrivant une décision prise il y a plus de dix ans.
Selon ses explications, l'objectif n'était pas de réduire au maximum le travail manuel, mais de préserver les compétences des opérateurs. Un opérateur qui se contente d'observer l'automatisation cesse progressivement d'agir en tant qu'opérateur.
Cet exemple est pertinent pour le débat sur l'efficacité de l'IA: l'automatisation peut accélérer les processus, mais elle réduit simultanément la pratique régulière nécessaire aux experts. La source n'indique pas dans quelle mesure ce problème est répandu ni quelles méthodes de prévention ont fait leurs preuves.
commentaire éditorial
Pourquoi c’est important
Conséquence probable : les développeurs d'IA et de systèmes critiques évalueront plus fréquemment non seulement la vitesse de l'automatisation, mais aussi le maintien d'une pratique régulière pour les spécialistes. Le prochain signal observable sera l'établissement d'exigences formelles concernant les formations manuelles, les procédures de secours ou la vérification des compétences des opérateurs. Une incertitude substantielle subsiste : la source fournie décrit un seul projet et ne montre pas dans quelle mesure cette conclusion est applicable à d'autres systèmes.