Lois de Gilb sur le manque de fiabilité
Les ordinateurs ne sont pas fiables, mais les êtres humains le sont encore moins ; et tout système qui dépend de la fiabilité humaine n'est pas fiable.
L'ordinateur se trompe, oui. Mais il se trompe toujours de la même façon, et tôt ou tard on comprend comment. L'être humain se trompe avec créativité : aujourd'hui le mot de passe sur le post-it, demain le post-it sur l'écran, après-demain l'écran photographié et partagé dans le groupe de famille.
La leçon est une leçon d'ingénieur : ne concevez pas de systèmes qui ne marchent que si tout le monde est attentif. Les gens sont fatigués, distraits, pressés. Les contrôles automatiques, les confirmations et les sauvegardes existent pour eux.
Dans une entreprise, ils avaient une procédure de sauvegarde infaillible : chaque soir, un employé changeait le disque. Ça a marché pendant des années. Puis l'employé est parti à la retraite. Le disque est toujours là, inséré depuis 2015, fidèle comme un chien à la gare.