Les règles sont écrites avec les erreurs des autres

L’assurance excessive aime tenir les consignes pour superflues : elles seraient écrites pour les distraits, tandis qu’à l’homme d’expérience le bon sens suffirait. En réalité, beaucoup de règles sont la transcription abrégée d’accidents déjà survenus à d’autres.

James Reason, chercheur spécialiste de l’erreur humaine, racontait que son intérêt pour les ratés avait commencé par une scène domestique : distrait par un chat exigeant, il avait mis une cuillerée de pâtée dans la théière. L’erreur paraissait ridicule, mais elle avait été produite par une séquence d’actions tout à fait normale dans un environnement mal agencé.

Reason a proposé plus tard son célèbre modèle des couches de protection, qu’on s’est mis à représenter en tranches de gruyère. Chaque barrière comporte des trous ; l’accident passe de part en part quand les faiblesses de plusieurs niveaux coïncident temporairement. Le modèle est important parce qu’il déplace la question de « qui n’a pas été assez attentif ? » vers « pourquoi une seule erreur humaine a-t-elle pu traverser tout le système ? ».

On ne peut pas compter sur le fonctionnement parfait de chacune d’elles. Quelqu’un oubliera une étape. Un appareil sera défaillant. Les circonstances différeront des prévisions.

C’est pourquoi la sécurité se construit en couches :

• le bon outil ;
• un dispositif de protection ;
• une position sûre ;
• un accès restreint ;
• une vérification ;
• la possibilité d’arrêter vite le processus.

Une barrière peut céder. Plusieurs barrières indépendantes réduisent la probabilité que toutes les erreurs se rencontrent au même endroit et au même moment.

Un dispositif de sécurité ne doit pas être ignoré. Il est installé exactement pour cela. Mais on ne peut pas en faire une autorisation d’enfreindre les autres règles.

La ceinture de sécurité ne rend pas raisonnable de rouler à n’importe quelle vitesse. Le disjoncteur ne fait pas d’un fil dénudé un élément de décoration normal.

Avant de s’écarter de la méthode établie, il faut comprendre :

• quel danger elle contrôle ;
• pourquoi elle a été conçue ainsi ;
• ce qui se passera après le changement ;
• par quoi sera remplacée la protection perdue ;
• qui assume les conséquences.

L’innovation sans compréhension de l’ancien système se révèle souvent la réinvention d’un accident connu de longue date.

En cuisine, il existe une règle : un couteau qui tombe, on ne le rattrape pas. Elle a l’air lâche et superflue, exactement jusqu’à la première fois où la main plonge d’elle-même vers la lame, sans la moindre participation de la conscience. Le sens de la règle n’est pas d’expliquer la physique, mais de faire prendre la décision à l’avance — car au moment de la chute, il n’y a pas de temps pour décider. Presque tous les points d’une consigne qui semblent écrits pour un imbécile sont bâtis pareil : quelqu’un a déjà fait exactement cela, et le résultat a coûté assez cher pour entrer dans le texte.

D’où une conséquence désagréable pour l’expérience personnelle. « Il ne m’est jamais rien arrivé » est un échantillon d’une seule personne chanceuse sur un petit nombre de tentatives. La consigne est un échantillon plus large, et elle a été rassemblée par des gens qui ont eu moins de chance.