Introduction de la session : Biais, erreur, effet tunnel etc …
Séance du mercredi 25 juin 2025 (Les biais cognitifs)
N° de DOI : 10.26299//2025.24.01
Résumé
Biais, erreur, effet tunnel etc …
Patrick Houvet IFCM Paris
Lorsque survient un événement inattendu lié à un défaut d’organisation ou de matériel, à une erreur humaine ou à une négligence, les marges de sécurité et les protocoles représentent les défenses : l’anomalie ou l’erreur est alors corrigée et n’entraîne pas de conséquences.
Mais si les défenses ne sont pas suffisantes, l’anomalie peut progresser vers l’incident critique. Cette situation, si elle n’est pas corrigée à temps, peut entrainer un accident, c’est à dire un dommage irréversible.
La récupération d’un incident critique que les défenses n’ont pas prévenu nécessite l’élaboration d’une réponse dédiée face à une situation inédite.
L’erreur, définie comme une performance qui dévie de l’idéal réalisable, est intrinsèque à tous les systèmes élaborés.
Les performances humaines sont limitées. Nous commettons des erreurs dans toutes nos activités, au point que les erreurs cognitives sont à l’origine de davantage d’accidents que les échecs techniques.
Notre cognition, notre mémoire et notre capacité à la gestion simultanée ne sont pas infinies et saturent à partir d’un certain niveau de sollicitation. Nous perdons également dans l’efficacité de nos performances sous l’effet du stress, de l’accélération des opérations ou des contraintes externes (horaires, pressions hiérarchiques, etc…).
Les accidents sont souvent multifactoriels mais le facteur humain est impliqué dans plus de la moitié des accidents. Cependant, cette accusation doit être modulée par deux éléments majeurs :
- L’erreur fait partie du fonctionnement normal des systèmes complexes et du cerveau humain.
• L’homme n’est pas seul en cause. Il est impliqué dans un scénario qui l’a amené à une situation potentiellement incontrôlable.
• - L’homme est aussi le facteur-clé lorsque les défenses habituelles sont dépassées par les événements ou lorsque la panne est imprévisible.
•
L'opérateur est à l'extrémité d'un enchaînement de situations et d'éléments différents qui ont généré les conditions de l'accident :
- Le modèle du «fromage suisse» (swiss cheese) de J. Reason explique qu’un enchaînement de circonstances malheureuses et de défauts dans le système global puisse conduire à un accident si les mécanismes de défenses sont eux-mêmes défaillants. Si la trajectoire d’un événement se trouve en ligne avec les défauts du système, seules les défenses et les marges de sécurité peuvent bloquer l’évolution vers l’accident. Mais si ces dernières font aussi défaut, alors l’accident est inévitable.
- Les mathématiques du « chaos » ont mis en évidence trois données essentielles dans la gestion du risque :
• La survenue d’un événement inattendu dans un système complexe, comme un accident en cours d’opération, est le résultat d’un tel nombre de combinaisons possibles que sa prévision pose des problèmes colossaux.
• La fréquence des évènements est inversement proportionnelle à leur gravité : les événements mineurs sont courants, mais les catastrophes sont rares.
• Les systèmes complexes présentent un certain degré d’instabilité. La causalité n’est pas linéaire, mais dépend à chaque instant de multiples enchaînements interdépendants. Une modification portant sur un seul petit élément peut conduire à la catastrophe au gré des étapes successives et des circonstances ultérieures (effet papillon).
- Ces constatations signifient que les évènements graves sont par nature imprévisibles et peuvent survenir à tout instant : chaque cas peut se compliquer de manière inattendue.
Une des clefs de la sécurité est de prévoir que l’accident est toujours possible.
C’est le fondement de la loi de Murphy : si un système peut mal tourner, il le fera une fois.
Nous disposons de deux façons de gérer nos réponses face à un incident en fonction des circonstances :
• Niveau d’intégration faible (Type I) : automatismes, schémas mentaux, intuitions. Ce mode de fonctionnement ne permet pas de trouver une solution nouvelle à un problème inconnu.
• Niveau d’intégration élevé (Type II) : réflexion analytique consciente.
Cette recherche d’une solution impose un débit lent et séquentiel mais elle permet d’inventer une solution originale, adaptée à une situation inédite.
• En cas d’échec, c’est une erreur cognitive.
L’effet tunnel (ou fixation, ou ancrage) est un blocage cognitif majeur qui enferme un individu dans un seul diagnostic ou une seule activité. L’opérateur est obnubilé par l’option choisie pour résoudre rapidement le problème survenu, et il ne remet pas en question sa conduite malgré des données discordantes. Concentré sur sa gestion de crise, il n’a plus de vision d’ensemble de la situation.
Il existe différentes techniques pour lutter contre les erreurs cognitives, à commencer par sensibiliser des praticiens à ce problème, qui ont tendance à surestimer leurs capacités dans ce domaine.
En revanche, tenter d’éradiquer l’erreur ou porter un jugement moral sur celui qui se trompe n’est pas la bonne réponse. Il faut d’une part apprendre à gérer l’erreur et à développer une attitude de veille active, et d’autre part développer des systèmes de défenses efficaces corrigeant toute déviation immédiatement. Car une erreur n’est pas une faute. Une faute implique la violation délibérée d’une règle établie ou la négligence dans l’accomplissement d’une tâche.
Il existe plusieurs parades :
- Les algorithmes de panne permettent de mettre en mémoire des schémas simples.
- Les check-lists sont plus fiables que la mémoire individuelle.
- Lorsqu’une situation périlleuse est prévisible, on établit une stratégie préalable.
- A tout instant, il est bon d’avoir en tête un plan d’action en cas de problème inopiné, comme un pilote connaît les différents aéroports de détournement en cas de panne ou d’incident à bord.
- La connaissance des erreurs cognitives qui surviennent dans les situations aiguës permet d’en limiter les effets et de s’efforcer de conserver un certain esprit critique.
- La performance dans les situations de crise est fonction de l’expérience qu’on en a : le simulateur est un moyen extrêmement efficace de s’entraîner et d’acquérir les réflexes qui permettront de suivre les procédures adéquates dans les situations stressantes.
- Une équipe est une unité fonctionnelle dont la performance est toujours supérieure à la somme de celle de chacun de ses membres.
Patrick Houvet IFCM Paris
Lorsque survient un événement inattendu lié à un défaut d’organisation ou de matériel, à une erreur humaine ou à une négligence, les marges de sécurité et les protocoles représentent les défenses : l’anomalie ou l’erreur est alors corrigée et n’entraîne pas de conséquences.
Mais si les défenses ne sont pas suffisantes, l’anomalie peut progresser vers l’incident critique. Cette situation, si elle n’est pas corrigée à temps, peut entrainer un accident, c’est à dire un dommage irréversible.
La récupération d’un incident critique que les défenses n’ont pas prévenu nécessite l’élaboration d’une réponse dédiée face à une situation inédite.
L’erreur, définie comme une performance qui dévie de l’idéal réalisable, est intrinsèque à tous les systèmes élaborés.
Les performances humaines sont limitées. Nous commettons des erreurs dans toutes nos activités, au point que les erreurs cognitives sont à l’origine de davantage d’accidents que les échecs techniques.
Notre cognition, notre mémoire et notre capacité à la gestion simultanée ne sont pas infinies et saturent à partir d’un certain niveau de sollicitation. Nous perdons également dans l’efficacité de nos performances sous l’effet du stress, de l’accélération des opérations ou des contraintes externes (horaires, pressions hiérarchiques, etc…).
Les accidents sont souvent multifactoriels mais le facteur humain est impliqué dans plus de la moitié des accidents. Cependant, cette accusation doit être modulée par deux éléments majeurs :
- L’erreur fait partie du fonctionnement normal des systèmes complexes et du cerveau humain.
• L’homme n’est pas seul en cause. Il est impliqué dans un scénario qui l’a amené à une situation potentiellement incontrôlable.
• - L’homme est aussi le facteur-clé lorsque les défenses habituelles sont dépassées par les événements ou lorsque la panne est imprévisible.
•
L'opérateur est à l'extrémité d'un enchaînement de situations et d'éléments différents qui ont généré les conditions de l'accident :
- Le modèle du «fromage suisse» (swiss cheese) de J. Reason explique qu’un enchaînement de circonstances malheureuses et de défauts dans le système global puisse conduire à un accident si les mécanismes de défenses sont eux-mêmes défaillants. Si la trajectoire d’un événement se trouve en ligne avec les défauts du système, seules les défenses et les marges de sécurité peuvent bloquer l’évolution vers l’accident. Mais si ces dernières font aussi défaut, alors l’accident est inévitable.
- Les mathématiques du « chaos » ont mis en évidence trois données essentielles dans la gestion du risque :
• La survenue d’un événement inattendu dans un système complexe, comme un accident en cours d’opération, est le résultat d’un tel nombre de combinaisons possibles que sa prévision pose des problèmes colossaux.
• La fréquence des évènements est inversement proportionnelle à leur gravité : les événements mineurs sont courants, mais les catastrophes sont rares.
• Les systèmes complexes présentent un certain degré d’instabilité. La causalité n’est pas linéaire, mais dépend à chaque instant de multiples enchaînements interdépendants. Une modification portant sur un seul petit élément peut conduire à la catastrophe au gré des étapes successives et des circonstances ultérieures (effet papillon).
- Ces constatations signifient que les évènements graves sont par nature imprévisibles et peuvent survenir à tout instant : chaque cas peut se compliquer de manière inattendue.
Une des clefs de la sécurité est de prévoir que l’accident est toujours possible.
C’est le fondement de la loi de Murphy : si un système peut mal tourner, il le fera une fois.
Nous disposons de deux façons de gérer nos réponses face à un incident en fonction des circonstances :
• Niveau d’intégration faible (Type I) : automatismes, schémas mentaux, intuitions. Ce mode de fonctionnement ne permet pas de trouver une solution nouvelle à un problème inconnu.
• Niveau d’intégration élevé (Type II) : réflexion analytique consciente.
Cette recherche d’une solution impose un débit lent et séquentiel mais elle permet d’inventer une solution originale, adaptée à une situation inédite.
• En cas d’échec, c’est une erreur cognitive.
L’effet tunnel (ou fixation, ou ancrage) est un blocage cognitif majeur qui enferme un individu dans un seul diagnostic ou une seule activité. L’opérateur est obnubilé par l’option choisie pour résoudre rapidement le problème survenu, et il ne remet pas en question sa conduite malgré des données discordantes. Concentré sur sa gestion de crise, il n’a plus de vision d’ensemble de la situation.
Il existe différentes techniques pour lutter contre les erreurs cognitives, à commencer par sensibiliser des praticiens à ce problème, qui ont tendance à surestimer leurs capacités dans ce domaine.
En revanche, tenter d’éradiquer l’erreur ou porter un jugement moral sur celui qui se trompe n’est pas la bonne réponse. Il faut d’une part apprendre à gérer l’erreur et à développer une attitude de veille active, et d’autre part développer des systèmes de défenses efficaces corrigeant toute déviation immédiatement. Car une erreur n’est pas une faute. Une faute implique la violation délibérée d’une règle établie ou la négligence dans l’accomplissement d’une tâche.
Il existe plusieurs parades :
- Les algorithmes de panne permettent de mettre en mémoire des schémas simples.
- Les check-lists sont plus fiables que la mémoire individuelle.
- Lorsqu’une situation périlleuse est prévisible, on établit une stratégie préalable.
- A tout instant, il est bon d’avoir en tête un plan d’action en cas de problème inopiné, comme un pilote connaît les différents aéroports de détournement en cas de panne ou d’incident à bord.
- La connaissance des erreurs cognitives qui surviennent dans les situations aiguës permet d’en limiter les effets et de s’efforcer de conserver un certain esprit critique.
- La performance dans les situations de crise est fonction de l’expérience qu’on en a : le simulateur est un moyen extrêmement efficace de s’entraîner et d’acquérir les réflexes qui permettront de suivre les procédures adéquates dans les situations stressantes.
- Une équipe est une unité fonctionnelle dont la performance est toujours supérieure à la somme de celle de chacun de ses membres.