Biais , ou interprétation ?
La recherche psychologique contemporaine a fait sur le fonctionnement
du cerveau des avancées importantes ces dernières années .
D Kahneman en particulier , au début des années 2000 , a mis en
évidence deux systèmes de fonctionnement du cerveau :
Suivant un système 1 , le cerveau procède de façon intuitive et donne
une réponse globale , non analytique et non raisonnée , devant une
situation donnée .
Par exemple , si des individus sont répartis suivant deux groupes et
que l'on veuille estimer quel est le groupe qui a l'effectif le plus
important , s'il y a une certaine différence entre les deux effectifs ,
une simple impression visuelle permet de conclure : inutile alors de
passer par un effort analytique de décompte des individus pour s'en
convaincre .
Quand les effectifs des deux populations sont approximativement
voisins , il faut procéder suivant une deuxième pratique pour
différentier les deux : on se livre par exemple à un comptage , ou
bien on peut ranger les individus côte à côte et déterminer quelle
est la plus longue des deux files ainsi constituées .
Le deuxième procédé est encore assez intuitif et tend à établir une
relation de comparaison entre les deux populations par l'intermédiaire
de la longueur des files .
Le premier procédé de comptage relève vraiment d'une autre attitude
d'esprit et fait appel à ce que Kahneman appelle le système 2 .
Suivant le système 2 , une véritable organisation analytique se met en
place , faisant appel à un procédé plus élaboré où l'intuition n'a
plus place et où la réflexion est déterminante :
c'est le comptage , ou tout autre procédé "algorithmique" adapté à la
situation examinée .
Cet arbre est-il plus haut que tel autre arbre ? s'il y a une "vraie"
différence visuelle , inutile de se compliquer la vie , le système 1
basé sur l'intuition visuelle convient très bien .
Sinon , il faut réfléchir , et la réflexion est le propre du système 2
Couper les arbres et les comparer à terre ? un peu compliqué ...
Monter aux arbres avec une ficelle et comparer la longueur des
ficelles ? déjà moins contraignant ...
Mesurer la longueur des ombres s'il y a du soleil est de loin le
moins coûteux en efforts ...
C'est ainsi que Thalès mesura la hauteur d'une pyramide en Egypte :
à titre anachronique , disons qu'un bâton de deux mètres de haut tel
jour a une ombre de 50 cm et qu'au même moment la pyramide a une
ombre de 50 mètres ; le rapport de réduction de l'ombre étant de 4
d'après les mesures du bâton , la hauteur de la pyramide est de 4 fois 50 m
soit de 200 mètres .
Là , le système deux est bien plus précis et moins coûteux en efforts
Une autre situation pratique se présente par exemple sur la place d'un
marché : un marchand vend des bottes de ce que vous voulez , par exemple
des asperges ; sa botte de référence a une circonférence mettons de
20 cm et coûte 5 euros .Un client achète une botte de 10 cm de
circonférence et le marchand lui demande alors 2,5 euros ...grave problème
difficile à résoudre intuitivement ... doit-on payer 2,5 euros ou
1,25 euros ? ... la deuxième botte est-elle la moitié ou le quart de la
première botte ?
En fait la surface de la botte est définie par la formule 3,14 x
le carré du rayon , le rayon de la deuxième botte étant divisé par
deux puisque la circonférence est divisée par deux , la surface de la
deuxième botte est divisée par 4 ... et la deuxième botte doit
coûter 4 fois moins , soit 1,25 euros ...
C'est intuitivement assez énigmatique ... et seul un raisonnement
assez élaboré qui nécessite de connaître les formules donnant la
circonférence et la surface d'un cercle donne une réponse , qui ne
convaincra pas tout le monde d'ailleurs car cela est assez peu intuitif
Pour trancher le conflit entre l'intuition et la raison , on a un
moyen très simple : il suffit d'avoir une bascule , qui cette fois
confirme l'analyse raisonnée : la deuxième botte contient 4 fois moins
de matière "asperge" que la première botte .
Mais quand il n'y a pas de moyen pratique qui mette bien en évidence
et sans contestation la solution d'un problème , les conflits entre
la raison et l'intuition peuvent se prolonger indéfiniment ...
Enfin , le système 3 préconisé par Olivier Houdé joue un rôle de
contrôle et d'arbitrage entre le système 1 et le système 2 :
il aide à orienter le choix de la méthode entre 1 et 2 , c'est
l'attitude de recul qui permet de ne pas se précipiter vers 1 ou 2 ,
de ne pas être focalisé sur l'un ou sur l'autre .
C'est l'attitude d'esprit recommandée dans toutes les disciplines , de
ne pas foncer tête baissée sur son premier élan , sur la base de ses
habitudes ... Le système 3 est en fait un système inhibiteur des
impulsions spontanées , celui qui contribue au développement de
l'esprit critique .
Et les biais , dans cet ensemble de fonctionnements ?
Le biais est en quelque sorte la paresse d'esprit qui consiste à se
rabattre sur une interprétation commode , une réduction de ce qui est
observé à une simplification excessive .
En fait , le système 3 , qui est celui qui stimule la capacité critique,
paraît être le plus adapté pour lutter contre ces biais d'interprétation
alors que le système 1 est celui qui paraît le plus favorable à ces
biais , se contentant de "preuves" sommaires .
Prenons quelques exemples :
le biais "astrologique" consiste à ne considérer que les éléments
favorables , dans un contexte donné : un chamane a prévu un jour un
évènement particulier ? ... C'est qu'il a eu une prémonition qui lui a
permis d'être en relation avec un "au-delà" ... sa prémonition
n'existerait-elle qu'une fois sur cent , qu'elle n'en existerait pas
moins et que cet au-delà , frôlé une fois , est bien tangible ....
Ce biais , qui consiste à vouloir à tout prix donner son avis en se
basant sur une sélection des cas favorables à l'avis , correspond au
propos de Wittgenstein :
" à propos de ce dont on ne peut parler , il vaut mieux se taire " .
C'est le biais qui consiste aussi à dire qu'une montre cassée est plus
efficace qu'une montre déréglée , puisqu'une montre cassée donne
deux fois par jour l'heure exacte , alors qu'une montre mal réglée
ne donne jamais la bonne heure ...
Ce dernier exemple est aussi un exemple de biais "statistique" .
A ce propos , citons Churchill :
"je n'ai confiance que dans les statistiques que j'ai moi-même
falsifiées "
ou Disraeli :
"il existe trois types de mensonges : le mensonge , le damné mensonge
et les statistiques " .
Il existe de multiples façons de "mal" interpréter une statistique ;
par exemple en se disant que si d'un cas particulier on ne peut rien
généraliser , il suffit de reproduire 100 fois ce cas particulier pour
que cela devienne pertinent . Ainsi en est-il du phénomène de la
rumeur : cent personnes répètent une bêtise , et le propos acquiert
une base statistique solide , qui le rendrait "crédible" , par passivité
de l'esprit critique ; les rumeurs , les fake news sont des biais
statistiques qui n'acquièrent ainsi de "crédit" que par le nombre de
leurs répétitions , ce dont abusent largement bon nombre
d'organisations !
Les biais de raisonnement sont aussi nombreux , qui implique cette fois
le système 2 lié à la réflexion .
Citons le biais de classification , qui consiste à établir des
délimitations dans une situation à analyser en si grand nombre que
beaucoup de zones délimitées deviennent insignifiantes par rapport à
l'ensemble : dès lors , on se croit autorisé à négliger ces "petites"
zones , qui ne sont petites que par la méthode employée pour "pulvériser"
l'analyse .
Ces biais de fragmentation sont d'ailleurs souvent volontaires dans un
certain nombres de laboratoires pharmaceutiques , qui profitent de cette
"pulvérisation" pour prétendre que tel médicament n'a que des effets
secondaires négligeables .
Un autre biais de raisonnement est lié au fait que dans beaucoup de cas ,
"la somme des parties n'est pas égale au tout" .
On croit avoir disséqué une situation jusqu'à ses plus infimes détails ,
mais reconstituer l'ensemble à partir des détails ne donne très souvent
qu'une "synthèse" incorrecte : on fait un "moulage" de la réalité , mais
la réalité n'est pas le moule , dans de nombreux domaines .
C'est un peu ce que dit le théorème de Gödel : dans un système logique
donné , il existe des propositions indémontrables ( inabordables dans
leurs complétudes par la raison) .
Un troisième biais de raisonnement est le biais de "l'ensemble vide"
ou le biais des "axiomes contradictoires" :
on établit ainsi des raisonnements à partir de quelque chose dont
l'existence est impossible à authentifier , et on aboutit à des
conclusions plus ou moins profondément échevelées .
Raisonner sur des axiomes contradictoires revient aussi à raisonner
sur l'ensemble vide : il suffit de prendre un cas où les axiomes
contradictoires sont "vérifiés" simultanément ( c'est à dire en fait
l'ensemble vide ) , et on "démontre" n'importe quoi ...
Un quatrième biais peut être appelé "biais de simultanéité" :
2 évènements sont très bien corrélés et simultanés , et on en déduit que
l'un est la cause de l'autre : par exemple , on fait du sport , les
sportifs ont des risques de cardiopathie moindres , et le taux de bon
cholestérol augmente ....et on déduit que le bon cholestérol diminue
le risque d'infarctus , ce qui est une conclusion fausse , bien que
nombre de laboratoires pharmaceutiques aient élevé le bon cholestérol
en une panacée absolue ...de fait c'est l'activité physique "raisonnée"
qui diminue le risque de cardiopathie , le taux de bon cholestérol
élevé ne diminue pas toujours ce risque .
Exemple 2 : les néonicotinoïdes sont des insecticides efficaces , et
plus leur emploi augmente , plus le nombre d'abeilles diminue ...
Coïncidence , disent les laboratoires ! c'est un biais de simultanéité
dont profitent des "mal-pensants"... pas de chance pour les laboratoires
et les abeilles , le lien entre les deux est maintenant bien établi...
en dépit des tentatives de cacher le phénomène ...
Biais ou interprétations ?
En fait , tous ces biais sont des problèmes d'interprétation de la
réalité , qui consistent à faire des "moulages" , des "modèles" , des
"représentations" de cette réalité : que ces représentations soient basées
sur des intuitions (système 1) ou des réflexions (système 2) , et bien
qu'elles puissent être passées au crible de l'esprit critique (système 3) ,
elles n'en restent pas moins que des moules , des modèles , qui ne sont
pas la réalité ...
Un modèle est tout au plus un outil , permettant de faire des prévisions ,
mais on ne doit pas confondre modélisation , outillage , ...et réalité ...
A tel point qu'on peut parler de "sous détermination de la théorie par
l'expérience " : des théories différentes voire contradictoires peuvent
être évoquées à propos de tel évènement , qui conduisent à des prévisions
identiques : elles n'en restent pas moins différentes , et la réalité n'est
pas dans les théories... ni dans les théogonies ...
Toute réalité que nous observons , perçue intuitivement (système 1) ou
par réflexion (système 2) et passée au crible de l'esprit critique
(système 3) n'est perçue qu'à travers une interprétation , et
l'interprétation biaise toujours un peu ou beaucoup la réalité ...
L'interprétation de la réalité n'est pas la réalité ...prenons y garde ,
quel que soit notre niveau d'esprit critique !