La mode des biais cognitifs dans l’esprit critique
Pour agir dans un environnement, nous mobilisons des approximations intuitives et rapides, dénommées heuristiques. Mais dans certaines situations, celles-ci génèrent des distorsions qui ne seraient pas la réponse optimale, en fonction de nos a priori ou des informations à notre disposition : des déviations qui entraîneraient des erreurs de jugement ou de raisonnement. Dans ce cas on parlera de biais cognitifs. La vulgarisation sur ce sujet est très prisée dans la presse et dans le monde de l’entreprise pour expliquer nos décisions. De même que le gène ou le neurone sont parfois présentés précipitamment comme des déterminants de nos comportements (neurone de la violence, gène de l’infidélité, etc.) chez des intermédiaires médiatiques ou culturels (Lemerle, 2013), le biais cognitif est lui aussi sollicité comme la clé explicative de nos comportements. L’enseignement n’échappe pas à cette conception qui permet de créer des expériences attrayantes qui permettraient de comprendre ces raccourcis que pourraient exploiter les mentalistes (pour le divertissement) et certaines pratiques plus manipulatoires (charlatan, publicité). L’auteur de ces lignes a lui-même mis en place des activités sur ce thème pour aborder l’esprit critique. On trouvera aisément des activités qui énonceraient les biais qui expliquent les adhésions et croyances (« les 5 biais qui expliquent l’inaction climatique », « les biais cognitifs qui expliquent l’attrait aux infox sur la crise sanitaire », « apprendre à déjouer ses biais »). Mais en lisant la littérature scientifique sur ce sujet, on se rend compte que tout cela occulte des causes contextuelles qui expliquent la mésinformation : par exemple, un manque d’informations cohérentes pendant une crise sanitaire, ou des médias poussés au sensationnalisme et à la course au clic (Griessinger & Moukheiber, 2020).
Tout d’abord ces biais recouvrent des choses très disparates. Chacun d’eux relève d’expérimentations précises, opérées dans des conditions bien particulières où l’on tente d’isoler des variables : plaquer un artefact de laboratoire dans une salle de classe est problématique, car celle-ci est un environnement multifactoriel qui ne place pas les élèves dans les conditions d’une expérience. Peut-être certaines de leurs réponses ou erreurs sont liées à des biais cognitifs, mais ce n’est pas toujours le cas et c’est rarement la cause unique. Ajoutons que certains biais se voient modérés : par exemple, l’existence de l’effet Dunning-Kruger (les moins compétents dans un domaine surestimeraient leurs compétences) est remise en question dans certaines recherches (ou dépendante d’éléments culturels). Mais il est parfois utilisé pour discréditer la parole d’autrui.
D’autre part, différents modèles ont été proposés pour expliquer l’existence des biais cognitifs et ils font l’objet de controverses (Hjejj & Vilks, 2023). La théorie populaire du système1 (intuitif, rapide, économe) et du système2 (analytique, plus lent) de Daniel Kahneman et Amos Tvertsky a souvent été vue comme une manière d’expliquer que le raisonnement analytique est moins source d’erreurs, ce que récuse le chercheur en psychologie cognitive Hugo Mercier : «Il n’existe aucune preuve expérimentale suggérant l’existence systématique d’un lien entre le fait de se montrer moins enclin à l’analyse – mise en branle par le système 2 – et une acceptation plus fréquente des croyances douteuses (…). Le lien supposé entre une pensée analytique et l’adhésion à des croyances douteuses n’a rien de systématique. On a tendance à associer athéisme et pensée analytique mais ce n’est pas le cas partout. Au Japon, par exemple, il existe une corrélation entre le fait de croire au paranormal et un usage plus fréquent de la pensée analytique » (Mercier, 2022. p. 73-74). De fait, un raisonnement moins rapide, moins intuitif (pour reprendre l’opposition système1/2) ne sera pas le gage de davantage de rationalité (on peut être motivé à raisonner afin de rechercher des informations qui vont dans le sens d’une conclusion à laquelle on veut croire).
Autre objection : ces biais s’observent dans un cadre où l’on attend une déviation par rapport à une réponse attendue, normée. Mais au quotidien, il n’y a pas toujours une bonne solution qui serait LA réponse rationnelle. Sur certaines questions de société, il ne suffit pas de démêler le vrai du faux : selon les valeurs, les contextes, les savoirs impliqués, on n’arrivera pas aux mêmes solutions ; ainsi, avoir un avis négatif sur le glyphosate ou les OGM (exemples souvent pris pour supposer un manque de rationalité) ne peut se réduire à un biais. Sans entrer dans le débat, que votre auteur serait bien incapable de trancher, on objectera que cette question n’est pas purement technique, mais socio-scientifique : elle touche plusieurs champs d’expertise, pose des questions complexes, dépend de choix de société, nécessite de nombreuses connaissances et des retours d’expériences locales. En débattre, permet de faire émerger des questionnements de manière collective et d’explorer différentes dimensions (Pallares, 2019).
D’autres modèles comme la rationalité écologique expliquent que nos heuristiques rapides peuvent donner lieu à des décisions « ok » (Gigerenzer, 2009). Intuition et raison n’y sont pas opposées. D’autres chercheurs diront que cette binarité entre deux systèmes est obsolète (Melnikoff & Bargh, 2018) ou que l’on peut relier les différents modèles (Samuels & al, 2002). À croire que les biais cognitifs seraient des mécanismes à déconstruire pour arriver à une supposée neutralité et mieux s’informer, on risque d’essentialiser des pratiques informationnelles problématiques par ce seul prisme, sans comprendre les contextes et les raisons propres à chacun.e. On peut voir les biais comme des déviations mais aussi comme des « moyens de » (Table ronde, Moukheiber, 2022) : dans de nombreux contextes, ces heuristiques sont utiles, opératoires et permettent de stabiliser l’incomplétude de notre environnement informationnel (on ne peut pas accéder à toutes les données dans une situation). Prenons l’exemple du biais de confirmation (tendance à sélectionner les informations qui confortent nos a priori) : s’il peut nous empêcher de nous confronter à des informations contradictoires, il peut aussi nous aider à trouver des arguments pour défendre un point de vue, nous créer une bulle saine en ligne, poser un curseur de vigilance face à une information contradictoire quand on a une base solide sur un sujet (Mercier, 2019).
Image : wikimedia commons
Déjouer les biais en éducation ? Fausse bonne idée ?
Qu’en disent les sciences de l’éducation ? Les auteurs et autrices d’une synthèse des recherches sur l’éducation à l’esprit critique se sont penchés sur les liens entre esprit critique et biais cognitifs (EPhiScience, 2021). Ils concluent qu’une « éducation à l’esprit critique ne peut se limiter à une approche visant à éliminer ce qui semble être faux. Le piège serait alors de considérer qu’une pensée purgée de tous ses biais correspondrait nécessairement à de l’esprit critique ». D’autre part, le texte souligne que les études sont parfois contradictoires, en se basant sur les expériences menées sur les biais pouvant affecter la prise de décision dans le milieu médical : certaines concluent que le travail sur le biais cognitif pourrait améliorer l’action des médecins mais d’autres notent que cela pourrait altérer la confiance en soi et le jugement, en cas de situation d’incertitude ou d’urgence. Certaines études de ce champ médical suggèrent qu’il est parfois plus pertinent de viser à combler un manque de connaissances dans le domaine concerné que de demander aux individus d’essayer de contrôler et réduire leurs biais. Cette conclusion pourrait être transposée au milieu éducatif de façon plus générale : il n’est pas forcément pertinent de considérer l’adhésion à une infox comme émanant avant tout de biais si l’individu dont il est question connaît peu le sujet et n’a donc pas les connaissances pour repérer des éléments suspects. Une autre piste évoquée dans la synthèse, serait de mettre en place des outils pratiques pour minimiser l’impact de biais dans nos prises de décisions (check-list, mémos, logiciels collaboratifs). On peut s’en inspirer pour réfléchir à des outils qui nous aideraient dans notre environnement informationnel et nos usages en ligne de manière similaire.
En résumé, identifier des biais peut avoir un sens pour améliorer des pratiques dans des contextes précis telle qu’une prise de décision clinique, mais a-t-on le recul pour appliquer cela à des phénomènes disparates de mésinformation ? De l’avis de Charlotte Barbier, qui a participé à cette synthèse, l’articulation entre recherches en éducation et recherches sur les biais n’est pas encore très claire et il est difficile de tirer des conclusions sur l’intérêt pour les enseignants d’enseigner les biais cognitifs à des élèves (Table ronde, Barbier, 2022). Dans ce cadre, si les biais peuvent fournir des pistes réflexives sur soi, favoriser la métacognition, d’autres éléments sont cruciaux : capacités d’argumentation, connaissance épistémique du sujet, dispositions. En évaluation critique de l’information, des travaux permettent de réfléchir aux heuristiques mis en œuvre par les adolescents (Sahut, 2017) : ce peut être un levier pour prendre en compte leurs usages et les aider à les améliorer. Dans des pratiques informationnelles collectives, au sein de dispositifs sociotechniques, de modèles économiques et d’infomédiaires, on ne peut tout réduire à une histoire de débiaisage individuel afin de tout vérifier par soi-même : on réfléchit aussi aux sources ou personnes de confiance sur lesquelles s’appuyer. On pourra aussi se centrer sur d’autres types de biais : porter un regard critique sur les biais racistes ou de sexe/genre en histoire des sciences ou dans les œuvres de fiction, les biais statistiques en mathématiques et SES, les biais idéologiques dans des discours médiatiques en ÉMI.
Ces instincts et ces mécanismes qu’il faudrait dompter
Une biologisation de la mésinformation se retrouve encore en formation : des concepts obsolètes, comme le cerveau triunique (un cerveau reptilien, siège des instincts primaires, un cerveau limbique, siège des émotions, un néocortex, siège du raisonnement) pour expliquer le partage instinctif d’une information, sont vivaces. Le cerveau reptilien a pu être «une ressource symbolique pour quiconque désirait imputer le déplorable état du monde aux défauts innés de la nature humaine ou simplement évoquer de manière expressive les pulsions qui nous gouvernent» (Lemerle, 2021) : une théorie vite tombée en désuétude dans son propre champ disciplinaire, mais réutilisée dans le champ médiatique pour expliquer certains comportements qui font l’actualité. Une autre idée, qui renforce des comportements archaïques inadaptés au monde actuel, issue de la psychologie évolutionniste, un courant très controversé (Richardson, 2010) mais qui a été très prisé dans la vulgarisation de l’esprit critique, énonce que le cerveau réagirait trop vite car il doit surinterpréter les dangers pour survivre en des temps ancestraux. Dans cette perspective de course à la lutte contre les infox, on peut vite donner l’image d’une entité rationnelle qui a pour but de dompter une entité archaïque. (L’inventeur de la théorie reptilienne, Paul MacLean, parlait de devoir «tenir en laisse ce reptile»). Ces explications biologiques et organiques pour justifier des comportements sociaux (mésinformation, pulsions, réactions émotives) font le bonheur de publicitaires ou d’entreprises managériales qui s’accommodent bien de l’économie de l’attention et des explications simples pour expliquer des actions jugées irrationnelles.
Si les neurosciences ont pu être une plus-value pour l’élève (comprendre sa mémoire, rythmer son apprentissage), on note des mésusages fréquents, à l’instar des biais : l’imagerie a pu être dévoyée pour favoriser des méconceptions dans des cadres scolaires et la formation : cerveau gauche-cerveau droit, effets des écrans sur le cerveau, localisme exagéré de fonctions à certaines zones cérébrales (voir le documentaire Arte Suis-je mon cerveau ? avec Albert Moukheiber) ou à certains neurotransmetteurs (Cobb, 2021). Il suffit d’observer le nombre de publications qui expliquent l’appétence à certaines pratiques en ligne par le prisme de la dopamine. Cette vision a des répercussions qui peuvent avoir une incidence sur nos pratiques pédagogiques : penser que les réseaux génèrent des shoots de dopamine et grignotent l’attention est caricatural, voire méprisant vis-à-vis des jeunes.
Dompter des biais, intuitions et émotions qui court-circuiteraient notre raisonnement va souvent de pair avec des oppositions intuition/raisonnement ou émotion/rationalité qui correspondent peu aux savoirs tels qu’ils se font. De nombreux exemples de l’histoire des sciences, comme du quotidien, montrent comment l’intuition et l’émotion peuvent être vectrices de connaissance. « Aucun moment ne se passe au neutre dans des parcours complexes où une personne interagit avec autrui, opère dans des lieux amènes ou hostiles, s’approprie de multiples outils, passe des heures dans des activités exigeantes avec une pluralité d’interlocuteurs. (…) Le travailleur intellectuel est aussi un être de chair et de sang qui éprouve des émotions dans son travail ou encore, en renversant la perspective, que son travail, tout scientifique qu’il est, se fait aussi dans l’émotion » (Waquet, 2022). Ce serait d’ailleurs une vision quelque peu désincarnée d’assimiler les connaissances et les sciences « à un point de vue neutre et situé au-dessus des passions et des intuitions, penser que la science parle au-dessus de la mêlée, du point de vue de Sirius, (…) qu’elle est ventriloque et parle comme Dieu » (Pestre, 2010).
Il est alors intéressant d’évoquer des épisodes de « découverte » scientifique pour entrevoir la manière dont s’est réellement construit un savoir (le débat autour de la génération spontanée entre Pasteur et Pouchet, par exemple). D’autres pratiques pédagogiques intègrent l’émotion : en histoire, dans le traitement de certaines actualités, on prend appui sur les émotions dans des situations argumentatives sur des sujets « chauds », « plutôt que de les faire taire ». On travaille, « plutôt qu’à esquiver les émotions, à les utiliser pour relancer l’apprentissage du raisonnement en histoire » (Sorsana & Tartas, 2018).
La porosité aux fake news : des infox sur les infox ?
La vision de personnes perméables aux fake news est loin d’être partagée. Pour certains auteurs il y a plutôt une vigilance épistémique qui marche bien mais qui active des mécanismes de vigilance dans un environnement informationnel où nous sommes face à des informations contradictoires, disparates, où nous ne connaissons pas toujours les intentions et motivations des auteurs (Mercier, 2022). D’autres données suggèrent un ensemble d’idées reçues tenaces : Manon Berriche et Sacha Altay, dans leur recherche sur la désinformation et la réception d’informations médiatiques, énoncent plusieurs items contre-intuitifs : le faux ne circule pas plus vite que le vrai ; les fake news représentent une partie beaucoup moins importante que ce que l’on pense par rapport à l’ensemble des contenus ; partager n’est pas adhérer ; la création de fake news est l’œuvre d’un faible pourcentage de personnes (Berriche & Altay, 2021). Ironie du sort, deux expériences récentes laissent penser que les récits alarmistes concernant la désinformation puisent dans notre tendance à voir les autres comme crédules (Acerbi & Altay, 2022).
D’autre part, la focale de la chasse aux infox peut gommer d’autres éléments en ligne sur lesquels exercer sa pensée critique : contexte idéologique, effets de rhétorique, intentions, biais racistes/sexistes dans les discours ou dans les algorithmes, choix des arguments mis en avant, etc. Nous avons déjà énoncé par ailleurs le risque de réduire à un biais ou frapper d’irrationalité celui qui n’aurait pas le « bon » avis (qui dépend notamment de notre rapport de connaissance ou de proximité avec le sujet) dans l’espoir d’une neutralité d’apparat qu’il faudrait atteindre. Enfin, on peut questionner une éducation qui serait « contre » les infox, si elle ne s’accompagne pas d’une alternative convaincante (qu’est-ce qu’une bonne information ? quel récit est plus pertinent ?). Cela peut permettre de poser d’autres questions : qui profite de la désinformation, qui diffuse et pourquoi il/elle le fait, pourquoi est-ce qu’on y adhère ? Quelles sont les valeurs véhiculées par l’information ?
Image : Flat_earth. Wikimedia commons
Des enjeux socio-contextuels et collectifs
L’illusion d’une boîte à outils pour que chacun.e fasse ses propres recherches, fait l’impasse sur des processus collectifs (comme la nécessité d’identifier des sources de confiance et d’expertise) : équiper l’élève d’outils individuels n’est pas un gage de non-mésinformation quand le savoir se construit collectivement. Il s’agit de comprendre que l’attrait aux infox ne se réduit pas à une histoire de cerveau à outiller, mais est lié à des enjeux de société et de vie démocratique. On peut questionner les biais de raisonnement qui seraient à la base de croyances douteuses : mais comment détricoter l’adhésion des élèves à des vérités alternatives sans considérer le vécu ou les raisons d’adhérer ? La méfiance s’explique aussi par des vécus oppressants tels qu’on en trouve dans l’histoire scientifique : essais cliniques infructueux non signalés, manque de pédagogie, scandales pharmaceutiques, rapport sexiste ou raciste en médecine (Chamayou, 2013). L’adhésion au complotisme peut s’expliquer par une colère, l’oppression d’une communauté, telle Tuskegee aux USA, où la méfiance à l’égard de la médecine s’explique par des expérimentations médicales impropres sur les Afro-Américains (Fassin, 2020). Il serait malvenu de dire à ces personnes qu’elles sont « biaisées », quand leur crainte de la médecine a des racines historiques. Des chercheurs étudiant le complotisme à l’heure du numérique estiment qu’on peut « se départir des approches paranoïdes ou psychologisantes qui tendent à rejeter, sans autre forme de procès, l’étude des théories du complot dans le champ des déviances psychopathologiques ou des sciences cognitives et qui interdisent de les envisager comme un fait social et politique en-soi » (Giry, 2017). Voir la viralité d’un faux complot comme une preuve de crédulité ne prend pas en compte les dynamiques de diffusion actuelles et de ceux pour qui la vérité importe peu, tant que cela sert leur penchant idéologique. Des éléments socio-culturels, historiques permettront donc d’appréhender la mésinformation avec davantage de finesse. La psychologie cognitive émet elle-même des réserves sur le lien entre biais cognitifs et adhésion conspirationniste : ne sont-ils que des corrélations ? Sont-ils la cause de la méfiance ou la conséquence ? Sont-ils liés à des stratégies pour peser politiquement ? (Dieguez & Delouvee, 2021). D’autre part, cette discipline ne se centre pas que sur l’individuel : les chercheurs en sociologie du numérique et en technologies de la communication, Henri Boullier, Baptiste Kotras et Ignacio Stiles, rappellent que souvent « les explications psychologiques sont opérationnalisées comme un mélange de deux grands groupes de facteurs : individuels (tels que la confiance, l’ouverture à l’expérience, l’agréabilité, le niveau d’éducation, le narcissisme et l’autoritarisme, entre autres) et environnementaux (tels que les événements sociétaux pénibles, les conflits de groupe et les questions de pouvoir, etc.) », même si ces enquêtes sous forme de listes d’items sont accusées de manquer de nuances méthodologiques, en ne montrant pas la diversité des raisons d’adhérer à ces récits, ni les aspects sociotechniques actuels (Boullier & al., 2021). Les trois chercheurs, pour éviter un jugement péjoratif, préfèrent parler de « déviances informationnelles ».
Il est possible de proposer des activités pédagogiques qui intègrent ce questionnement sur la réception et l’impact socio-culturel des infox. La brochure belge de Media-Animation, 5 approches pour une éducation critique aux médias propose une approche sociale basée sur ces questions, dans une perspective quasi sociologique : questionner les dynamiques sociales dans la prolifération d’une information, les systèmes de production de ces informations et les modèles économiques ou idéologiques qui peuvent les générer. D’autres activités basées sur l’argumentation, le débat entre pairs et les capacités à s’appuyer sur des sources de confiance peuvent aider à sortir d’une vision centrée sur le fait de former des cerveaux qui « pensent par eux-mêmes » (ce qui peut très bien mener à se mésinformer ou adhérer à des thèses complotistes). Une boîte à outils critique, une tête bien faite avec une logique implacable et un contrôle de nos biais, ne remplaceront pas une expertise du sujet. Enfin, il est possible de questionner des phénomènes de désinformation dans un cadre d’enquête. On peut engager les élèves dans un cadre informationnel sur des sujets de société, à la manière d’activités qui intègrent la pensée critique et l’enquête sociologique, tels que l’ouvrage de cycle 3 Apprendre aux élèves à décrypter la société (Lecardonnel & al., 2022) les présente.
Sortir du biais des biais ?
Si comprendre les mécanismes cognitifs nous permet d’appréhender les usages problématiques d’Internet, les techniques de captation des interfaces (dark pattern), les modalités d’apprentissage, la métacognition ou le traitement de l’information (heuristiques de recherche, travaux sur la charge cognitive, etc.), on ne peut traiter l’infox sans « comprendre comment des objets techniques, tels que des algorithmes, des plateformes logicielles, des dispositifs de communication ou des codes informatiques, permettent la formation et la circulation de ce type de contenu » (Boullier, 2021). Les travaux centrés sur l’évaluation de l’information et les évolutions sociotechniques, prennent en compte ces dimensions : Monica Macedo-Rouet rappelle que sur écran, notamment avec les spécificités de la recherche hypertextuelle et le design des résultats des moteurs de recherche, les élèves pratiquent des formes de lecture et ont des difficultés spécifiques : les identifier permet d’améliorer leurs capacités de compréhension et d’évaluation des informations en ligne (Macedo-Rouet, 2022).
Il s’agit aussi, en tant qu’enseignant, d’éviter un discours qui serait essentialisant et monocausal, qui discréditerait la pensée d’autrui à base de biais de crédulité, sans avoir accès à son vécu, ses raisons et ses espaces de sociabilité. Nous tentons d’appréhender des sujets qui évoluent, des éléments qui touchent à la psyché et au bien-être des élèves. De même que partager une information n’est pas forcément y croire, les usages divers des pratiques informationnelles ne se réduisent pas à des défauts de « factualité » ou de cognition. Une information vraie peut être non pertinente, liée à une idéologie ou une intention particulière, véhiculer des représentations, des stéréotypes qui se questionnent, mettre en avant des faits ou des données plutôt que d’autres. Il s’agit de questionner une vision de l’ÉMI comme une histoire de gens qui pensent mal, à remettre sur le droit chemin cérébral.
Je remercie Charlotte Barbier pour sa relecture de certaines parties.
