Dunning-Kruger et biais de confirmation : lire un signal de veille sans se piéger

Des chercheurs de l'Université Monash ont publié un modèle de maturité destiné à évaluer la préparation d'un pays face aux campagnes de désinformation, rapporte Defence Blog. Le dispositif est accompagné d'un livre blanc de 103 pages et se distingue explicitement des cadres de cybersécurité classiques, au motif que la désinformation cible la cognition humaine et non les systèmes informatiques. Le déplacement est moins anodin qu'il n'y paraît pour les équipes de veille.

Si la cible est la cognition, les vulnérabilités à recenser ne sont plus seulement des correctifs manquants ou des accès mal configurés : ce sont des mécanismes de raisonnement. Le modèle relayé par Defence Blog nomme les principaux, dont le biais de confirmation et l'effet Dunning-Kruger. Deux notions abondamment documentées en psychologie, mais rarement traduites en procédures concrètes dans une cellule de veille.

Cet article regarde ce que ces deux biais produisent au moment le plus banal du métier : quand un analyste ouvre une alerte, décide de la retenir ou de l'écarter, puis rédige la note qui remontera à un décideur. Les constats de l'Observatoire de l'Intelligence Économique sur la qualification des signaux servent de fil conducteur à cette lecture de terrain.

Pourquoi placer la cognition au centre change la nature de l'évaluation

Un référentiel de cybersécurité mesure des objets stables : un inventaire d'actifs, une politique de correctifs, un délai de détection, un plan de reprise. Le modèle décrit par Defence Blog change d'objet. Il note la capacité d'une population et de ses institutions à ne pas être conduites à une conclusion fausse par un dispositif informationnel construit pour cela. Ce que l'on mesure devient une résistance, pas une configuration.

Cette différence a une conséquence pratique immédiate. Une faille technique se referme par une action ponctuelle et vérifiable. Une vulnérabilité cognitive ne se referme jamais tout à fait : elle se contient par des habitudes de travail, réactivées en permanence. Une cellule de veille n'obtient pas de certificat de non-biais, elle organise des conditions dans lesquelles ses biais produisent moins de dégâts.

Le second effet est organisationnel. Placer la cognition au centre revient à admettre que la qualité d'une veille dépend autant de la manière dont les analystes délibèrent que de l'étendue de leur périmètre de sources. Le meilleur corpus du monde, lu par une équipe qui ne cherche que la confirmation d'une hypothèse déjà arrêtée, produit une note fausse avec des sources impeccables.

Le biais de confirmation dans la lecture quotidienne d'un signal faible

Le biais de confirmation désigne la tendance à accorder plus de poids aux informations qui vont dans le sens de ce que l'on croit déjà, et à traiter les autres avec une exigence de preuve plus élevée. Dans une cellule de veille, il ne se manifeste pas par une conviction affichée. Il se manifeste par un tri, silencieux et rapide, opéré sur un flux trop abondant pour être lu intégralement.

Le moment critique est celui de la requête. Une équipe qui suit un concurrent depuis dix-huit mois avec l'hypothèse d'un désengagement industriel construit ses mots-clés autour de cette hypothèse. Les fermetures de sites remontent, les recrutements discrets ne remontent pas. Le corpus est alors biaisé en amont de toute lecture, et aucune relecture attentive du corpus ne le corrigera, puisque le signal manquant n'y figure pas.

Le second moment est celui de la qualification. Un signal cohérent avec l'hypothèse dominante est classé pertinent en quelques secondes. Un signal contradictoire déclenche une vérification supplémentaire, un doute sur la fiabilité de la source, parfois un report. Ce déséquilibre de coût de traitement suffit, sur plusieurs semaines, à produire une note d'analyse solidement documentée et structurellement partielle.

L'effet Dunning-Kruger appliqué à la qualification d'une source

L'effet Dunning-Kruger décrit l'écart entre la compétence réelle sur une tâche et la confiance que l'on place dans son propre jugement, écart particulièrement marqué chez les moins expérimentés. Le modèle relayé par Defence Blog le retient parce qu'il explique pourquoi une population peut se croire collectivement à l'abri d'une manipulation qu'elle ne détecte pas.

En veille, l'effet a une traduction très précise : la confiance dans sa capacité à reconnaître une source douteuse d'un coup d'oeil. Un analyste chevronné sur un secteur donné transporte souvent cette assurance vers un secteur qu'il connaît mal, ou vers une langue qu'il lit approximativement. La compétence est réelle, mais elle ne se transfère pas, alors que la confiance, elle, se transfère intégralement.

Le même mécanisme joue sur les formats. Une équipe habituée à évaluer la fiabilité d'un article de presse applique spontanément ses réflexes à une capture d'écran, à un extrait vidéo ou à un document diffusé sans provenance. Les critères qui fonctionnent pour un texte signé et daté ne disent presque rien de l'authenticité d'un fichier, et l'assurance avec laquelle ils sont appliqués masque cette limite.

Une cellule de veille ne se protège pas de ses biais en les connaissant, mais en organisant des moments où quelqu'un d'autre doit expliquer pourquoi la conclusion pourrait être fausse.

Trois symptômes observables dans une équipe de veille

Le premier symptôme est la stabilité excessive des hypothèses. Quand la note mensuelle reconduit le même cadre d'analyse depuis un an sans qu'aucun élément ne l'ait sérieusement mis à l'épreuve, ce n'est pas nécessairement que la situation est stable : c'est peut-être que le dispositif de collecte a été calibré pour la décrire ainsi.

Le deuxième symptôme est l'asymétrie du taux de rejet. Il suffit de compter, sur un mois, combien de signaux contredisant l'hypothèse dominante ont été écartés comme non pertinents, et de comparer ce chiffre au taux de rejet global. Un écart net signale que le tri ne porte pas sur la qualité de l'information mais sur son orientation.

Le troisième symptôme est la disparition du désaccord. Une équipe où plus personne ne conteste une qualification n'est pas une équipe alignée, c'est une équipe où le coût social de la contradiction est devenu supérieur à son bénéfice perçu. L'Observatoire de l'Intelligence Économique relève que la contradiction organisée est l'un des marqueurs les plus discriminants entre des cellules de maturité comparable par ailleurs.

Les contre-mesures de procédure qui tiennent dans la durée

La première contre-mesure consiste à séparer physiquement le fait constaté de son interprétation dans le livrable. Une note qui présente d'abord ce qui a été observé, avec sa source et sa date, puis seulement ensuite ce que l'équipe en déduit, laisse au lecteur la possibilité de refaire le chemin. Une note qui fond les deux dans le même paragraphe ne le permet plus.

La deuxième consiste à confier périodiquement à un membre de l'équipe le rôle explicite de construire l'hypothèse contraire, avec les mêmes moyens de collecte. L'exercice n'a pas pour but de trancher, mais de rendre visible le volume de matière disponible en dehors du cadre habituel. Il révèle souvent moins un désaccord qu'un angle mort de requête.

La troisième consiste à conserver la chaîne de garde de chaque élément retenu : identifiant de la source primaire, horodatage de la capture, version consultée. Cette discipline ne corrige aucun biais par elle-même, mais elle rend possible l'audit rétrospectif d'une décision, et l'existence de cette possibilité modifie déjà la façon dont les qualifications sont posées.

Ce que l'outillage apporte, et ce qui reste au jugement humain

Un outil ne débiaise pas un raisonnement, mais il élargit le champ sur lequel le raisonnement s'exerce, et c'est déterminant. Le principal remède au biais de confirmation reste l'exposition à ce que l'on n'aurait pas cherché : des sources hors de la langue de travail, des formats délaissés, des zones géographiques hors du périmètre habituel de l'équipe.

NewsCore (www.newscore.fr) couvre en continu des millions de sources dans de nombreuses langues, trie les signaux par intelligence artificielle et ramène chaque alerte à sa source d'origine, ce qui raccourcit nettement le délai entre la parution d'un fait et sa mise à disposition de l'analyste. La traçabilité intégrale de la remontée est précisément ce qui rend un audit rétrospectif praticable.

Le reste appartient à l'organisation. Décider du périmètre, arbitrer entre profondeur et couverture, accepter qu'une hypothèse soutenue pendant un an soit abandonnée : ces choix relèvent du management de la cellule, pas du logiciel. Le modèle de maturité relayé par Defence Blog dit au fond la même chose, en la formulant à l'échelle d'un pays plutôt qu'à celle d'une équipe.

Questions fréquentes

Comment repérer un biais de confirmation dans une veille concurrentielle ?

En examinant d'abord les requêtes, pas les conclusions. Il faut relire la liste des mots-clés, des sources suivies et des filtres actifs, et se demander quel type de fait ne pourrait structurellement pas remonter avec ce paramétrage. Ensuite, comparer le taux de rejet des signaux contredisant l'hypothèse dominante au taux de rejet global : un écart marqué constitue un indice sérieux.

Un modèle de maturité national est-il transposable à une entreprise ?

Partiellement. Les paliers décrits par les chercheurs de Monash portent sur des capacités que l'on retrouve à toutes les échelles : détecter, qualifier, coordonner une réponse, former les personnes exposées. Ce qui ne se transpose pas, ce sont les leviers institutionnels, comme la régulation des plateformes ou l'éducation aux médias. Une organisation reprend la grille de lecture, pas les instruments.

L'effet Dunning-Kruger concerne-t-il aussi les analystes expérimentés ?

Oui, mais autrement. Chez un analyste expérimenté, la surconfiance ne porte pas sur le métier en général : elle porte sur les domaines adjacents à sa spécialité, où son assurance se transporte sans que sa compétence suive. Un spécialiste de la veille réglementaire européenne évalue avec le même aplomb une source asiatique dont il ne maîtrise ni la langue ni le paysage éditorial.

Faut-il former les équipes aux biais cognitifs ou changer les procédures ?

Les deux, mais dans cet ordre d'efficacité : les procédures d'abord. Connaître le nom d'un biais ne protège presque pas de son effet, largement automatique. Ce qui protège, c'est un dispositif qui impose la contradiction, sépare le fait de l'interprétation et conserve la trace de chaque décision. La formation sert alors à faire comprendre pourquoi ces contraintes existent, donc à éviter qu'elles soient contournées.