La société des fausses nouvelles

par Charles Côté-Bouchard
, le 9 septembre 2020

Comment les fausses nouvelles se propagent-elles dans les sociétés démocratiques et pourquoi ne se dissipent-elles pas une fois démasquées ? Contre les lectures psychologiques, deux philosophes montrent que la désinformation est un mal social, auquel n’échappent pas les plus rationnels d’entre nous.

Le 4 décembre 2016, Edgar Maddison Welch monte dans sa voiture et fait six heures de route pour se rendre à Washington D.C. Sa destination : la pizzéria Comet Ping Pong sur Connecticut Avenue. Aussitôt arrivé, Welch entre dans le restaurant armé d’un fusil semi-automatique et tire plusieurs balles à travers une porte verrouillée. Heureusement, personne ne se trouve derrière la porte et Welch est arrêté sans que personne soit blessé.

La source de cet acte, c’est la théorie conspirationniste connue sous le nom de Pizzagate, d’après laquelle Hilary Clinton serait à la tête d’un réseau international de prostitution juvénile et de trafic d’enfants. Après avoir lu, sur divers forums en ligne, que Comet Ping Pong faisait partie des hauts lieux de ce réseau criminel, Welch avait pris sur lui de se rendre en personne sur les lieux afin de sauver les enfants.

L’ère de la désinformation

Cet exemple fait partie des nombreux cas stupéfiants décrits par Cailin O’Connor et James Owen Weatherall, les auteurs de The Misinformation Age, pour illustrer le problème de la désinformation. Philosophes des sciences s’inscrivant dans la tradition analytique, O’Connor et Weatherall posent la question suivante : comment la désinformation arrive-t-elle à se propager et à persister dans les sociétés ? Autrement dit, qu’est-ce qui permet à de fausses croyances aussi absurdes que le Pizzagate de faire leurs ravages, et ce, malgré les preuves abondantes de leur fausseté ? Le principal objectif des auteurs est de lever le voile sur les facteurs sociaux qui sous-tendent ce phénomène. Ils y arrivent par une utilisation rigoureuse d’outils de la théorie des probabilités, de l’économie et de la philosophie des sciences.

Le cas du Comet Ping Pong illustre le danger bien réel que pose la désinformation. Comme le remarquent les auteurs, nos actions sont guidées par ce que nous croyons. Un portrait déformé de la réalité peut ainsi donner lieu à un comportement aux conséquences désastreuses. Un geste que Welch croyait héroïque mettait, en réalité, la vie de personnes innocentes en danger. De la même manière, nous ne combattrons pas efficacement les changements climatiques et la COVID-19 si nous ne croyons pas que ces problèmes sont réels et urgents.

Bien que la désinformation ne date pas d’hier, elle atteint aujourd’hui des proportions inédites, selon O’Connor et Weatherall. Son partage et sa production ont été largement facilités par l’avènement des médias de masse et, plus récemment, des plateformes Web comme Facebook, Twitter, YouTube et Reddit. Lorsque se produisit l’incident du Comet Ping Pong, la théorie du Pizzagate ne circulait que depuis quelques semaines. Néanmoins, elle avait eu le temps d’être partagée des milliers de fois. Elle avait notamment été relayée par des figures connues de la droite américaine comme l’animateur de radio Alex Jones et le militaire, ex-conseiller de Donald Trump, Michael Flynn. Des articles réfutant la théorie avaient même déjà été publiés par le New York Times et le Washington Post.

Combattre la désinformation est donc plus urgent que jamais, selon O’Connor et Weatherall. Or, il est difficile de vaincre un ennemi sans connaître sa nature et ses tactiques. Le bon remède, autrement dit, suppose le bon diagnostic. C’est là la motivation qui anime The Misinformation Age.

Les limites du diagnostic rationaliste

D’aucuns seront tentés par un diagnostic « rationaliste » du problème. Selon cette lecture, ce qui permet à la désinformation de se répandre, ce sont les travers rationnels et psychologiques des individus. Que ce soit par paresse, par incapacité ou par manque de temps, trop peu d’entre nous traitent l’information de manière suffisamment critique. Les fausses nouvelles resteraient lettre morte si chacun de nous faisait preuve de plus de vigilance et de responsabilité intellectuelle.

Selon O’Connor et Weatherall, un tel diagnostic est, au mieux, incomplet. L’une des leçons de The Misinformation Age est que la désinformation est fondamentalement un mal social. C’est bien souvent en raison de facteurs sociaux, et indépendamment de la bonne ou mauvaise volonté des individus, que les fausses croyances se propagent.

Il n’est bien sûr pas inutile de cultiver de bonnes habitudes intellectuelles. L’arrogance, les préjugés et l’ignorance volontaire des individus facilitent certes le travail des propagandistes. Toutefois, la désinformation ne dépend pas de tels travers cognitifs et intellectuels pour faire ses ravages. Elle peut très bien se répandre en exploitant les mécanismes par lesquels même les membres rationnels et raisonnables d’une communauté partagent l’information. Amener les individus à penser de manière plus critique et logique ne suffira donc pas à mettre fin à l’ère de la désinformation. Il faudra plutôt cibler les mécanismes sociaux qui sous-tendent la transmission des croyances et qui sont exploités par la désinformation.

Idéaliser pour mieux comprendre

Pour mettre cela en évidence et identifier les mécanismes à cibler, O’Connor et Weatherall préconisent la méthode de la modélisation formelle. Cette technique, largement utilisée par les sciences naturelles et sociales, consiste en la construction et la manipulation d’une version simplifiée, idéalisée et abstraite (un modèle) d’une réalité que l’on souhaite comprendre. Cette méthode est de mise lorsque l’objet est trop complexe et inaccessible pour être étudié efficacement via l’expérimentation ou l’observation. Selon les auteurs, ce critère s’applique au phénomène de la propagation communautaire des croyances. Dans la vraie vie, la formation des croyances est affectée par trop de facteurs difficiles à identifier pour que l’on puisse suivre leur circulation de façon fiable.

L’une des caractéristiques cruciales du modèle développé par les auteurs est qu’il fait abstraction de l’irrationalité épistémique (théorique, cognitive) des individus réels. Plus précisément, il suppose que chaque personne forme et change ses croyances proportionnellement aux données probantes qu’elle possède. Autrement dit, le niveau de confiance de chacun en une affirmation donnée reflète systématiquement la probabilité que cette affirmation soit vraie, relativement à ses données probantes.

Ce choix méthodologique pourrait surprendre. Comment peut-on espérer comprendre la propagation des fausses croyances en faisant abstraction d’un facteur aussi crucial que l’irrationalité des individus qui les acceptent et les partagent ? La réponse est simple : s’il s’avère que la désinformation se propagerait même au sein d’une communauté d’agents idéalement rationnels, alors le problème dépasse forcément les travers psychologiques des individus.

La propagande par la vérité

Parmi les nombreux mécanismes que décrivent O’Connor et Weatherall grâce à leur modèle, les plus sournois sont sans doute ceux qui alimentent la désinformation de manière indirecte, sans recourir à quelque fausse affirmation que ce soit. La clé est de transmettre uniquement de l’information juste, mais de façon sélective et décontextualisée.

Cela est parfois fait à dessein, comme technique de propagande. Bon nombre de questions scientifiques affectent directement les intérêts d’acteurs industriels, commerciaux et politiques. Lorsque la science découvre qu’un produit pose un risque pour la santé ou l’environnement, par exemple, il peut être dans l’intérêt de certains acteurs que le public et les décideurs demeurent sceptiques face à ces découvertes.

L’une des tactiques pour y arriver consiste à dénicher les quelques études allant contre le consensus scientifique gênant et à en faire la promotion exclusive. Durant les années 1950, de plus en plus de chercheurs confirmaient le lien entre la cigarette et le cancer. Il demeurait toutefois quelques études rejetant cette conclusion. L’industrie du tabac s’est donc lancée dans la publication d’un bulletin périodique recensant uniquement les études remettant en doute les dangers de la cigarette. Publiciser ces études de manière sélective et incomplète a permis d’influencer la représentation que se faisaient les décideurs politiques de l’état des connaissances, leur donnant l’impression, à tort, que la dangerosité du tabac demeurait controversée [1].

Cette tactique est particulièrement sournoise et efficace. Étant donné le caractère probabiliste et complexe de la recherche scientifique, il est inévitable que des études menées de bonne foi arrivent à des conclusions erronées. Certaines études indépendantes remettaient effectivement en doute les dangers de la cigarette. L’industrie du tabac fournissait donc de véritables données probantes aux décideurs et au public.

Même des acteurs cherchant de bonne foi la vérité peuvent être trompés par cette tactique. Si les décideurs et le public ignorent le véritable poids relatif des études partagées par l’industrie, les données probantes dont ils disposent suggéreront, à tort, qu’il n’y a pas de consensus sur la question. Un avis éclairé ne nécessite donc pas seulement de vraies données probantes, il requiert aussi un échantillon fidèle et représentatif des preuves disponibles.

Désinformation et bonnes intentions

« Un chien qui mord un homme, ce n’est pas une nouvelle. Mais un homme qui mord un chien, c’en est une. ». Cette citation, attribuée par O’Connor et Weatherall à un éditeur du New York Sun au XIXe siècle, illustre une caractéristique importante du journalisme. Les faits doivent être rapportés de façon juste, mais tous les faits ne méritent pas d’être rapportés. L’anodin et le trivial sont rarement d’intérêt public. La priorité revient plutôt aux événements inattendus, choquants et controversés.

Or, même si ce n’est pas leur objectif, ces choix journalistiques peuvent aider la propagation de fausses croyances. Même en ne rapportant que des faits, les journalistes peuvent, sans le vouloir, alimenter une représentation trompeuse de la réalité. Pensons, par exemple, à la tendance des médias à ne rapporter que les résultats scientifiques les plus surprenants et à accorder un temps de parole équivalent aux opinions opposées, y compris les plus radicales.

Sans un portrait complet de l’état des recherches, la première tendance peut nous conduire à surestimer l’importance relative de la conclusion scientifique rapportée. La seconde peut nous faire surestimer le niveau de controverse entourant une question. Il est difficile de saisir que l’un des deux côtés du débat fait déjà consensus si chaque partie bénéficie de la même attention dans un reportage ou un débat. La « controverse » quant au caractère anthropogénique des changements climatiques est, bien sûr, un cas familier.

Plus surprenant encore, la réfutation des théories du complot et des fausses nouvelles peut s’avérer contreproductive. Même si l’objectif des journalistes est de rectifier les faits, déboulonner les fake news tend à en augmenter la portée et à les faire connaître à un plus large public. O’Connor et Weatherall recommandent d’ailleurs aux grands médias d’information d’abandonner le fact-checking et de laisser cette tâche aux sites spécialisés . Les journalistes feraient mieux de s’en tenir aux vraies nouvelles ayant un réel intérêt et d’éviter d’amplifier la portée des fake news, selon les auteurs.

Quelles interventions ?

L’une des conclusions de The Misinformation Age est qu’un libre marché des idées n’éliminera pas la désinformation à lui seul. Il ne suffit pas de laisser libre cours aux discussions et aux délibérations rationnelles pour combattre la désinformation. Il faut plutôt intervenir auprès des mécanismes sociaux qui permettent aux fausses croyances de se propager et de persister, même parmi des agents rationnels.

Certaines des recommandations de O’Connor et Weatherall concernent la production scientifique. Ils suggèrent notamment de privilégier la réalisation d’un petit nombre de grandes études réunissant de nombreux chercheurs plutôt qu’une multitude de petites études. Ainsi, le nombre d’études erronées pouvant être publicisées et amplifiées par des propagandistes diminuerait.

D’autres suggestions concernent le travail des journalistes. Sur les questions scientifiques, la priorité doit être d’offrir un portrait fidèle des données scientifiques, et non de représenter les « deux côtés de la médaille » ou de ne partager que les résultats surprenants. Si seulement 3% des études remettent en doute les changements climatiques, il est impératif de rendre justice à cette proportion. Si l’on donne la parole à trois chercheurs « climatosceptiques », alors il faudrait s’assurer d’en interroger 97 qui y croient.

Bien que l’ouvrage contienne quelques autres recommandations, on aurait aimé qu’une plus grande attention soit portée aux solutions possibles. Malgré son importance évidente, cette question ne fait l’objet que de quelques pages à la toute fin du livre. Cette limite est d’autant plus décevante qu’un chapitre complet est consacré à une définition de la vérité qui, au final, ne joue qu’un rôle négligeable dans l’exposé.

Bien qu’il s’adresse à un large public, l’ouvrage comporte son lot de notions plus techniques et abstraites. Heureusement, elles sont expliquées de façon claire et sont ponctuées d’une multitude d’exemples fascinants de désinformation à travers l’histoire. Sont particulièrement mémorables ceux de l’agneau tartare et du Docteur Semmelweis luttant pour convaincre ses collègues des bienfaits du lavage des mains.

O’Connor et Weatherall posent un regard lucide et convaincant sur les mécanismes sociaux qui permettent la propagation des fausses croyances. Leur traitement de la polarisation, qui n’a pu être abordée ici par manque d’espace, est tout aussi éclairant. Alors que la désinformation et les fake news attirent depuis plusieurs années l’attention des chercheurs, O’Connor et Weatherall offrent une contribution inédite et incontournable à cette littérature.

Cailin O’Connor et James Owen Weatherall, The Misinformation Age, Yale University Press, 2019, 280 p.

[1] Voir notamment Naomi Oreskes et Erik M. Conway, Les Marchands de doute, Paris, Le Pommier, 2012. C’est en partie sur cet ouvrage que s’appuient O’Connor et Weatherall dans leur analyse des mécanismes de propagande.