La science derrière pourquoi les fausses nouvelles sont si difficiles à éliminer

Au lendemain du massacre de la nuit du 1er octobre à Las Vegas, Facebook et Google — les deux plus grands distributeurs de nouvelles et d’informations dans le monde — ont contribué à répandre la désinformation.

Dans ses « top stories », Google présentait un forum 4chan — un babillard anonyme connu pour alimenter les théories du complot — qui identifiait à tort le tireur comme un démocrate lié à des groupes antifascistes de gauche, comme l’a découvert Ryan Broderick de BuzzFeed. Sur Facebook, « trending stories » présentait des articles sur le tireur de Sputnik, un média de propagande russe, a noté un journaliste du New York Times.

Et ce n’est que le début: Un nombre incalculable d’autres éléments de désinformation et de canulars générés par les utilisateurs sur le tournage se propagent librement sur les réseaux sociaux. (Broderick a compilé de nombreux canulars dans une liste ici.)

Le site Infowars de la théorie du complot Fringe a publié un titre qui suggérait que le tueur ciblait spécifiquement les conservateurs. Et comme Broderick l’a raconté, le site Web d’extrême droite Gateway Pundit a publié un titre indiquant que le tireur était associé à une « armée anti-Trump » (le message a depuis été supprimé).

Aucune de ces histoires n’a été extraite. Et les motivations du tueur n’ont toujours pas été vérifiées dans les jours qui ont suivi la fusillade.

Mais chaque fois qu’un lecteur rencontre une de ces histoires sur Facebook, Google ou vraiment n’importe où, cela fait une impression subtile. Chaque fois, l’histoire devient plus familière. Et cette familiarité jette l’illusion de la vérité.

Les travaux récents et historiques en psychologie montrent que la simple exposition aux fausses nouvelles les fait se propager. Pour comprendre pourquoi – et dans quelle mesure de fausses histoires s’infiltrent dans nos cerveaux — nous devons comprendre la psychologie de l’effet de vérité illusoire.

Plus nous entendons une information répétée, plus nous sommes susceptibles de la croire. « Même les choses que les gens ont des raisons de ne pas croire, ils les croient davantage » si les affirmations sont répétées, dit Gord Pennycook, un psychologue qui étudie la propagation de la désinformation à l’Université de Yale.

Et des recherches récentes montrent que l’effet de vérité illusoire est en jeu lorsque nous entendons ou lisons de fausses nouvelles répétées, peu importe à quel point elles semblent ridicules ou illogiques.

C’est une recherche avec laquelle Google et Facebook doivent lutter en tant qu’organisations médiatiques les plus puissantes du monde. Facebook a récemment admis aux enquêteurs du Congrès que des agents de désinformation russes avaient atteint 126 millions de personnes en utilisant leur plate-forme. On ne sait pas à quel point ces publications ont eu un impact sur la politique américaine et l’opinion publique. Mais il ressort clairement de la recherche psychologique: une fois que les mensonges sont répétés, ils sont très difficiles à éliminer.

L’effet de vérité illusoire, expliqué

L’effet de vérité illusoire est étudié depuis des décennies — les premières citations remontent aux années 1970.En règle générale, les expérimentateurs de ces études demandent aux participants d’évaluer une série d’affirmations comme vraies ou fausses. Des heures, des semaines, voire des mois plus tard, les expérimentateurs ramènent les participants pour un quiz.

Lors de cette deuxième visite, certaines déclarations sont nouvelles et d’autres sont répétées. Et c’est ici que l’effet se montre: Les participants sont plus susceptibles d’évaluer de manière fiable les déclarations qu’ils ont déjà vues comme étant vraies, qu’elles le soient ou non.

Lorsque vous entendez quelque chose pour la deuxième ou la troisième fois, votre cerveau devient plus rapide pour y répondre. « Et votre cerveau attribue mal cette aisance comme un signal pour que cela soit vrai », explique Lisa Fazio, psychologue qui étudie l’apprentissage et la mémoire à l’Université Vanderbilt. Plus vous entendrez quelque chose, plus vous aurez le sentiment que c’est peut-être vrai. »

La plupart du temps, cette heuristique mentale — un raccourci de pensée — nous aide. Nous n’avons pas besoin de nous creuser la tête chaque fois que nous entendons « la Terre est ronde » pour décider si c’est vrai ou non. La plupart des choses que nous entendons répéter encore et encore sont, en effet, vraies. Mais les mensonges peuvent également détourner ce tic mental.

Plus nous rencontrons de fausses nouvelles, plus nous avons de chances d’y croire

Historiquement, les psychologues ont étudié l’effet de vérité illusoire avec des sujets d’importance insignifiante. Une étude dans les années 1970 a testé l’expression « Les joueurs de cor français reçoivent des bonus en espèces pour rester dans l’armée américaine. »

Pennycook et son collègue David Rand à Yale mettent à jour ces tests pour mieux comprendre la propagation de la désinformation dans le monde réel, recréant ces expériences classiques avec de faux titres de presse arrachés à la campagne présidentielle de 2016.

Dans une étude récente, les participants se sont vus montrer six titres de nouvelles réels et six faux – et ont été interrogés sur leur exactitude. Les titres ont été faits pour ressembler à des publications Facebook.

Voici quelques-uns des faux.

Et les vrais.

Après avoir évalué les titres, les participants ont été distraits par une autre tâche (non pertinente pour l’expérience) pendant un certain temps. Après, les participants ont reçu une liste de titres 24 à évaluer, qui comprenait toutes les fausses nouvelles qu’ils avaient vues plus tôt.

Pennycook a pu reproduire la conclusion classique: Lorsque les participants avaient été exposés à un titre de fausse nouvelle auparavant, ils étaient plus susceptibles de l’accepter comme vérité plus tard.

« Nous avons trouvé essentiellement le même effet, ce qui était surprenant car les histoires que nous utilisons sont vraiment assez invraisemblables, comme « le mariage de Mike Pence a été sauvé par une thérapie de conversion gay » », explique Pennycook. L’effet ne s’est pas limité aux républicains ou aux démocrates dans le vaste échantillon de l’étude. Et un test de suivi a révélé que l’effet persistait une semaine plus tard.

L’effet n’est pas énorme, mais il est significatif.

L’une des fausses nouvelles utilisées dans l’étude était « Trump pour interdire Toutes les émissions de télévision qui Promeuvent l’Activité gay En commençant par Empire en tant que Président. »

Si un groupe de participants ne l’avait pas vu auparavant, environ 5% ont déclaré qu’il était exact. Si le groupe de participants l’avait déjà vu à un stade plus précoce de l’expérience, environ 10% ont déclaré qu’il était exact. C’est deux fois plus de gens qui conviennent qu’un titre extravagant est véridique.

Et même si le changement est faible, pensez à ceci: Facebook et Google atteignent à peu près toutes les personnes aux États-Unis. Une augmentation de 5% du nombre de personnes affirmant qu’un titre de fausse nouvelle est vrai représente des millions de personnes.

Cependant, ayez une certaine foi: Pennycook a trouvé que des déclarations vraiment scandaleuses comme « la Terre est un carré » n’ont pas été acceptées à répétition.

Je dois mentionner: Le travail de Pennycook n’a été publié qu’en préimpression, ce qui signifie qu’il n’a pas encore fait l’objet d’un examen par les pairs. Traitez donc ces résultats comme préliminaires. Son équipe a préenregistré la conception de l’étude, ce qui constitue une garantie pour garantir des résultats objectifs. Mais d’autres études ont trouvé des résultats similaires.

En 2012, un article à petite échelle publié dans le Journal of Psychology d’Europe a constaté que « l’exposition à de fausses nouvelles augmentait la plausibilité et la véracité perçues de ces histoires. »L’étude a demandé aux participants de lire des nouvelles inventées (mais pas totalement farfelues) – comme celle sur un projet de loi californien visant à limiter le nombre de cartes de crédit qu’une personne endettée pourrait posséder. Cinq semaines plus tard, ils étaient plus susceptibles d’évaluer ces fausses histoires comme étant véridiques par rapport à un groupe de participants qui n’avaient jamais vu ces histoires auparavant.

Étudier un sujet n’est pas susceptible d’aider

La vérité frustrante sur l’effet de vérité illusoire est que cela nous arrive de manière irréfléchie. Même les personnes qui connaissent très bien les sujets peuvent en être la proie.

Et cela peut arriver que nous ayons ou non des connaissances préalables sur un sujet. En 2015, Fazio et ses coauteurs ont publié un article selon lequel les connaissances préalables sur un sujet ne vous inoculent pas à cet effet.

Dans son étude, les participants qui connaissaient des faits tels que « les kilts sont les jupes que portent les hommes écossais » sont devenus plus douteux s’ils lisaient: « Les saris sont les jupes que portent les hommes écossais. »Et ils sont devenus encore plus douteux s’ils lisaient, « Les saris sont les jupes que portent les hommes écossais », pour la deuxième fois. (Les participants ont évalué la véracité des déclarations sur une échelle de 1 à 6.)

Fazio souligne que ce n’est pas que les gens changent complètement leur compréhension des coutumes de la mode écossaise en lisant une phrase. Mais le doute commence à s’infiltrer. « Ils sont passés de « définitivement faux » à « probablement faux » », dit-elle. Chaque fois qu’un mensonge est répété, il semble légèrement plus plausible pour certaines personnes.

Nos souvenirs sont très enclins à mélanger des informations réelles et fausses

La recherche ici suggère que même lorsqu’il y a des vérifications des faits autour des allégations de conneries, l’effet de vérité illusoire influence toujours nos souvenirs pour confondre faits et fiction.

C’est parce que nos souvenirs ne sont pas si bons. Récemment, j’ai eu une conversation avec Roddy Roediger, l’un des plus grands experts du pays en matière d’apprentissage et de mémoire. Dans ses expériences, il montre comment même de petites suggestions des autres peuvent nous pousser à nous souvenir différemment de scènes entières et d’expériences. Et nous avons tendance à nous souvenir négligemment d’événements comme des reportages.

« Quand vous voyez un reportage qui répète la désinformation et essaie ensuite de la corriger, vous pourriez avoir des gens qui se souviennent de la désinformation parce que c’est vraiment surprenant et intéressant, et qui ne se souviennent pas de la correction », a déclaré Roediger, psychologue à l’Université Washington à Saint Louis.

La plupart des fausses nouvelles et des canulars qui ont suivi la fusillade de Las Vegas impliquaient que le tireur ciblait spécifiquement les partisans conservateurs de Trump. Cela peut également s’avérer collant. Stéréotypiquement, nous pouvons considérer les fans de musique country comme des partisans de Trump.

Il n’y a pas de solution facile à ce problème

Dans un bras de son expérience, Pennycook a même mis un avertissement autour des faux titres des nouvelles lorsque les participants les ont lus pour la première fois. « Contesté par des vérificateurs de faits tiers », lit-on dans la note (qui est le libellé exact de Facebook pour la façon dont il étiquette les histoires douteuses). L’avertissement n’a fait aucune différence.

« Nous avons essentiellement dit’ « C’est quelque chose que vous ne devriez pas croire » », dit-il. Mais les participants ont par la suite toujours estimé que ces titres étaient plus précis que ceux qu’ils n’avaient jamais vus auparavant.

Pennycook et Rand ont suivi avec un autre article pour déterminer si les avertissements de Facebook pourraient avoir un effet sur la perception par les lecteurs d’un article de presse comme étant exact. Rand explique que les avertissements ont légèrement diminué les cotes de précision — mais pas dans la mesure où ils ont surmonté l’effet de vérité illusoire. « La taille de cette diminution est plus petite que l’augmentation que vous obtenez simplement après l’avoir vue », dit-il. « Donc, ce que cela signifie, c’est de voir un article avec une étiquette contestée dessus vous laisse toujours un peu plus enclin à croire que c’est vrai que de ne pas l’avoir vu du tout. »

L’expérience était assez simple: les participants ont vu un éventail de titres de nouvelles réels et faux, sans avertissements ou avec les avertissements ajoutés. On leur a simplement demandé d’indiquer à quel point ils pensaient que les gros titres étaient exacts. (Une mise en garde ici: Facebook n’a pas été réalisé sur Facebook lui-même, mais sur une enquête Web conçue pour ressembler à Facebook. Mais comme le dit Pennycook, Facebook n’a pas rendu publiques les données sur l’efficacité de ses avertissements.)

Facebook et Google doivent renforcer leur rôle d’éditeurs de nouvelles

Les enjeux sont extrêmement importants, la démocratie elle-même étant attaquée. De plus en plus, il est prouvé que le gouvernement russe a utilisé Facebook pour cibler les Américains avec de la désinformation et des messages pour semer l’agitation lors des élections de 2016. Facebook a rendu les choses faciles.

« Ces entreprises sont les gardiens de l’information les plus puissants que le monde ait jamais connus, et pourtant elles refusent d’assumer la responsabilité de leur rôle actif dans la dégradation de la qualité de l’information qui parvient au public », écrit Alexis Madrigal dans the Atlantic. Il nous demande d’imaginer: Et si un journal avait fait cela?

Facebook, Google, Twitter et d’autres formes de médias sociaux sont les journaux d’aujourd’hui. Ils doivent prendre plus au sérieux la diffusion de la désinformation sur leurs plateformes. Ils doivent renforcer leur rôle d’éditeur de nouvelles quasi omniprésent.

Nous ne sommes pas des moutons. Ce n’est pas comme si nous croirions tout ce que nous lisons sur Facebook. L’effet de la désinformation sur nos esprits est beaucoup plus subtil; cela fonctionne à la marge. Mais dans le monde d’aujourd’hui, où quelques plateformes dominent le partage d’informations, les marges sont énormes, remplies de millions et influentes.