Die Wissenschaft hinter warum Fake News so schwer auszulöschen sind

Posted on

Unmittelbar nach dem Massaker vom 1. Oktober in Las Vegas haben Facebook und Google — die beiden größten Verteiler von Nachrichten und Informationen in der Welt — dazu beigetragen, Fehlinformationen zu verbreiten.

In seinen „Top Stories“ zeigte Google ein 4chan—Forum — ein anonymes Forum, das für Verschwörungstheorien berüchtigt ist -, das den Schützen als Demokraten mit Verbindungen zu linken, antifaschistischen Gruppen falsch identifizierte, wie Ryan Broderick von BuzzFeed herausfand. Auf Facebook, „Trending Stories“ vorgestellten Artikel über den Schützen von Sputnik, eine russische Propaganda-Steckdose, ein New York Times Reporter bemerkt.

Und das ist erst der Anfang: Unzählige andere nutzergenerierte Fehlinformationen und Scherze über die Schießerei verbreiteten sich frei in den sozialen Medien. (Broderick hat hier viele der Scherze in einer Liste zusammengestellt.)

Die Fringe-Verschwörungstheorie-Website Infowars veröffentlichte eine Schlagzeile, die darauf hindeutete, dass der Mörder speziell auf Konservative abzielte. Und wie Broderick aufzeichnete, veröffentlichte die rechtsextreme Website Gateway Pandit eine Schlagzeile, in der es hieß, der Schütze sei mit einer „Anti-Trump-Armee“ in Verbindung gebracht worden (der Beitrag wurde seitdem entfernt).

Keine dieser Geschichten ausgecheckt. Und die Motive des Mörders wurden in den Tagen seit der Schießerei immer noch nicht überprüft.

Aber jedes Mal, wenn ein Leser auf Facebook, Google oder wirklich irgendwo auf eine dieser Geschichten stößt, macht es einen subtilen Eindruck. Jedes Mal wird die Geschichte vertrauter. Und diese Vertrautheit wirft die Illusion der Wahrheit.Neuere und historische Arbeiten in der Psychologie zeigen, dass die bloße Exposition gegenüber gefälschten Nachrichten die Verbreitung fördert. Um zu verstehen, warum – und inwieweit falsche Geschichten in unser Gehirn eindringen – müssen wir die Psychologie des illusorischen Wahrheitseffekts verstehen.

Je öfter wir eine Information wiederholt hören, desto wahrscheinlicher ist es, dass wir sie glauben. „Selbst Dinge, die Menschen Grund haben, nicht zu glauben, glauben sie ihnen mehr“, wenn die Behauptungen wiederholt werden, sagt Gord Pennycook, ein Psychologe, der die Verbreitung von Fehlinformationen an der Yale University untersucht.Und neuere Forschungen zeigen, dass der illusorische Wahrheitseffekt im Spiel ist, wenn wir gefälschte Nachrichten hören oder lesen, unabhängig davon, wie lächerlich oder unlogisch sie klingen.

Es ist Forschung Google und Facebook müssen mit als die mächtigsten Medienorganisationen der Welt ringen. Facebook gab kürzlich gegenüber Ermittlern des Kongresses zu, dass russische Desinformationsagenten über ihre Plattform 126 Millionen Menschen erreicht haben. Es ist unklar, wie viel Einfluss diese Beiträge auf die amerikanische Politik und die öffentliche Meinung hatten. Aber es ist klar aus der psychologischen Forschung: sobald Unwahrheiten wiederholt werden, sind sie sehr schwer auszulöschen.

Der illusorische Wahrheitseffekt, erklärt

Der illusorische Wahrheitseffekt wird seit Jahrzehnten untersucht — die ersten Zitate stammen aus den 1970er Jahren. Typischerweise bitten Experimentatoren in diesen Studien die Teilnehmer, eine Reihe von Trivia-Aussagen als wahr oder falsch zu bewerten. Stunden, Wochen oder sogar Monate später bringen die Experimentatoren die Teilnehmer für ein Quiz wieder zurück.

Bei diesem zweiten Besuch sind einige der Aussagen neu und einige wiederholen sich. Und hier zeigt sich der Effekt: Die Teilnehmer bewerten Aussagen, die sie zuvor gesehen haben, zuverlässiger als wahr — unabhängig davon, ob sie es sind.

Wenn Sie etwas zum zweiten oder dritten Mal hören, reagiert Ihr Gehirn schneller darauf. „Und Ihr Gehirn schreibt diese Geläufigkeit falsch als Signal dafür zu, dass es wahr ist“, sagt Lisa Fazio, Psychologin, die Lernen und Gedächtnis an der Vanderbilt University studiert. Je mehr du etwas hörst, desto mehr „wirst du dieses Bauchgefühl haben, dass es vielleicht wahr ist.“

Meistens hilft uns diese mentale Heuristik — eine Denkverknüpfung. Wir müssen uns nicht jedes Mal den Kopf zerbrechen, wenn wir „Die Erde ist rund“ hören, um zu entscheiden, ob es wahr ist oder nicht. Die meisten Dinge, die wir immer wieder hören, sind in der Tat wahr. Aber Unwahrheiten können diesen mentalen Tic auch entführen.

Je mehr wir auf Fake News stoßen, desto wahrscheinlicher ist es, dass wir es glauben

Historisch haben Psychologen den illusorischen Wahrheitseffekt mit Themen von trivialer Bedeutung untersucht. Eine Studie in den 1970er Jahren testete den Satz „Waldhornisten erhalten Geldprämien, um in der US-Armee zu bleiben.“Pennycook und sein Kollege David Rand in Yale aktualisieren diese Tests, um die Verbreitung von Fehlinformationen in der realen Welt besser zu verstehen und diese klassischen Experimente mit gefälschten Schlagzeilen aus der Präsidentschaftskampagne 2016 nachzubilden.

In einer aktuellen Studie wurden den Teilnehmern sechs echte und sechs gefälschte Schlagzeilen gezeigt — und gefragt, wie genau sie waren. Die Schlagzeilen wurden so gestaltet, dass sie wie Facebook-Posts aussehen.

Hier sind einige der gefälschten.

Und die echten.

Nach Auswertung der Überschriften wurden die Teilnehmer für eine Weile mit einer anderen (für das Experiment nicht relevanten) Aufgabe abgelenkt. Nach dem, Die Teilnehmer erhielten eine Liste von 24 Schlagzeilen zu bewerten, Dazu gehörten alle gefälschten Nachrichten, die sie zuvor gesehen hatten.Pennycook war in der Lage, den klassischen Befund zu replizieren: Wenn die Teilnehmer zuvor einer gefälschten Schlagzeile ausgesetzt waren, akzeptierten sie diese später eher als Wahrheit.

Wenn die Teilnehmer mit einer gefälschten Schlagzeile vertraut waren, bewerteten sie diese eher als wahr.“Wir fanden im Wesentlichen den gleichen Effekt, was überraschend war, weil die Geschichten, die wir verwenden, wirklich ziemlich unplausibel sind, wie „Mike Pences Ehe wurde durch schwule Konversionstherapie gerettet“, sagt Pennycook. Der Effekt war nicht auf Republikaner oder Demokraten in der großen Stichprobe der Studie beschränkt. Und ein Follow-up-Test ergab, dass der Effekt eine Woche später anhielt.

Der Effekt ist nicht riesig, aber sinnvoll.Eine der in der Studie verwendeten gefälschten Schlagzeilen lautete: „Trump verbietet alle Fernsehsendungen, die schwule Aktivitäten fördern, beginnend mit Empire als Präsident.“

Wenn eine Gruppe von Teilnehmern es noch nie gesehen hätte, sagten etwa 5 Prozent, es sei genau. Wenn die Gruppe der Teilnehmer es zuvor in einem früheren Stadium des Experiments gesehen hatte, sagten rund 10 Prozent, es sei genau. Das sind doppelt so viele Leute, die zustimmen, dass eine ausgefallene Überschrift wahr ist.

Und während die Änderung klein ist, denken Sie darüber nach: Facebook und Google erreichen fast jede Person in den Vereinigten Staaten. Ein 5-prozentiger Anstieg der Zahl der Menschen, die sagen, dass eine gefälschte Schlagzeile wahr ist, repräsentiert Millionen von Menschen.Obwohl Sie etwas Vertrauen haben: Pennycook fand wirklich, wirklich empörende Aussagen wie „Die Erde ist ein Quadrat“, die durch Wiederholung keine Akzeptanz fanden.

Ich sollte erwähnen: Pennycooks Arbeit wurde nur in Preprint-Form veröffentlicht, was bedeutet, dass sie noch nicht von Experten begutachtet wurde. Behandeln Sie diese Ergebnisse also als vorläufig. Sein Team hat das Studiendesign vorab registriert, was ein Schutz für objektive Ergebnisse ist. Aber andere Studien haben ähnliche Ergebnisse gefunden.

Im Jahr 2012 fand ein kleinformatiger Artikel im European Journal of Psychology heraus, dass „die Exposition gegenüber falschen Nachrichten die wahrgenommene Plausibilität und Wahrhaftigkeit dieser Geschichten erhöhte.“ Die Studie ließ die Teilnehmer erfundene (aber nicht völlig ausgefallene) Nachrichten lesen — wie eine auf einer kalifornischen Rechnung, um die Anzahl der Kreditkarten zu begrenzen, die eine verschuldete Person besitzen könnte. Fünf Wochen später bewerteten sie diese falschen Geschichten eher als wahr im Vergleich zu einer Gruppe von Teilnehmern, die diese Geschichten noch nie zuvor gesehen hatten.

Sich mit einem Thema zu befassen, hilft wahrscheinlich nicht weiter

Die frustrierende Wahrheit über den illusorischen Wahrheitseffekt ist, dass es uns gedankenlos passiert. Selbst Menschen, die sich mit Themen auskennen, können davon betroffen sein.

Und es kann passieren, ob wir Vorkenntnisse über ein Thema haben oder nicht. Im Jahr 2015 veröffentlichten Fazio und Co-Autoren ein Papier, in dem festgestellt wurde, dass Vorkenntnisse zu einem Thema Sie nicht impfen.In ihrer Studie wurden Teilnehmer, die Fakten wie „Kilts sind die Röcke, die schottische Männer tragen“ kannten, zweifelhafter, wenn sie lasen: „Saris sind die Röcke, die schottische Männer tragen.“ Und sie wurden noch zweifelhafter, wenn sie zum zweiten Mal lasen: „Saris sind die Röcke, die schottische Männer tragen“. (Die Teilnehmer bewerteten die Wahrhaftigkeit der Aussagen auf einer Skala von 1 bis 6.)

Fazio betont, dass es nicht so ist, dass die Leute ihr Verständnis der schottischen Modebräuche komplett ändern, indem sie einen Satz lesen. Aber der Zweifel beginnt sich einzuschleichen. „Sie bewegten sich von“definitiv falsch“zu“wahrscheinlich falsch““, sagt sie. Jedes Mal, wenn eine Lüge wiederholt wird, erscheint sie manchen Menschen etwas plausibler.

Unsere Erinnerungen neigen sehr dazu, echte und falsche Informationen zu vermischen

Die Forschung hier legt nahe, dass selbst wenn es Faktenchecks um Bullshit-Behauptungen gibt, der illusorische Wahrheitseffekt unsere Erinnerungen immer noch beeinflusst, um Fakten und Fiktion zu verwechseln.

Es liegt daran, dass unsere Erinnerungen nicht so toll sind. Kürzlich hatte ich ein Gespräch mit Roddy Roediger, einem der führenden Experten des Landes für Lernen und Gedächtnis. In seinen Experimenten zeigt er, wie schon kleine Vorschläge von anderen uns dazu bringen können, uns an ganze Szenen und Erfahrungen anders zu erinnern. Und wir neigen dazu, uns schlampig an Ereignisse wie Nachrichtenberichte zu erinnern.“Wenn Sie einen Nachrichtenbericht sehen, der die Fehlinformationen wiederholt und dann versucht, sie zu korrigieren, könnten sich die Leute an die Fehlinformationen erinnern, weil es wirklich überraschend und interessant ist und sich nicht an die Korrektur erinnert“, sagte Roediger, Psychologe an der Washington University in Saint Louis, sagte.Viele der Fake-News-Behauptungen und Hoaxes, die auf die Schießerei in Las Vegas folgten, implizierten, dass der Schütze speziell auf konservativ gesinnte Trump-Anhänger abzielte. Das kann sich auch als klebrig erweisen. Stereotyp können wir uns Country-Musikfans als Trump-Anhänger vorstellen.

Es gibt keine einfache Lösung für dieses Problem

In einem Arm seines Experiments hat Pennycook sogar eine Warnung um die gefälschten Schlagzeilen gelegt, als die Teilnehmer sie zum ersten Mal lasen. „Umstritten von 3rd-Party-Faktenprüfern“, heißt es in der Notiz (die Facebooks genaue Formulierung für die Kennzeichnung zweifelhafter Geschichten ist). Die Warnung machte keinen Unterschied.

„Wir haben im Grunde gesagt: ‚Das ist etwas, was du nicht glauben solltest'“, sagt er. Aber die Teilnehmer bewerteten diese Schlagzeilen später immer noch als genauer als diejenigen, die sie noch nie zuvor gesehen hatten.Pennycook und Rand folgten mit einem anderen Papier, in dem untersucht wurde, ob die Warnungen von Facebook Auswirkungen darauf haben könnten, ob Leser einen Nachrichtenartikel als korrekt wahrnehmen. Rand erklärt, dass die Warnungen die Genauigkeitsbewertungen leicht verringert haben – aber nicht in einem Maße, dass sie den illusorischen Wahrheitseffekt überwunden haben. „Die Größe dieser Abnahme ist kleiner als die Zunahme, die man bekommt, wenn man sie nur gesehen hat“, sagt er. „Also, was das bedeutet, ist, einen Artikel mit einem umstrittenen Tag zu sehen, der dich immer noch ein bisschen mehr geneigt macht zu glauben, dass es wahr ist, als es überhaupt nicht gesehen zu haben.“

Das Experiment war ziemlich einfach: Die Teilnehmer sahen eine Reihe von echten und gefälschten Schlagzeilen entweder ohne Warnungen oder mit den Warnungen hinzugefügt. Sie wurden einfach gebeten, anzugeben, wie genau sie die Schlagzeilen für richtig hielten. (Eine Einschränkung hier: Facebook selbst hat diese Studie nicht durchgeführt, sondern eine Web-Umfrage, die so gestaltet ist, dass sie wie Facebook aussieht. Aber wie Pennycook sagt, hat Facebook keine Daten über die Wirksamkeit seiner Warnungen veröffentlicht.)

Facebook und Google müssen ihre Rolle als Nachrichtenverleger stärken

Der Einsatz hier ist extrem hoch, da die Demokratie selbst angegriffen wird. Zunehmend gibt es Hinweise darauf, dass die russische Regierung Facebook nutzte, um Amerikaner mit Fehlinformationen und Nachrichten anzusprechen, um Unruhen während der Wahlen 2016 zu säen. Facebook hat es einfach gemacht.“Diese Unternehmen sind die mächtigsten Informations-Gatekeeper, die die Welt je gekannt hat, und dennoch weigern sie sich, Verantwortung für ihre aktive Rolle bei der Beschädigung der Qualität von Informationen zu übernehmen, die die Öffentlichkeit erreichen“, schreibt Alexis Madrigal in The Atlantic. Er bittet uns, uns vorzustellen: Was wäre, wenn eine Zeitung dies getan hätte?

Facebook, Google, Twitter und andere Formen sozialer Medien sind die Zeitungen von heute. Sie müssen die Verbreitung von Fehlinformationen auf ihren Plattformen ernster nehmen. Sie müssen ihre Rolle als nahezu allgegenwärtiger Nachrichtenverleger stärken.

Wir sind keine Schafe. Es ist nicht so, dass wir alles glauben, was wir auf Facebook lesen. Die Wirkung von Fehlinformationen auf unseren Geist ist viel subtiler; es funktioniert am Rande. Aber in der heutigen Welt, in der einige wenige Plattformen den Informationsaustausch dominieren, sind die Margen riesig, mit Millionen gefüllt und einflussreich.Millionen wenden sich an Vox, um zu verstehen, was in den Nachrichten passiert. Unsere Mission war noch nie so wichtig wie in diesem Moment: durch Verständnis stärken. Finanzielle Beiträge unserer Leser sind ein wichtiger Teil unserer ressourcenintensiven Arbeit und helfen uns, unseren Journalismus für alle frei zu halten. Helfen Sie uns, unsere Arbeit für alle kostenlos zu halten, indem Sie einen finanziellen Beitrag von nur 3 US-Dollar leisten.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.