Vetenskapen bakom varför falska nyheter är så svårt att utplåna

i omedelbar efterdyning av oktober 1 natt massakern i Las Vegas, Facebook och Google — de två största distributörerna av nyheter och information i världen — bidragit till att sprida desinformation.

i sina” top stories ” presenterade Google ett 4chan — forum — ett anonymt meddelandekort som är ökänt för att driva konspirationsteorier-som felidentifierade skytten som en demokrat med band till vänster, antifascistiska grupper, som Buzzfeeds Ryan Broderick fick reda på. På Facebook presenterade” trending stories ” artiklar om skytten från Sputnik, ett ryskt propagandautlopp, noterade en New York Times-reporter.

och det är bara början: ett otaligt antal andra bitar av användargenererad felinformation och hoaxes på skytte sprids fritt på sociala medier. (Broderick sammanställde många av bluffarna i en lista här.)

webbplatsen Fringe conspiracy theory Infowars körde en rubrik som föreslog mördaren specifikt riktade konservativa. Och som Broderick chronicled, körde den högra högra webbplatsen Gateway Pundit en rubrik som sa att skytten var associerad med en ”anti-Trump army” (posten har sedan tagits bort).

ingen av dessa berättelser checkade ut. Och mördarens motiv har fortfarande inte verifierats i dagarna sedan skottet.

men varje gång en läsare möter en av dessa berättelser på Facebook, Google eller verkligen var som helst, gör det ett subtilt intryck. Varje gång blir historien mer bekant. Och den förtrogenheten kastar illusionen av sanning.

det senaste och historiska arbetet inom psykologi visar bara exponering för falska nyheter gör att det sprids. För att förstå varför — och i vilken utsträckning falska berättelser sipprar in i våra hjärnor — måste vi förstå psykologin för den illusoriska sanningseffekten.

ju mer vi hör en del information upprepas, desto mer är det troligt att vi tror på det. ”Även saker som människor har anledning att inte tro, de tror dem mer” om kraven upprepas, säger Gord Pennycook, en psykolog som studerar spridningen av felinformation vid Yale University.

och ny forskning visar att den illusoriska sanningseffekten är i spel när vi hör eller läser falska nyhetsanspråk upprepade, oavsett hur löjligt eller ologiskt de låter.

det är forskning Google och Facebook måste brottas med som världens mest kraftfulla medieorganisationer. Facebook erkände nyligen för Kongressutredare att ryska felinformationsagenter nådde 126 miljoner människor som använde sin plattform. Det är oklart hur mycket av en inverkan dessa inlägg har haft på amerikansk politik och den allmänna opinionen. Men det framgår av den psykologiska forskningen: när falskheter upprepas är de mycket svåra att utplåna.

den illusoriska sanningseffekten, förklarad

den illusoriska sanningseffekten har studerats i årtionden-de första citaten går tillbaka till 1970-talet. vanligtvis ber experimenter i dessa studier deltagarna att betygsätta en serie trivia-uttalanden som sanna eller falska. Timmar, veckor eller till och med månader senare tar experimenterna tillbaka deltagarna igen för en frågesport.

vid det andra besöket är några av uttalandena nya och vissa är upprepningar. Och det är här som effekten visar sig: Deltagarna är tillförlitligt mer benägna att betygsätta uttalanden som de har sett tidigare som sanna — oavsett om de är det.

När du hör något för andra eller tredje gången blir din hjärna snabbare att svara på det. ”Och din hjärna misattributes att flyt som en signal för att det är sant”, säger Lisa Fazio, en psykolog som studerar lärande och minne vid Vanderbilt University. Ju mer du hör något, ju mer ” du kommer att ha denna känsla på gut-nivå att det kanske är sant.”

För det mesta hjälper denna mentala heuristik — en tänkande genväg — oss. Vi behöver inte racka våra hjärnor varje gång vi hör ”jorden är Rund” för att bestämma om det är sant eller inte. De flesta av de saker vi hör upprepas om och om igen är verkligen sanna. Men falskheter kan också kapa denna mentala tic.

ju mer vi stöter på falska nyheter, desto mer sannolikt är vi att tro det

historiskt har psykologer studerat den illusoriska sanningseffekten med ämnen av trivial betydelse. En studie på 1970-talet testade frasen ”French horn-spelare får kontantbonusar för att stanna i US Army.”Pennycook och hans kollega David Rand på Yale uppdaterar dessa tester för att bättre förstå spridningen av felinformation i den verkliga världen och återskapar dessa klassiska experiment med falska nyhetsrubriker som rippats från presidentkampanjen 2016.

i en ny studie visades deltagarna sex riktiga och sex falska nyhetsrubriker-och frågades om hur exakta de var. Rubrikerna gjordes för att se ut som Facebook-inlägg.

Här är några av de falska.

och de riktiga.

efter utvärdering av rubrikerna blev deltagarna distraherade med en annan uppgift (inte relevant för experimentet) ett tag. Efter, deltagarna fick en lista över 24 rubriker för att utvärdera, som inkluderade alla falska nyheter de såg tidigare.

Pennycook kunde replikera det klassiska fyndet: när deltagarna hade blivit utsatta för en falsk nyhetsrubrik tidigare var de mer benägna att acceptera det som sanning senare.

”Vi hittade i huvudsak samma effekt, vilket var överraskande eftersom de historier som vi använder är verkligen ganska otroliga, som” Mike Pences äktenskap räddades av gaykonverteringsterapi”, säger Pennycook. Effekten var inte begränsad till Republikaner eller Demokrater i studiens stora urval. Och ett uppföljningstest avslöjade effekten kvarstod en vecka senare.

effekten är inte enorm, men den är meningsfull.en av de falska nyhetsrubrikerna som användes i studien var ” Trump att förbjuda alla TV-program som främjar Gayaktivitet som börjar med Empire som President.”

om en grupp deltagare inte hade sett det tidigare sa cirka 5 procent att det var korrekt. Om gruppen av deltagare hade sett det tidigare i ett tidigare skede av experimentet, sa cirka 10 procent att det var korrekt. Det är dubbelt så många som håller med om en outlandish rubrik är sanningsenlig.

och medan förändringen är liten, tänk på det här: Facebook och Google når nästan alla människor i USA. En 5-procentig ökning av antalet personer som säger att en falsk nyhetsrubrik är sant representerar miljontals människor.

men har viss tro: Pennycook hittade verkligen, verkligen upprörande uttalanden som” jorden är en kvadrat ” fick inte acceptans med upprepning.

Jag bör nämna: Pennycooks arbete har bara publicerats i preprint-form, vilket innebär att det ännu inte har gått igenom peer review. Så behandla dessa resultat som preliminära. Hans team gjorde förregistrera studiedesignen, vilket är ett skydd för att säkerställa objektiva resultat. Men andra studier har hittat liknande resultat.

i 2012 fann en liten uppsats i Europas Journal of Psychology att ” exponering för falska nyheter ökade den upplevda plausibiliteten och sanningsenheten hos dessa berättelser.”Studien hade deltagarna läst färdiga (men inte helt outlandish) nyhetsberättelser — som en på en Kalifornien-räkning för att begränsa antalet kreditkort som en skuldsatt person kunde äga. Fem veckor senare, de var mer benägna att bedöma dessa falska berättelser som sanningsenliga jämfört med en grupp deltagare som aldrig hade sett dessa berättelser tidigare.

att studera ett ämne kommer sannolikt inte att hjälpa

den frustrerande sanningen om den illusoriska sanningseffekten är att det händer oss otänkbart. Även människor som är mycket kunniga om ämnen kan falla offer för det.

och det kan hända om vi har några förkunskaper om ett ämne eller inte. År 2015 publicerade Fazio och medförfattare ett papper som fann förkunskaper om ett ämne inokulerar dig inte till effekten.i sin studie blev deltagare som visste fakta som ”kilts är kjolarna som skotska män bär” mer tveksamma om de läste, ”Saris är kjolarna skotska män bär.”Och de blev ännu mer tveksamma om de läste, ”Saris är kjolarna skotska män bär,” för andra gången. (Deltagarna bedömde sanningsenligheten av uttalandena på en skala från 1 till 6.)

Fazio betonar att det inte är så att människor helt ändrar sin förståelse för skotska modetullar genom att läsa en mening. Men tvivel börjar krypa in. ”De flyttade från” definitivt falskt ”till” förmodligen falskt”, säger hon. Varje gång en lögn upprepas verkar det lite mer troligt för vissa människor.

våra minnen är mycket benägna att blanda upp verklig och falsk information

forskningen här tyder på att även när det finns faktakontroller kring bullshit-påståenden, påverkar den illusoriska sanningseffekten fortfarande våra minnen för att förvirra fakta och fiktion.

det beror på att våra minnen inte är så bra. Nyligen hade jag ett samtal med Roddy Roediger, en av landets främsta experter på lärande och minne. I sina experiment visar han hur även små förslag från andra kan driva oss att komma ihåg hela scener och upplevelser annorlunda. Och vi tenderar att slarvigt komma ihåg händelser som nyhetsrapporter.

”När du ser en nyhetsrapport som upprepar felinformationen och sedan försöker rätta till den, kan du få folk att komma ihåg felinformationen eftersom det är verkligen överraskande och intressant och inte kommer ihåg korrigeringen”, sa Roediger, en psykolog vid Washington University i Saint Louis.

många av de falska nyhetsanspråk och hoaxes som följde Las Vegas skytte antydde att skytten specifikt riktade konservativa sinnade Trump supportrar. Det kan också visa sig vara klibbigt. Stereotypiskt kan vi tänka på countrymusikfans som Trump-supportrar.

det finns inte en lätt lösning på detta problem

i en arm av sitt experiment satte Pennycook till och med en varning kring de falska nyhetsrubrikerna när deltagarna först läste dem. ”Omtvistad av 3: e parts Faktakontrollers”, läste anteckningen (vilket är Facebook: s exakta formulering för hur det märker tvivelaktiga historier). Varningen gjorde ingen skillnad.

”vi sa i princip,” det här är något du inte borde tro”, säger han. Men deltagarna senare bedömde fortfarande dessa rubriker som mer exakta än de som de aldrig sett tidigare.Pennycook och Rand följde upp med ett annat papper som tittade på om Facebook: s varningar kunde ha någon effekt på huruvida läsarna uppfattar en nyhetsartikel som korrekt. Rand förklarar att varningarna minskade noggrannheten något — men inte i en utsträckning som den övervann den illusoriska sanningseffekten. ”Storleken på den minskningen är mindre än den ökning du får från att bara ha sett den”, säger han. ”Så vad det betyder är att se en artikel med en omtvistad tagg på det lämnar dig fortfarande lite mer benägen att tro att det är sant än att inte ha sett det alls.”

experimentet var ganska enkelt: deltagarna såg en rad verkliga och falska nyhetsrubriker antingen utan varningar eller med varningarna tillagda. De ombads helt enkelt att ange hur exakt de trodde rubrikerna var. (En varning här: Denna studie utfördes inte på Facebook själv, utan på en webbundersökning som var utformad för att se ut som Facebook. Men som Pennycook säger har Facebook inte gjort data om effektiviteten av sina varningar offentliga.)

Facebook och Google måste öka i sin roll som nyhetsutgivare

insatserna här är extremt höga, med demokratin själv under attack. I allt högre grad finns det bevis för att den ryska regeringen använde Facebook för att rikta amerikaner med felinformation och meddelanden för att så oro under 2016-valet. Facebook gör det enkelt.

”dessa företag är de mest kraftfulla informationsportvakterna som världen någonsin har känt, och ändå vägrar de att ta ansvar för sin aktiva roll för att skada kvaliteten på information som når allmänheten”, skriver Alexis Madrigal i The Atlantic. Han ber oss att föreställa oss: vad händer om en tidning hade gjort det här?Facebook, Google, Twitter och andra former av sociala medier är dagens tidningar. De måste ta spridningen av felinformation på sina plattformar mer allvarligt. De måste öka i sin roll som nästan allestädes närvarande nyhetsutgivare.

Vi är inte får. Det är inte som att vi tror på allt vi läser på Facebook. Effekten felinformation har på våra sinnen är mycket subtilare; det fungerar på marginalerna. Men i dagens värld, där några plattformar dominerar informationsdelning, är marginalerna enorma, fyllda med miljoner och inflytelserika.