utsikterna att självreplikerande nanoboter slukar jorden är verkligen skrämmande. Men som Idea Couture framsynsstrateg Jayar LaFontaine förklarar, finns det några praktiska saker vi kan göra för att förhindra att sådana mardrömmar händer.
den här webbläsaren stöder inte videoelementet.
i en föreläsning som hölls 1948 beskrev matematikern John Von Neumann först potentialen för maskiner att bygga perfekta kopior av sig själva med hjälp av material som kommer från världen runt dem. Nästan omedelbart började folk oroa sig för vad som kan hända om de aldrig slutade. Skriva årtionden senare om vetenskapen om molekylär nanoteknik-med andra ord mikroskopiskt små konstgjorda maskiner – Eric Drexler gav denna oro ett namn: Gray Goo.
ett grå Goo-scenario fungerar ungefär så här: Föreställ dig en bit självreplikerande nanoteknik Tillverkad av en rent välvillig anledning. Säg, en mikroorganism som är utformad för att rensa upp oljeutsläpp genom att konsumera dem och utsöndra någon godartad biprodukt. Hittills, så bra. Förutom att organismen inte verkar skilja mellan kolatomerna i oljeslicken och kolatomerna i havsvegetationen, havsfena och människorna runt det så bra. Flash framåt några tusen generationer-kanske inte så länge i vår föreställda mikroorganisms livscykel-och allt på jorden som innehåller till och med en fläck kol har förvandlats till en godartad, grå och snygg biprodukt av dess matsmältningsprocess.
annons
Hoppsan.
en viktig moralisk lektion
I grå Goo-processer är insatserna höga och hotet om ruin är alltid överhängande, varför de gör för att rippa bra science fiction-garn. Men berättelser om Gray Goo har också en viktig moralisk lektion: en enda strategi – eller process eller IDE – utformad med god avsikt men tillämpad urskillningslöst eller klumpigt kan leda till katastrofalt negativa konsekvenser som är praktiskt taget ostoppbara. Och medan Gray Goo-händelser låter exotiska, när vi avsätter talet om runaway nanotechnology, kan vi börja se ingredienserna i dessa händelser i vår vardag. Bland dem är idealistiska agenter med ofullkomlig kunskap, dåligt genomtänkta strategier och ett bördigt medium för att sprida fel och systemiska och självförstärkande kaskadeffekter.
annons
ingen domän för mänskligt liv är ogenomtränglig för risken för grå Goo-processer, men vissa är bättre medier än andra. En allmän tumregel är att ju mer stor, komplex och sammankopplad en domän är, desto mer mottaglig är den för grå Goo. Få domäner passar bättre denna beskrivning än biologiska ekosystem: En lektion som människor har fått lära sig och lära sig många gånger under de senaste hundra åren, genom vilken vi har försökt introducera arter i främmande ekosystem med ofta katastrofala resultat.
införandet av sockerrörspaddar i Australien är ett emblematiskt exempel på vårt misslyckande att förutse de uppenbara riskerna med grå Goo-processer. Efter konventionella metoder för skadedjursbekämpning misslyckades med att minska befolkningen av skalbaggar som skadade sockerrörsgrödor, importerade Bureau of Sugar Experiment Stations 1935 sockerrörspaddar från Hawaii och släppte dem i naturen i hopp om att de skulle byta på insekterna. Sedan de släpptes har sockerrörspaddar snabbt multiplicerat i befolkningen och spridit sig över nordvästra Australien. Nuvarande uppskattningar sätter sitt antal över 200 miljoner, och de har fått skulden för spridningen av sjukdomar som negativt påverkar den lokala faunan. En slutlig indignity: Paddorna verkar inte ha haft någon verklig inverkan på skalbaggepopulationerna som de var avsedda att minska.
annons
en annan domän som är full av potentialen för grå Goo-processer är finansvärlden. Postmortems av finanskrisen 2008 hänvisar ofta till det, i riskforskaren Nassim Talebs språk, som en Black Swan-händelse: en ytterst sällsynt men starkt påverkande serie händelser som är uppenbara endast med förmån för efterhand. Sällsynt och påverkande, Ja – men inte strängt taget bortom våra prediktiva krafter. Kärnan var utövandet av subprime-utlåning: en slags grå Goo-process byggd kring den berusande blandningen av goodwill och bara avsikter att sprida husägare, en kreditmiljö som möjliggjorde enkel distribution och replikering av högrisklån och en giftig ackumulering av en biprodukt, oåterkallelig skuld.
Taleb själv har vänt sitt fokus till en diskussion om grå Goo-liknande processer nyligen, särskilt när de gäller vetenskapen om dagens genetiskt modifierade organismer. Taleb anser att riskerna i skapandet och distributionen av genetiskt modifierade organismer inte är väl förstådda eller uppskattade av forskare inom området, som vanligtvis är utbildade i Biologiska Vetenskaper, och inte i statistik eller riskanalys. De är därför benägna att använda traditionella beslutsstrategier som är inriktade på att mildra risken för skada, när de i själva verket borde basera sina beslut på risken för total och oåterkallelig förstörelse.
annons
en av de viktigaste effekterna av globaliseringen och sammankopplingen som möjliggörs av informationsteknologi är att alla mänskliga system blir alltmer komplexa och så mer och mer mottagliga för de grå Goo-effekterna vi märker inom biologiska ekosystem. Tillsammans med potentialen för dödliga asteroidstrejker, gammastrålningsbrott och super vulkanutbrott, the Future of Humanity Institute vid Oxford University – en tankesmedja dedikerad till att bedöma risker som kan sluta mänskligt liv på jorden – listar sådana mänskliga ledda strävanden som artificiell intelligens, antropogen klimatförändring och molekylär nanoteknik bland dess viktiga forskningsområden. Hotet om grå Goo och risken för förstörelse verkar öka. Huruvida vi klarar av utmaningen att anpassa hur vi tänker på risk och tänker noggrant på hur våra val påverkar vår alltmer komplexa värld återstår att se.
Undvik grå Goo-scenarier
låt ditt sinne överväga det värsta möjliga resultatet. Är du i grunden brottas med risken för skada-faller under kvartalsresultat, till exempel, eller risken för ruin – som förstörelsen av ditt varumärkes eget kapital eller konsument goodwill?
annons
låt inte rättfärdighet fördunkla ditt omdöme. Att agera i god tro och ha välvilliga mål är inte tillräckligt. Inget läkemedelsföretag bestämde sig någonsin för att designa ett läkemedel som dödar sina kunder. Som John Milton skrev: ”lätt är nedstigningen till helvetet, för den är belagd med goda avsikter.”
Var ärlig mot dig själv om hur lite kontroll du har. När du sätter hjulen i rörelse, hur lätt är det att använda en bromsmekanism, förutsatt att du har en? Och om du inte har en, Tror du inte att det skulle vara klokt om du gjorde det, bara i fallet?
annons
använd inte en hammare för att göra en skruvmejsel jobb. Att utforma en mångfald verktyg och processer för att ta itu med olika utmaningar kräver mer ansträngning, men det minimerar sannolikheten för att du kommer att göra irreparabel skada genom att försöka vara ändamålsenlig.
muromgärdade trädgårdar är bra. Använd dem. Om Bureau of Sugar Experiment Stations hade infört sockerrörspaddar i ett säkert hölje för att testa deras anpassning till den australiensiska miljön innan de släpptes ut i naturen, kanske kontinenten inte skulle överskridas av de motbjudande arterna.
annons
som avbildad i Science Fiction
Cat ’ s Cradle, Kurt Vonnegut
Vonnegut föreställde sig en polymorf av vatten som kallas Ice-Nine som omedelbart skulle omvandla allt vatten det kom i kontakt med till en superstabil isliknande formation. Ursprungligen utvecklad för att hjälpa militära trupper marschera över mucky terräng, slutar polymorfen att omvandla allt vatten på jorden till is-nio, vilket skapar en evig vinter.
annons
Star Trek
i Star Trek universum, en ras av rovgiriga, zombie-liknande, cybernetiska varelser som kallas Borg omvandla alla livsform de möter i mer Borg genom att injicera dem med mikroskopiska nanosonder. Deras avsikter är, ur deras perspektiv, välvillig: att lyfta primitiva kulturer i Borg så att de kan gå med i deras strävan att ”uppnå perfektion.”Resultatet är dock en fasansfull form av teknologisk kollektivism som helt underminerar individen och gör dem till en agent för outsäglig terror.
annons
Jayar La Fontaine är en senior framsynsstrateg på Idea Couture. Han är baserad i Toronto, Kanada.
den här artikeln publicerades ursprungligen i MISC 2015: the Creative Process Issue och publiceras på io9 med tillstånd.
annons
toppbild: dagen jorden stod stilla
annons