Grå Goo Scenarier og Hvordan Du Kan Unngå dem

utsiktene til selvrepliserende nanoboter som fortærer jorden er en skremmende, faktisk. Men Som Idea Couture foresight strateg Jayar LaFontaine forklarer, er det noen praktiske ting vi kan gjøre for å forhindre at slike mareritt skjer.

i et foredrag holdt i 1948 beskrev matematikeren John Von Neumann først potensialet for maskiner til å bygge perfekte kopier av seg selv ved hjelp av materiale hentet fra verden rundt dem. Nesten umiddelbart begynte folk å bekymre seg for hva som kunne skje hvis de aldri stoppet. Skrive tiår senere om vitenskapen om molekylær nanoteknologi-med andre ord, mikroskopisk små menneskeskapte maskiner-Eric Drexler ga denne bekymringen et navn: Gray Goo.Et Grått Goo-scenario fungerer noe slikt: Tenk deg et stykke selvrepliserende nanoteknologi produsert for en rent velvillig grunn. Si, en mikroorganisme designet for å rydde opp oljeflak ved å konsumere dem og skille ut noe godartet biprodukt. Så langt, så bra. Bortsett fra at organismen ikke ser ut til å skille mellom karbonatomer i oljeflaket og karbonatomer i havvegetasjonen, havfauna og mennesker rundt det så bra. Flash fremover noen få tusen generasjoner-kanskje ikke veldig lang tid i vår forestillede mikroorganismes livssyklus-og alt på Jorden som inneholder enda en flekk karbon, har blitt omgjort til et godartet, grått og gooey biprodukt av fordøyelsesprosessen.

Whoops.

En Viktig Moralsk Leksjon

I Grå Goo prosesser er innsatsen høy og trusselen om ruin er alltid overhengende, og derfor gjør de for å rippe gode science fiction garn. Men historier Om Gray Goo bærer også en viktig moralsk leksjon: en enkelt strategi – eller prosess eller ide-utviklet med god intensjon, men anvendt ukritisk eller klumpet, kan føre til katastrofalt negative konsekvenser som er nesten ustoppelige. Og Mens Grå Goo hendelser høres eksotisk, når vi satt til side snakk om runaway nanoteknologi, kan vi begynne å se ingrediensene i disse hendelsene i vår hverdag. Blant dem er idealistiske agenter med ufullkommen kunnskap, dårlig gjennomtenkte strategier og et fruktbart medium for å spre feil, og systemiske og selvforsterkende kaskadeeffekter.

ingen domene av menneskeliv er ugjennomtrengelig for risikoen For Grå Goo prosesser, men noen er bedre medier enn andre. En generell tommelfingerregel er at jo mer store, komplekse og sammenkoblede et domene er, jo mer utsatt Er Det For Grå Goo. Få domener passer bedre til denne beskrivelsen enn biologiske økosystemer: En leksjon som mennesker har måttet lære og relearn mange ganger i løpet av de siste hundre årene, der vi har forsøkt å introdusere arter i utenlandske økosystemer med ofte katastrofale resultater.innføringen av cane toads i Australia er et symbolsk eksempel på vår manglende evne til Å forutse de åpenbare risikoene For Grå Goo-prosesser. Etter at konvensjonelle metoder for skadedyrbekjempelse ikke klarte å redusere bestanden av biller som skadet sukkerrøravlinger, importerte Bureau Of Sugar Experiment Stations i 1935 cane toads fra Hawaii og sluppet dem ut i naturen i håp om at de ville bytte på insekter. Siden utgivelsen har cane toads raskt multiplisert i befolkningen og spredt seg over nordvestlige Australia. Nåværende estimater setter tallet over 200 millioner, og de har blitt klandret for spredning av sykdommer som negativt påvirker lokal fauna. En siste indignitet: Paddene ser ut til å ha hatt noen reell innvirkning på billebestandene de var ment å redusere.

Et annet domene som er florerer med potensialet For Grå Goo prosesser er verden av finans. Postmortemene fra finanskrisen i 2008 refererer ofte til den, i risikolæreren Nassim Talebs parlance, som En Svart Svanehendelse: en svært sjelden, men svært påvirkende serie hendelser som bare er åpenbare med fordel for etterpåklokskap. Sjelden og påvirker, ja-men ikke strengt tatt utover våre prediktive krefter. I hjertet var praksisen med sub-prime utlån: En Slags Grå Goo prosess bygget rundt den berusende blanding av goodwill og bare intensjoner om å spre boligeiendom, et kreditt miljø som muliggjorde enkel distribusjon og replikering av høyrisikolån, og en giftig opphopning av et biprodukt, unrepayable gjeld.Taleb selv har vendt sitt fokus til en diskusjon Av Grå Goo-lignende prosesser nylig, særlig ettersom de gjelder vitenskapen om dagens genmodifiserte organismer. Taleb mener risikoen knyttet til opprettelse og distribusjon av genmodifiserte organismer ikke er godt forstått eller verdsatt av forskere på feltet, som vanligvis er opplært i biologiske fag, og ikke i statistikk eller risikoanalyse. De er derfor tilbøyelige til å implementere tradisjonelle beslutningsstrategier som fokuserer på å redusere risikoen for skade, når de faktisk bør basere sine beslutninger på risikoen for total og irreversibel ødeleggelse.

en av de viktigste effektene av globalisering og sammenkoblingen aktivert av informasjonsteknologi er at alle menneskelige systemer blir stadig mer komplekse, og så mer og mer utsatt For De Grå Goo-effektene vi merker i domenet til biologiske økosystemer. Sammen med potensialet for dødelige asteroideangrep, gammastråleutbrudd og super vulkanutbrudd, Viser Future Of Humanity Institute Ved Oxford University – en tenketank dedikert til å vurdere risikoer som kan ende menneskeliv på Jorden – slike menneskeledede bestrebelser som kunstig intelligens, menneskeskapte klimaendringer og molekylær nanoteknologi blant sine sentrale forskningsområder. Trusselen Om Grå Goo og risikoen for ruin, synes det, er på vei oppover. Enten vi er opptatt av å justere måten vi tenker på risiko og tenker grundig på hvordan våre valg påvirker vår stadig mer komplekse verden, gjenstår å se.

Unngå Grå Goo Scenarier

La tankene dine vurdere det verste mulige resultatet. Er du fundamentalt grappling med risikoen for skade – faller kort av kvartalsvis inntjening, for eksempel, eller risikoen for ruin-som ødeleggelse av merkevaren egenkapital eller forbruker goodwill?

Ikke la rettferdighet sky din dom. Å handle i god tro og ha velvillige mål er ikke nok. Ingen farmasøytisk selskap har noen gang satt ut for å designe et stoff som dreper sine kunder. Som John Milton skrev: «lett er nedstigningen til Helvete, for den er brolagt med gode intensjoner.»

Vær ærlig med deg selv om hvor liten kontroll du har. Når du setter hjulene i bevegelse, hvor lett er det å bruke en bremsemekanisme, forutsatt at du har en? Og hvis du ikke har en, tror du ikke det ville være forsiktig hvis du gjorde det, bare i tilfelle?

ikke bruk en hammer for å gjøre en skrutrekker jobb. Å utarbeide et mangfold av verktøy og prosesser for å løse ulike utfordringer tar mer innsats, men det minimerer sannsynligheten for at du vil ende opp med å gjøre uopprettelig skade ved å prøve å være hensiktsmessig.

Inngjerdede hager er gode. Bruk dem. Hvis Bureau Of Sugar Experiment Stations hadde introdusert cane toads i et sikkert kabinett for å teste deres tilpasning til Det Australske miljøet før de slippes ut i naturen, ville kontinentet kanskje ikke bli overkjørt av de ubehagelige artene.

Som Avbildet I Science Fiction

Cat ‘ S Cradle, kurt Vonnegut

Vonnegut forestilte Seg en polymorf vann kalt Ice-Nine som umiddelbart ville konvertere alt vann det kom i kontakt med til en superstabil islignende formasjon. Opprinnelig utviklet for å hjelpe militære tropper marsjere over mucky terreng, polymorph ender opp med å konvertere alt vannet På Jorden Til Ice-Nine, skape en evig vinter.

Star Trek

I Star Trek universet, en rase av griske, zombie-lignende, kybernetiske skapninger kalt Borg forvandle enhver livsform de møter i Mer Borg ved å injisere dem med mikroskopiske nanoprobes. Deres intensjoner er, fra deres perspektiv, velvillige: å løfte primitive kulturer inn I Borg slik at de kan bli med i deres forsøk på å » oppnå fullkommenhet.»Resultatet er imidlertid en forferdelig form for teknologisk kollektivisme som helt undergraver individet og gjør dem til en agent for ubeskrivelig terror.Jayar La Fontaine er en senior framsyn strateg På Idea Couture. Han er basert I Toronto, Canada.

denne artikkelen opprinnelig dukket opp I MISC 2015: The Creative Process Issue og publiseres på io9 med tillatelse.

Toppbilde: Dagen Jorden Sto Stille