Gray Goo Scénáře a Jak se Jim Vyhnout

vyhlídka samoreplikující se nanoroboti požírají svět je děsivé, opravdu. Ale jak vysvětluje stratég Idea Couture foresight Jayar LaFontaine, existuje několik praktických věcí, které můžeme udělat, abychom zabránili takovým nočním můrám.

V přednášce přednesené v roce 1948, matematik John Von Neumann poprvé popsán potenciál pro stroje vybudovat dokonalé kopie sebe sama za použití materiálu vytěženého ze světa kolem nich. Téměř okamžitě se lidé začali obávat, co by se mohlo stát, kdyby se nikdy nezastavili. O desetiletí později psal o vědě o molekulární nanotechnologii-jinými slovy mikroskopicky malé umělé stroje – Eric Drexler dal této starosti jméno: Gray Goo.

scénář Gray Goo funguje asi takto: Představte si kus samoreplikující se nanotechnologie vyrobené z čistě benevolentního důvodu. Řekněme, mikroorganismus určený k čištění ropných skvrn tím, že je konzumuje a vylučuje nějaký benigní vedlejší produkt. Zatím je to dobré. Kromě organismus nedokážu rozlišit mezi atomy uhlíku v ropné skvrně a atomy uhlíku v mořské vegetace, mořské živočichy a lidské bytosti kolem ní. Flash vpřed několik tisíc generací – možná ne velmi dlouhou dobu v naší představit mikroorganismu životního cyklu – a všechno na Zemi, obsahující i smítko uhlík proměnil ve benigní, šedé a lepkavé vedlejší produkt jeho zažívacího procesu.

Jejda.

důležitá morální lekce

V šedých Goo procesech jsou sázky vysoké a hrozba zkázy je vždy bezprostřední, a proto dělají pro trhání dobrých sci-fi přízí. Ale příběhy Gray Goo také nést důležité morální ponaučení: jednotné strategie nebo proces, nebo nápad vymyslel s dobrým úmyslem, ale plošná, nebo neobratně, může vést ke katastrofálně negativní důsledky, které jsou prakticky nezastavitelní. A zatímco šedé Goo události zní exoticky, jakmile odložíme řeč o uprchlých nanotechnologiích, můžeme začít vidět složky těchto událostí v našem každodenním světě. Mezi nimi jsou idealistické agenti s nedokonalou znalostí, špatně promyšlené strategie, a to plodné médium, ve kterém se šíří chyby a systémové a posilují účinky kaskády.

žádná doména lidského života není nepropustná pro riziko šedých Goo procesů, ale některé jsou lepší média než jiné. Obecným pravidlem je, že čím větší, složitější a propojená doména je, tím náchylnější je k šedému Goo. Jen málo domén lépe odpovídá tomuto popisu než biologické ekosystémy: Lekci, že lidé museli učit a znovu se naučit mnohokrát během posledních několika set let, během nichž jsme se snažili zavést druhů do cizích ekosystémů, často s katastrofálními výsledky.

zavedení ropuchy třtinové do Austrálie je symbolickým příkladem naší neschopnosti předvídat zjevná rizika šedých Goo procesů. Po konvenční metody pest control se nepodařilo redukovat populaci brouků, které byly poškození cukrové třtiny plodiny, v roce 1935 Fbi Cukru Experiment Stanic importované ropuchy z Havaje a vypustili do volné přírody v naději, že by kořist na hmyz. Od jejich vydání, ropuchy třtinové se rychle rozmnožily v populaci a rozšířily se po severozápadní Austrálii. Současné odhady uvádějí jejich počet přes 200 milionů a jsou obviňováni z šíření nemocí, které negativně ovlivňují místní faunu. Poslední rozhořčení: Zdá se, že ropuchy neměly žádný skutečný dopad na populace brouků, které měly snížit.

Další doménou, která je plná potenciálu šedých Goo procesů, je svět financí. Počet pitev v roce 2008 finanční krize, často se odkazují na to, v nebezpečí učenec Nassim Taleb řeči, jako Černá Labuť event: je mimořádně vzácné, ale velmi ovlivňuje řada událostí, které jsou zřejmé pouze s odstupem času. Vzácné a ovlivňující, Ano-ale ne přísně řečeno nad rámec našich prediktivních schopností. V jeho srdci byla praxe sub-prime úvěrů: druh Gray Goo proces postaven kolem opojný mix goodwillu a jen záměry rozšířil počty majitelů vlastních domů, kreditní prostředí, které umožnilo snadné šíření a replikaci high-riziko půjčky, a toxické hromadění vedlejší produkt, unrepayable dluhu.

Taleb sám se nedávno zaměřil na diskusi o šedých Goo-podobných procesech, zejména proto, že se vztahují na vědu o současných geneticky modifikovaných organismech. Taleb se domnívá, že rizika spojená v tvorbě a distribuci geneticky modifikované organismy nejsou dobře pochopeny nebo oceňují výzkumných pracovníků v oboru, kteří jsou obvykle vyškoleni v biologických vědách, a ne na statistiky nebo analýzy rizik. Jsou proto schopni nasadit tradiční rozhodovací strategie zaměřené na zmírnění rizika újmy, i když ve skutečnosti by měla svá rozhodnutí zakládat na riziku totální a nevratné zkázy.

Jedním z klíčových dopadů globalizace a propojenost povolen informačních technologií je, že všechny lidské systémy jsou stále složitější, a tak stále více a více náchylné k Šedé Břečky účinky můžeme všimnout v oblasti biologické ekosystémy. Spolu s potenciálem pro asteroidu fatální údery, gama záblesky, a super sopka, erupce, Budoucnost Lidstva Ústavu na Univerzitě v Oxfordu – think tank věnovaná posuzování rizika, která by mohla konci lidského života na Zemi – uvádí takové lidské-led úsilí jako umělá inteligence, antropogenní změně klimatu, a molekulární nanotechnologie mezi jeho klíčové oblasti výzkumu. Zdá se, že hrozba šedého Goo a riziko zkázy roste. Zda jsme na výzvu upravit způsob, jakým přemýšlíme o riziku a důkladně přemýšlet o tom, jak naše rozhodnutí ovlivňují náš stále složitější svět, se teprve uvidí.

Vyhněte se scénářům šedé Goo

nechte svou mysl zvážit nejhorší možný výsledek. Jsou v zásadě potýkají s rizikem poškození – nižší čtvrtletní zisk, například, nebo riziko krachu – jako zničení vaší značky vlastního kapitálu nebo spotřebitelů goodwill?

nenechte spravedlnost zatemnit váš úsudek. Jednat v dobré víře a mít benevolentní cíle nestačí. Žádná farmaceutická společnost se nikdy nevydala navrhnout lék, který zabije jejich zákazníky. Jak napsal John Milton: „Snadný je sestup do pekla, protože je dlážděn dobrými úmysly.“

Buďte k sobě upřímní ohledně toho, jak málo máte kontrolu. Jakmile uvedete kola do pohybu, jak snadné je použít brzdný mechanismus, za předpokladu, že ho máte? A pokud ho nemáte, nemyslíte, že by bylo rozumné, kdybyste to udělal, jen pro případ?

nepoužívejte kladivo k práci šroubováku. Vymýšlení množství nástrojů a procesů pro řešení různých výzev vyžaduje více úsilí, ale minimalizuje pravděpodobnost, že nakonec uděláte nenapravitelné škody tím, že se budete snažit být účelní.

zazděné zahrady jsou dobré. Použij je. Pokud Úřad Cukru Experiment Stanic představil ropuchy do zabezpečeného prostoru k testování jejich adaptace na prostředí Australského před vypustili je do přírody, možná na kontinentu, by neměl být překročen o nepříjemný druh.

Jak je Znázorněno v Sci-Fi

Cat ‚ s Cradle, Kurt Vonnegut,

Vonnegut si představoval polymorf vody názvem Led-Devět, že by okamžitě převést všechna voda přišla do kontaktu s do super-stabilní ice-jako formace. Původně vyvinutý na pomoc vojenským jednotkám pochodovat přes slizký terén, polymorf nakonec převede veškerou vodu na zemi na Ice-Nine, vytvoření věčné zimy.

Star Trek,

Ve vesmíru Star Treku, závod dravý, zombie-jako, kybernetické bytosti zvané Borg transformovat všechny formy života, se kterými se setkávají na více Borg vstřikováním s mikroskopickými nanosondy. Jejich záměry jsou, z jejich pohledu, benevolentní: pozvednout primitivní kultury do Borgů, aby se mohli připojit ke své snaze „dosáhnout dokonalosti.“Výsledkem je však děsivá forma technologického kolektivismu, která zcela zahrnuje jednotlivce a činí z něj agenta nevýslovného teroru.

Jayar La Fontaine je senior foresight stratég v Idea Couture. Sídlí v kanadském Torontu.

tento článek se původně objevil v MISC 2015: The Creative Process Issue a je publikován na io9 se svolením.

horní obrázek: den, kdy se země zastavila