Gray Goo Scenaries and How to Avoid Them

itseironisten nanobottien mahdollisuus syödä maapallo on todellakin pelottava. Mutta kuten Idea Couture ennakoinnin strategisti Jayar LaFontaine selittää, on olemassa joitakin käytännön asioita voimme tehdä estää tällaisia painajaisia tapahtumasta.

vuonna 1948 pitämässään luennossa matemaatikko John Von Neumann kuvasi ensimmäisen kerran koneiden mahdollisuuksia rakentaa täydellisiä kopioita itsestään käyttäen ympäröivästä maailmasta hankittua materiaalia. Ihmiset alkoivat melkein heti huolestua siitä, mitä voisi tapahtua, jos he eivät koskaan lopettaisi. Kirjoittaessaan vuosikymmeniä myöhemmin molekyylinanoteknologian tieteestä – toisin sanoen mikroskooppisen pienistä ihmistekoisista koneista-Eric Drexler antoi tälle huolelle nimen: Gray Goo.

harmaa mönjä-skenaario toimii jotakuinkin näin: kuvitelkaa itsereplikoituvaa nanoteknologiaa, joka on valmistettu puhtaasti hyväntahtoisesta syystä. Mikro-organismi, joka puhdistaa öljyläikkiä kuluttamalla niitä ja erittämällä sivutuotetta. Toistaiseksi kaikki hyvin. Paitsi että organismi ei näytä erottavan öljylautan hiiliatomeja merikasvillisuuden, meren eläimistön ja sen ympärillä olevien ihmisten hiiliatomeista. Vilahda eteenpäin muutama tuhat sukupolvea-ei ehkä kovin kauan kuvitellun mikro-organismimme elinkaaressa-ja kaikki, mikä maapallolla sisältää edes hiukkasen hiiltä, on muuttunut hyvänlaatuiseksi, harmaaksi ja tahmeaksi sen ruoansulatusprosessin sivutuotteeksi.

Mainos

Hups.

tärkeä moraalinen opetus

Gray Goo-prosesseissa panokset ovat korkeat ja tuhon uhka on aina välitön, minkä vuoksi ne tekevät hyvien scifi-lankojen repimisestä. Mutta tarinat harmaasta Mönjästä sisältävät myös tärkeän moraalisen opetuksen: yksi strategia – tai prosessi tai idea – joka on laadittu hyvässä tarkoituksessa, mutta jota sovelletaan umpimähkään tai kömpelösti, voi johtaa katastrofaalisen negatiivisiin seurauksiin, joita ei käytännössä voi pysäyttää. Vaikka harmaan mönjän tapahtumat kuulostavat eksoottisilta, kun unohdamme puheet karkaavasta nanoteknologiasta, voimme alkaa nähdä näiden tapahtumien ainekset jokapäiväisessä maailmassamme. Niiden joukossa on idealistisia tekijöitä, joilla on epätäydellistä tietoa, huonosti mietittyjä strategioita ja hedelmällinen väline virheiden levittämiseen sekä systeemisiä ja itseään vahvistavia kaskadivaikutuksia.

yksikään ihmiselämän osa-alue ei ole läpäisemätön harmaiden Mönjäprosessien riskille, mutta jotkut ovat parempia meedioita kuin toiset. Yleinen nyrkkisääntö on, että mitä suurempi, monimutkaisempi ja yhteenliittynyt verkkotunnus on, sitä alttiimpi se on harmaalle Mönjälle. Vain harvat alueet sopivat paremmin tähän kuvaukseen kuin biologiset ekosysteemit: Läksy, joka ihmisten on täytynyt oppia ja opetella uudelleen monta kertaa viimeisen muutaman sadan vuoden aikana, jonka aikana olemme yrittäneet tuoda lajeja vieraisiin ekosysteemeihin usein tuhoisin seurauksin.

ruokokammakoiden tuominen Australiaan on vertauskuvallinen esimerkki siitä, ettemme ole osanneet ennakoida harmaan mönjän prosessien ilmiselviä riskejä. Kun perinteiset tuholaistorjuntamenetelmät eivät onnistuneet vähentämään sokeriruokoviljelmiä vahingoittavien kovakuoriaisten populaatiota, vuonna 1935 Sokerikokeiluasemien virasto toi Havaijilta ruokokonnia ja päästi ne luontoon siinä toivossa, että ne saalistaisivat hyönteisiä. Vapauduttuaan rupikonnien populaatio on nopeasti moninkertaistunut ja levittäytynyt Luoteis-Australiaan. Nykyisten arvioiden mukaan heitä on yli 200 miljoonaa, ja heitä on syytetty tautien leviämisestä, joka vaikuttaa kielteisesti paikalliseen eläimistöön. Viimeinen Nöyryytys: Rupikonnilla ei näytä olleen todellista vaikutusta kovakuoriaispopulaatioihin, joita niiden oli tarkoitus vähentää.

toinen Gray Goo-prosessien potentiaali on finanssimaailma. Vuoden 2008 finanssikriisin jälkimainingeissa viitataan siihen usein risk scholar Nassim Talebin kielenkäytössä Black Swan-tapahtumana: äärimmäisen harvinaisena mutta erittäin vaikuttavana tapahtumasarjana, joka on ilmeinen vain jälkiviisauden avulla. Harvinainen ja vaikuttava, Kyllä-mutta ei tarkkaan ottaen yli ennustuskykymme. Sen ytimessä oli käytäntö sub-prime luotonanto: eräänlainen harmaa mönjä prosessi rakennettu huumaava sekoitus goodwill ja vain aikomukset levittää homeownership, luotto ympäristö, joka mahdollisti helpon käyttöönoton ja kopiointi korkean riskin lainoja, ja myrkyllinen kertyminen sivutuotteena, takaisinmaksukelvoton velka.

Taleb itse on viime aikoina kääntänyt huomionsa keskusteluun harmaasta Mönjämäisestä prosessista, varsinkin kun ne pätevät nykyajan geenimuunneltujen organismien tieteeseen. Taleb uskoo, että geenimuunneltujen organismien syntymiseen ja leviämiseen liittyviä riskejä eivät ymmärrä tai arvosta alan tutkijat, jotka ovat tyypillisesti koulutettuja biologisissa tieteissä eivätkä tilastoissa tai riskianalyysissä. Siksi ne soveltavat helposti perinteisiä päätöksentekostrategioita, joissa keskitytään haittojen riskin vähentämiseen, vaikka niiden pitäisi itse asiassa perustaa päätöksensä täydellisen ja peruuttamattoman tuhon riskiin.

yksi globalisaation ja tietotekniikan mahdollistaman yhteenliittymisen keskeisistä vaikutuksista on se, että kaikki ihmisen järjestelmät muuttuvat yhä monimutkaisemmiksi ja siten yhä alttiimmiksi harmaalle Mönjälle, jota havaitsemme biologisten ekosysteemien alalla. Oxfordin yliopiston Future of Humanity Institute – ajatushautomo, joka on omistautunut arvioimaan riskejä, jotka saattavat lopettaa ihmiselämän maapallolla, listaa keskeisiin tutkimusalueisiinsa muun muassa tekoälyn, ihmisen aiheuttaman ilmastonmuutoksen ja molekyylin nanoteknologian. Harmaan mönjän uhka ja tuhovaara näyttävät olevan kasvussa. Nähtäväksi jää, pystymmekö muokkaamaan tapaamme ajatella riskejä ja miettiä perusteellisesti, miten valintamme vaikuttavat yhä monimutkaisempaan maailmaamme.

harmaan mönjän skenaarioiden välttäminen

anna mielesi miettiä pahinta mahdollista lopputulosta. Painitko pohjimmiltaan haittojen – esimerkiksi neljännesvuositulosten jäämisen tai tuhon riskin – kuten brändisi oman pääoman tai kuluttajien hyvän tahdon tuhoutumisen kanssa?

älä anna oikeamielisyyden sumentaa arvostelukykyäsi. Hyvässä uskossa toimiminen ja hyväntahtoiset tavoitteet eivät riitä. Yksikään lääkeyhtiö ei ole suunnitellut lääkettä, joka tappaa asiakkaat. John Milton kirjoittikin: ”helppo on laskeutua helvettiin, sillä se on kivetty hyvillä aikomuksilla.”

ole rehellinen itsellesi siitä, kuinka vähän kontrollia sinulla on. Kun pyörät on saatu liikkeelle, kuinka helppoa on käyttää jarrumekanismia, jos sellainen on olemassa? Ja jos sinulla ei ole sellaista, eikö olisi viisasta, jos sinulla olisi, kaiken varalta?

älä käytä vasaraa ruuvimeisselin hommaan. Erilaisten työkalujen ja prosessien suunnittelu eri haasteisiin vastaamiseksi vaatii enemmän vaivaa, mutta se minimoi todennäköisyyden, että päädyt tekemään korjaamatonta vahinkoa yrittämällä olla tarkoituksenmukainen.

aidatut puutarhat ovat hyviä. Käytä niitä. Jos Bureau of Sugar Experiment Stations olisi tuonut cane rupikonnia turvalliseen aitaukseen testatakseen niiden sopeutumista Australian ympäristöön ennen niiden vapauttamista luontoon, ehkä tämä vastenmielinen laji ei valtaisi mannerta.

kuten tieteiskirjallisuudessa

Kissan kehto, Kurt Vonnegut

Vonnegut kuvitteli veden polymorfin nimeltä Ice-Nine, joka muuttaisi välittömästi kaiken veden, jonka kanssa se joutui kosketuksiin, supervakaaksi jään kaltaiseksi muodostelmaksi. Polymorph kehitettiin alun perin auttamaan sotilasjoukkoja marssimaan likaisen maaston yli, ja se päätyy muuttamaan kaiken maapallon veden jää-yhdeksäksi, luoden ikuisen talven.

Star Trek

borgeiksi kutsuttu ahnaiden, zombimaisten, kyberneettisten olentojen rotu muuttaa kaikki kohtaamansa elämänmuodot borgeiksi ruiskuttamalla niihin mikroskooppisia nanoputkia. Heidän tarkoituksensa on heidän näkökulmastaan hyväntahtoinen: kohottaa alkukantaiset kulttuurit Borgeihin, jotta he voisivat liittyä heidän pyrkimyksiinsä ”saavuttaa täydellisyys.”Tuloksena on kuitenkin hirvittävä teknologisen kollektivismin muoto, joka täysin tukahduttaa yksilön ja tekee hänestä sanoinkuvaamattoman terrorin agentin.

Jayar La Fontaine on Idea couturen vanhempi ennakointistrategi. Hänen kotipaikkansa on Torontossa, Kanadassa.

Tämä artikkeli ilmestyi alun perin MISC 2015 : the Creative Process Issue-lehdessä ja se on julkaistu uudelleen io9: ssä luvalla.

yläkuva: päivä, jona maa seisoi paikallaan