Scenarii Goo gri și cum să le evite

perspectiva nanoboților auto-replicatori care devorează pământul este, într-adevăr, una înspăimântătoare. Dar, după cum explică strategul de previziune Idea Couture, Jayar LaFontaine, există câteva lucruri practice pe care le putem face pentru a preveni astfel de coșmaruri.

într-o prelegere susținută în 1948, matematicianul John Von Neumann a descris pentru prima dată potențialul mașinilor de a construi copii perfecte ale lor folosind materiale provenite din lumea din jurul lor. Aproape imediat, oamenii au început să se îngrijoreze de ce s-ar putea întâmpla dacă nu s-ar opri niciodată. Scriind decenii mai târziu despre știința nanotehnologiei moleculare – cu alte cuvinte, mașini microscopice mici făcute de om-Eric Drexler a dat acestei îngrijorări un nume: Gray Goo.

un scenariu Goo gri funcționează cam așa: Imaginați-vă o bucată de nanotehnologie auto-replicantă fabricată dintr-un motiv pur binevoitor. Spuneți, un microorganism conceput pentru a curăța petele de ulei consumându-le și secretând un produs secundar benign. Până acum, totul e bine. Cu excepția faptului că organismul nu poate distinge între atomii de carbon din stratul de ulei și atomii de carbon din vegetația marină, fauna oceanică și ființele umane din jurul ei. Câteva mii de generații-poate nu foarte mult timp în ciclul de viață imaginat al microorganismului nostru-și tot ceea ce conține pe Pământ chiar și un fir de carbon a fost transformat într-un produs secundar benign, gri și lipicios al procesului său digestiv.

Hopa.

o lecție morală importantă

în procesele de Goo gri, mizele sunt mari și amenințarea cu ruina este întotdeauna iminentă, motiv pentru care ei fac pentru extragerea firelor bune de science fiction. Dar poveștile despre Goo gri poartă, de asemenea, o lecție morală importantă: o singură strategie – sau proces sau idee – concepută cu bună intenție, dar aplicată fără discriminare sau neîndemânatic, poate duce la consecințe negative catastrofale care sunt practic de neoprit. Și în timp ce evenimentele gri Goo sună exotic, odată ce lăsăm deoparte discuția despre nanotehnologia fugară, putem începe să vedem ingredientele acestor evenimente în lumea noastră de zi cu zi. Printre aceștia se numără agenți idealiști cu cunoștințe imperfecte, strategii slab gândite și un mediu fertil în care să răspândească eroarea și efecte de cascadă sistemice și auto-întăritoare.

niciun domeniu al vieții umane nu este impermeabil la riscul proceselor Goo gri, dar unele sunt medii mai bune decât altele. O regulă generală este că, cu cât un domeniu este mai mare, mai complex și mai interconectat, cu atât este mai susceptibil la Goo gri. Puține domenii se potrivesc mai bine acestei descrieri decât ecosistemele biologice: O lecție pe care oamenii au trebuit să o învețe și să o reînvețe de multe ori în ultimele câteva sute de ani, de-a lungul căreia am încercat să introducem specii în ecosisteme străine cu rezultate adesea dezastruoase.

introducerea broaștelor de trestie în Australia este un exemplu emblematic al eșecului nostru de a prevedea riscurile evidente ale proceselor Goo gri. După ce metodele convenționale de combatere a dăunătorilor nu au reușit să reducă populația de gândaci care dăunau culturilor de trestie de zahăr, în 1935 Biroul experimentului zahărului stațiile au importat broaște de trestie din Hawaii și le-au eliberat în sălbăticie în speranța că vor pradă insectele. De la eliberare, broaștele de trestie s-au înmulțit rapid în populație și s-au răspândit în nord-vestul Australiei. Estimările actuale au pus numărul lor peste 200 de milioane și au fost acuzați de răspândirea bolilor care au impact negativ asupra faunei locale. O ultimă umilință: Broaștele par să nu fi avut niciun impact real asupra populațiilor de gândaci pe care trebuiau să le reducă.

un alt domeniu care este plin de potențial pentru procesele Goo gri este lumea finanțelor. Postmortemurile crizei financiare din 2008 se referă adesea la aceasta, în limbajul cărturarului de risc Nassim Taleb, ca la un eveniment de lebădă neagră: o serie de evenimente extrem de rare, dar cu impact puternic, care sunt evidente doar cu beneficiul retrospectiv. Rare și cu impact, Da – dar nu strict vorbind dincolo de puterile noastre predictive. În centrul său se afla practica împrumuturilor subprime: un fel de proces Goo gri construit în jurul amestecului impetuos de bunăvoință și intenții juste de a răspândi proprietatea asupra locuințelor, un mediu de credit care a permis implementarea și replicarea ușoară a împrumuturilor cu risc ridicat și o acumulare toxică a unui produs secundar, datorii nereparabile.Taleb însuși și-a îndreptat atenția spre o discuție despre procesele asemănătoare Goo-ului Gri recent, mai ales că acestea se aplică științei organismelor modificate genetic de astăzi. Taleb consideră că riscurile inerente creării și distribuției organismelor modificate genetic nu sunt bine înțelese sau apreciate de cercetătorii din domeniu, care sunt de obicei instruiți în științele biologice și nu în statistici sau analize de risc. Prin urmare, acestea sunt capabile să implementeze strategii tradiționale de luare a deciziilor axate pe atenuarea riscului de rău, când, de fapt, ar trebui să își bazeze deciziile pe riscul de ruină totală și ireversibilă.

unul dintre efectele cheie ale globalizării și interconectarea activată de tehnologia informației este că toate sistemele umane devin din ce în ce mai complexe și, astfel, din ce în ce mai sensibile la efectele Goo gri pe care le observăm în domeniul ecosistemelor biologice. Împreună cu potențialul de lovituri fatale de asteroizi, explozii de raze gamma și erupții super – vulcanice, Institutul Future of Humanity de la Universitatea Oxford – un think tank dedicat evaluării riscurilor care ar putea pune capăt vieții umane pe Pământ-enumeră eforturile umane precum inteligența artificială, schimbările climatice antropice și nanotehnologia moleculară printre domeniile sale cheie de cercetare. Amenințarea Goo gri și riscul de ruină, se pare, este în creștere. Rămâne de văzut dacă suntem la înălțimea provocării de a ajusta modul în care gândim despre risc și de a ne gândi bine la modul în care alegerile noastre au impact asupra lumii noastre din ce în ce mai complexe.

evitarea scenariilor Goo gri

lăsați-vă mintea să ia în considerare cel mai rău rezultat posibil. Vă confruntați în mod fundamental cu riscul de rău – de exemplu, scăderea veniturilor trimestriale sau riscul de ruină – cum ar fi distrugerea capitalului propriu al mărcii dvs. sau a fondului comercial al consumatorilor?

nu lăsa dreptatea să-ți întunece judecata. A acționa cu bună credință și a avea scopuri binevoitoare nu este suficient. Nicio companie farmaceutică nu și-a propus vreodată să proiecteze un medicament care să-și omoare clienții. După cum scria John Milton: „ușor este coborârea în iad, pentru că este pavată cu intenții bune.”

fii sincer cu tine despre cât de puțin control ai. Odată ce ați pus roțile în mișcare, cât de ușor este să aplicați un mecanism de frânare, presupunând că aveți unul? Și dacă nu ai unul, nu crezi că ar fi prudent dacă ai avea, pentru orice eventualitate?

nu folosiți un ciocan pentru a face treaba unei șurubelnițe. Conceperea unei multitudini de instrumente și procese pentru a aborda diferite provocări necesită mai mult efort, dar minimizează probabilitatea ca veți ajunge să faceți rău ireparabil prin încercarea de a fi oportun.

grădinile cu pereți sunt bune. Folosește-le. Dacă stațiile Biroului experimentului zahărului ar fi introdus broaștele de trestie într-o incintă sigură pentru a testa adaptarea lor la mediul Australian înainte de a le dezlănțui în sălbăticie, poate continentul nu ar fi depășit de speciile neplăcute.

așa cum este descris în Science Fiction

leagănul pisicii, Kurt Vonnegut

Vonnegut și-a imaginat un polimorf de apă numit Ice-Nine care ar transforma imediat toată apa cu care a intrat în contact într-o formare super-stabilă asemănătoare gheții. Dezvoltat inițial pentru a ajuta trupele militare să mărșăluiască pe un teren murdar, polimorful ajunge să transforme toată apa de pe Pământ în gheață nouă, creând o iarnă eternă.

Star Trek

în universul Star Trek, o rasă de creaturi cibernetice Rapace, asemănătoare zombilor, numite Borg transformă orice formă de viață pe care o întâlnesc în mai mulți Borg prin injectarea lor cu nanoprobe microscopice. Intențiile lor sunt, din perspectiva lor, binevoitoare: să înalțe culturile primitive în Borg, astfel încât să se poată alătura căutării lor de a „atinge perfecțiunea.”Rezultatul, totuși, este o formă îngrozitoare de colectivism tehnologic care subsumează complet individul și îl face un agent al terorii de nedescris.

Jayar La Fontaine este un strateg Senior foresight la Idea Couture. Are sediul în Toronto, Canada.

Acest articol a apărut inițial în MISC 2015 : problema procesului creativ și este republicată la io9 cu permisiune.

imaginea de sus: ziua în care Pământul a stat nemișcat