La prospettiva di auto-replicanti di nanobot che divora la Terra è un avvenimento spaventoso, anzi. Ma come spiega lo stratega di Idea Couture foresight Jayar LaFontaine, ci sono alcune cose pratiche che possiamo fare per evitare che questi incubi si verifichino.
Questo browser non supporta l’elemento video.
In una conferenza tenuta nel 1948, il matematico John Von Neumann descrisse per primo il potenziale delle macchine di costruire copie perfette di se stesse usando materiale proveniente dal mondo che le circonda. Quasi immediatamente, la gente ha cominciato a preoccuparsi di ciò che potrebbe accadere se non hanno mai smesso. Scrivendo decenni dopo sulla scienza della nanotecnologia molecolare-in altre parole, microscopicamente piccole macchine artificiali-Eric Drexler ha dato a questa preoccupazione un nome: Gray Goo.
Uno scenario di Goo grigio funziona in questo modo: immagina un pezzo di nanotecnologia auto-replicante prodotto per una ragione puramente benevola. Diciamo, un microrganismo progettato per ripulire le chiazze di petrolio consumandole e secernendo qualche sottoprodotto benigno. Finora, tutto bene. Tranne che l’organismo non riesce a distinguere tra gli atomi di carbonio nella chiazza di petrolio e gli atomi di carbonio nella vegetazione marina, nella fauna oceanica e negli esseri umani che lo circondano. Flash forward di qualche migliaio di generazioni-forse non un tempo molto lungo nel ciclo di vita del nostro immaginario microrganismo-e tutto ciò che sulla Terra contiene anche un granello di carbonio è stato trasformato in un sottoprodotto benigno, grigio e appiccicoso del suo processo digestivo.
Pubblicità
Whoops.
Un’importante lezione morale
Nei processi di Goo grigio, la posta in gioco è alta e la minaccia di rovina è sempre imminente, motivo per cui fanno per strappare buoni filati di fantascienza. Ma le storie di Gray Goo portano anche un’importante lezione morale: una singola strategia – o processo, o idea – ideata con buone intenzioni ma applicata indiscriminatamente, o maldestramente, può portare a conseguenze catastroficamente negative che sono praticamente inarrestabili. E mentre gli eventi Gray Goo suonano esotici, una volta messo da parte il discorso della nanotecnologia in fuga, possiamo iniziare a vedere gli ingredienti di questi eventi nel nostro mondo quotidiano. Tra questi ci sono agenti idealistici con conoscenza imperfetta, strategie mal congegnate e un mezzo fertile in cui diffondere l’errore e effetti a cascata sistemici e auto-rinforzanti.
Pubblicità
Nessun dominio della vita umana è impermeabile al rischio di processi di Goo grigio, ma alcuni sono mezzi migliori di altri. Una regola generale è che più un dominio è grande, complesso e interconnesso, più è suscettibile al Goo grigio. Pochi domini si adattano meglio a questa descrizione rispetto agli ecosistemi biologici: Una lezione che gli umani hanno dovuto imparare e imparare di nuovo molte volte negli ultimi cento anni, durante i quali abbiamo cercato di introdurre specie in ecosistemi stranieri con risultati spesso disastrosi.
L’introduzione di rospi di canna in Australia sono un esempio emblematico della nostra incapacità di prevedere gli ovvi rischi dei processi di Goo grigio. Dopo che i metodi convenzionali di controllo dei parassiti non riuscirono a ridurre la popolazione di coleotteri che stavano danneggiando le colture di canna da zucchero, nel 1935 il Bureau of Sugar Experiment Stations importò rospi di canna dalle Hawaii e li rilasciò in natura nella speranza che avrebbero depredato gli insetti. Dal loro rilascio, i rospi di canna si sono rapidamente moltiplicati nella popolazione e si sono diffusi in tutta l’Australia nord-occidentale. Le stime attuali mettono il loro numero oltre 200 milioni, e sono stati accusati per la diffusione di malattie che hanno un impatto negativo sulla fauna locale. Un’indignazione finale: I rospi sembrano non aver avuto alcun impatto reale sulle popolazioni di coleotteri che dovevano ridurre.
Pubblicità
Un altro dominio che è piena con il potenziale per i processi di Goo grigio è il mondo della finanza. I post mortem della crisi finanziaria del 2008 spesso si riferiscono ad esso, nel linguaggio dello studioso di rischio Nassim Taleb, come un evento del cigno nero: una serie di eventi estremamente rari ma di grande impatto che sono evidenti solo con il senno di poi. Raro e impattante, sì, ma non strettamente parlando al di là dei nostri poteri predittivi. Al suo centro c’era la pratica del prestito subprime: una sorta di processo di Goo grigio costruito attorno al mix inebriante della buona volontà e delle giuste intenzioni di diffondere la proprietà della casa, un ambiente di credito che consentiva una facile distribuzione e replica di prestiti ad alto rischio e un accumulo tossico di un sottoprodotto, debito irripetibile.
Taleb stesso ha rivolto la sua attenzione ad una discussione di processi Gray Goo-like di recente, soprattutto in quanto si applicano alla scienza degli attuali organismi geneticamente modificati. Taleb ritiene che i rischi inerenti alla creazione e alla distribuzione di organismi geneticamente modificati non siano ben compresi o apprezzati dai ricercatori del settore, che sono tipicamente formati nelle scienze biologiche e non nelle statistiche o nell’analisi del rischio. Sono quindi inclini a implementare strategie decisionali tradizionali incentrate sulla mitigazione del rischio di danno, quando in realtà dovrebbero basare le loro decisioni sul rischio di rovina totale e irreversibile.
Pubblicità
Uno degli effetti chiave della globalizzazione e dell’interconnessione abilitata dalla tecnologia dell’informazione è che tutti i sistemi umani stanno diventando sempre più complessi, e quindi sempre più suscettibili agli effetti di Goo grigio che notiamo nel dominio degli ecosistemi biologici. Insieme al potenziale di attacchi mortali di asteroidi, raffiche di raggi gamma ed eruzioni di super vulcani, il Future of Humanity Institute dell’Università di Oxford – un think tank dedicato alla valutazione dei rischi che potrebbero porre fine alla vita umana sulla Terra – elenca tali sforzi guidati dall’uomo come l’intelligenza artificiale, il cambiamento climatico antropogenico e la nanotecnologia molecolare tra le sue aree La minaccia di Goo grigio e il rischio di rovina, a quanto pare, è in aumento. Resta da vedere se siamo all’altezza della sfida di adattare il modo in cui pensiamo al rischio e pensare a fondo a come le nostre scelte influenzano il nostro mondo sempre più complesso.
Evitare scenari di Goo grigio
Lascia che la tua mente consideri il peggior risultato possibile. Sei fondamentalmente alle prese con il rischio di danni-a corto di guadagni trimestrali, per esempio, o il rischio di rovina – come la distruzione del patrimonio netto del vostro marchio o buona volontà dei consumatori?
Pubblicità
Non lasciare che la giustizia offuschi il tuo giudizio. Agire in buona fede e avere scopi benevoli non è sufficiente. Nessuna azienda farmaceutica ha mai deciso di progettare un farmaco che uccida i propri clienti. Come scrisse John Milton: “Facile è la discesa all’Inferno, poiché è lastricata di buone intenzioni.”
Sii onesto con te stesso su quanto poco controllo hai. Una volta che hai messo le ruote in movimento, quanto è facile applicare un meccanismo di frenata, supponendo che tu ne abbia uno? E se non ne hai uno, non pensi che sarebbe prudente se lo facessi, per ogni evenienza?
Pubblicità
Non usare un martello per fare il lavoro di un cacciavite. Ideare una molteplicità di strumenti e processi per affrontare diverse sfide richiede uno sforzo maggiore, ma riduce al minimo la probabilità che si finisca per fare danni irreparabili cercando di essere opportuni.
I giardini recintati sono buoni. Usali. Se le stazioni sperimentali del Bureau of Sugar avessero introdotto i rospi di canna in un recinto sicuro per testare il loro adattamento all’ambiente australiano prima di scatenarli in natura, forse il continente non sarebbe stato invaso dalle specie odiose.
Pubblicità
Come raffigurato nella fantascienza
Cat’s Cradle, Kurt Vonnegut
Vonnegut immaginò un polimorfo di acqua chiamato Ice-Nine che avrebbe immediatamente convertito tutta l’acqua con cui veniva a contatto in una formazione di ghiaccio super-stabile. Originariamente sviluppato per aiutare le truppe militari a marciare su terreni fangosi, il polimorfo finisce per convertire tutta l’acqua sulla Terra in Ghiaccio-Nove, creando un inverno eterno.
Pubblicità
Star Trek
Nell’universo di Star Trek, una razza di creature cibernetiche rapaci, simili a zombie, chiamate Borg trasforma qualsiasi forma di vita che incontrano in più Borg iniettandoli con nanoprobi microscopici. Le loro intenzioni sono, dal loro punto di vista, benevolo: per elevare le culture primitive nel Borg in modo che possano unirsi alla loro ricerca di “raggiungere la perfezione.”Il risultato, tuttavia, è una forma terrificante di collettivismo tecnologico che sottende completamente l’individuo e lo rende un agente di terrore indicibile.
Pubblicità
Jayar La Fontaine è uno stratega di lungimiranza senior di Idea Couture. Ha sede a Toronto, in Canada.
Questo articolo è originariamente apparso nel MISC 2015 : The Creative Process Issue ed è ripubblicato su io9 con il permesso.
Pubblicità
Immagine in alto: Il giorno in cui la Terra si fermò
Pubblicità