Szare Goo scenariusze i jak ich uniknąć

perspektywa samo—replikujących się nanobotów pożerających ziemię jest rzeczywiście przerażająca. Ale jak wyjaśnia strateg Idea Couture foresight Jayar LaFontaine, istnieje kilka praktycznych rzeczy, które możemy zrobić, aby zapobiec takim koszmarom.

w wykładzie wygłoszonym w 1948 roku matematyk John Von Neumann po raz pierwszy opisał potencjał maszyn do tworzenia doskonałych kopii samych siebie przy użyciu materiałów pochodzących z otaczającego ich świata. Niemal natychmiast ludzie zaczęli się martwić o to, co może się stać, jeśli nigdy nie przestaną. Pisząc dziesiątki lat później o nauce o nanotechnologii molekularnej – innymi słowy, mikroskopijnie małych maszynach stworzonych przez człowieka-Eric Drexler nadał temu zmartwieniu nazwę: Gray Goo.

Scenariusz szarej Mazi działa mniej więcej tak: wyobraź sobie kawałek samo-replikującej się nanotechnologii wyprodukowanej z czysto życzliwego powodu. Powiedzmy, mikroorganizm przeznaczony do oczyszczania plam oleju poprzez ich spożywanie i wydzielanie łagodnych produktów ubocznych. Jak na razie dobrze. Poza tym, że organizm nie potrafi odróżnić atomów węgla w ślinie ropy od atomów węgla w roślinności morskiej, faunie oceanicznej i ludziach wokół niej. Przebłysk kilku tysięcy pokoleń-być może niezbyt długi czas w cyklu życia naszego wyobrażonego mikroorganizmu-i wszystko na Ziemi, zawierające nawet cząstkę węgla, zostało zamienione w łagodny, szary i lepki produkt uboczny procesu trawienia.

ważna lekcja moralna

w procesach szarej gęby stawka jest wysoka, a zagrożenie ruiną jest zawsze nieuchronne, dlatego robią z nich dobre przędze science fiction. Ale historie szarej Mazi niosą również ważną lekcję moralną: pojedyncza strategia – lub proces, lub pomysł-wymyślona z dobrymi intencjami, ale stosowana bezkrytycznie lub niezdarnie, może prowadzić do katastroficznie negatywnych konsekwencji, które są praktycznie nie do powstrzymania. I choć wydarzenia szarej Mazi brzmią egzotycznie, kiedy odłożymy na bok gadkę o uciekającej nanotechnologii, możemy zacząć dostrzegać składniki tych wydarzeń w naszym codziennym świecie. Wśród nich są idealistyczni agenci z niedoskonałą wiedzą, słabo przemyślane strategie i płodne medium, w którym można szerzyć błędy, a także systemowe i samonośne efekty kaskadowe.

Żadna domena ludzkiego życia nie jest odporna na ryzyko procesów szarej Mazi, ale niektóre są lepszymi mediami niż inne. Ogólna zasada jest taka, że im bardziej duża, złożona i połączona jest domena, tym bardziej podatna jest na szarą Mazę. Niewiele domen lepiej pasuje do tego opisu niż ekosystemy biologiczne: Lekcja, której ludzie musieli się nauczyć i uczyć na nowo wiele razy w ciągu ostatnich kilkuset lat, podczas których próbowaliśmy wprowadzać gatunki do obcych ekosystemów z często katastrofalnymi rezultatami.

wprowadzenie ropuch trzcinowych do Australii jest symbolicznym przykładem tego, że nie przewidzieliśmy oczywistego ryzyka związanego z procesami szarej Mazi. Po tym, jak konwencjonalne metody zwalczania szkodników nie zmniejszyły populacji chrząszczy, które niszczyły uprawy trzciny cukrowej, w 1935 roku Bureau of Sugar Experiment Stations importowało ropuchy trzcinowe z Hawajów i wypuściło je na wolność w nadziei, że będą żerować na owadach. Od czasu uwolnienia ropuchy trzcinowe szybko rozmnażały się w populacji i rozprzestrzeniły się w północno-zachodniej Australii. Obecne szacunki podają ich liczbę ponad 200 milionów, a obwiniano ich za rozprzestrzenianie się chorób, które negatywnie wpływają na lokalną faunę. Ostateczne oburzenie: Wydaje się, że ropuchy nie miały realnego wpływu na populacje chrząszczy, które miały zmniejszyć.

kolejną domeną, która obfituje w potencjał procesów szarej gęby, jest świat finansów. Pośmiertne wydarzenia kryzysu finansowego z 2008 roku często odnoszą się do niego, w mowie uczonego ryzyka Nassima Taleba, jako do wydarzenia Czarnego Łabędzia: niezwykle rzadkiej, ale bardzo wpływowej serii wydarzeń, które są oczywiste tylko z perspektywy czasu. Rzadkość i wpływ, tak-ale nie ściśle mówiąc poza naszymi możliwościami predykcyjnymi. W jego sercu była praktyka kredytów sub-prime: rodzaj szarego procesu Goo zbudowany wokół mocnej mieszanki dobrej woli i tylko intencje do rozprzestrzeniania homeownership, środowisko kredytowe, które umożliwiło łatwe wdrażanie i replikację pożyczek wysokiego ryzyka, i toksyczne nagromadzenie produktu ubocznego, nieodpłacalny dług.

Sam Taleb skupił się ostatnio na dyskusji na temat procesów podobnych do szarej Mazi, zwłaszcza, że odnoszą się one do nauki o współczesnych organizmach genetycznie zmodyfikowanych. Taleb uważa, że ryzyko związane z tworzeniem i dystrybucją organizmów zmodyfikowanych genetycznie nie jest dobrze rozumiane ani doceniane przez naukowców w tej dziedzinie, którzy są zazwyczaj przeszkoleni w naukach biologicznych, a nie w statystyce lub analizie ryzyka. Są zatem skłonni do stosowania tradycyjnych strategii podejmowania decyzji ukierunkowanych na ograniczanie ryzyka szkód, podczas gdy w rzeczywistości powinni opierać swoje decyzje na ryzyku całkowitej i nieodwracalnej ruiny.

jednym z kluczowych skutków globalizacji i wzajemnych powiązań, jakie umożliwia technologia informacyjna, jest to, że wszystkie ludzkie systemy stają się coraz bardziej złożone, a więc coraz bardziej podatne na efekty szarej Mazi, które zauważamy w dziedzinie ekosystemów biologicznych. Wraz z potencjalnymi śmiertelnymi uderzeniami asteroid, wybuchami promieniowania gamma i erupcjami super wulkanów, Instytut Future of Humanity na Uniwersytecie Oksfordzkim – think tank poświęcony ocenie ryzyka, które może zakończyć ludzkie życie na Ziemi – wymienia takie przedsięwzięcia prowadzone przez człowieka, jak sztuczna inteligencja, antropogeniczne zmiany klimatu i nanotechnologia molekularna wśród kluczowych obszarów badań. Zagrożenie szarej mazi i ryzyko ruiny, wydaje się, rośnie. To, czy sprostamy wyzwaniu polegającemu na dostosowaniu sposobu myślenia o ryzyku i dokładnym zastanowieniu się, w jaki sposób nasze wybory wpływają na nasz coraz bardziej złożony świat, okaże się dopiero.

unikanie scenariuszy szarej Mazi

niech twój umysł rozważy najgorszy możliwy wynik. Czy zasadniczo zmagasz się z ryzykiem szkody-na przykład spadkiem kwartalnych zysków lub ryzykiem ruiny-takiej jak zniszczenie kapitału własnego Twojej marki lub dobrej woli konsumentów?

nie pozwól, aby sprawiedliwość przyćmiła twój osąd. Działanie w dobrej wierze i życzliwe cele to za mało. Żadna firma farmaceutyczna nigdy nie zamierzała zaprojektować leku, który zabija ich klientów. Jak napisał John Milton: „łatwe jest zejście do piekła, ponieważ jest ono wybrukowane dobrymi intencjami.”

Bądź szczery ze sobą o tym, jak mało masz kontroli. Jak łatwo jest uruchomić mechanizm hamulcowy, zakładając, że go posiadasz? A jeśli go nie masz, nie sądzisz, że byłoby rozsądnie, gdybyś to zrobił, na wszelki wypadek?

nie używaj młotka do wykonywania pracy śrubokrętem. Opracowanie wielu narzędzi i procesów w celu sprostania różnym wyzwaniom wymaga więcej wysiłku, ale minimalizuje prawdopodobieństwo, że w końcu zrobisz nieodwracalną krzywdę, starając się być celowym.

Użyj ich. Gdyby Bureau of Sugar Experiment Stations wprowadziło ropuchy trzcinowe do bezpiecznego pomieszczenia, aby przetestować ich adaptację do australijskiego środowiska przed wypuszczeniem ich na wolność, może kontynent nie zostałby opanowany przez ohydne gatunki.

Jak przedstawiono w Science Fiction

Kocia kołyska, Kurt Vonnegut

Vonnegut wyobraził sobie polimorf wody o nazwie Ice-Nine, który natychmiast przekształciłby całą wodę, z którą miał kontakt, w super stabilną lodowatą formację. Pierwotnie opracowany, aby pomóc wojskom maszerować przez brudny teren, polimorf przekształca całą wodę na ziemi w lodową dziewiątkę, tworząc wieczną zimę.

Star Trek

w uniwersum Star Trek rasa drapieżnych, przypominających zombie cybernetycznych stworzeń zwanych Borg przekształca każdą napotkaną formę życia w Więcej Borga, wstrzykując im mikroskopijne nanosondy. Ich intencje są, z ich perspektywy, życzliwe: aby podnieść prymitywne kultury do Borg, aby mogły dołączyć do ich dążenia do ” osiągnięcia doskonałości.”Rezultatem jest jednak przerażająca forma technologicznego kolektywizmu, który całkowicie podsyca jednostkę i czyni z niej agenta niewypowiedzianego terroru.

Jayar La Fontaine jest starszym strategiem foresight w Idea Couture. Mieszka w Toronto w Kanadzie.

Ten artykuł pierwotnie ukazał się w numerze MISC 2015 : the Creative Process I został ponownie opublikowany w io9 za zgodą.

Top image: the Day The Earth Stood Still