Ubrzavanjem tehnološkog napretka, čovječanstvo se može brzo približiti kritičnoj točki svog razvoja. Uz već poznate prijetnje poput nuklearnog holokausta, mogućnost brzog napredovanja tehnologija poput nanosustava i strojne inteligencije pruža nam i do sada neviđene mogućnosti i rizike. Naša budućnost i hoćemo li uopće imati budućnost ovisi o tome kako se nosimo s tim izazovima. Uz napredujući napredak tehnologije potrebno nam je bolje razumijevanje dinamike prelaska s ljudskog na "post-ljudsko" društvo. Posebno je važno znati gdje se nalaze zamke: staze na kojima stvari mogu opasno pogriješiti.
Iako imamo veliko iskustvo s izlaganjem raznim osobnim, lokalnim ili toleriranim svjetskim opasnostima, ovaj članak analizira nedavno nastalu kategoriju: egzistencijalni rizici. To nazivamo rizicima događaja koji mogu dovesti do našeg izumiranja ili oštećenja srca potencijalima inteligentnog života koji se razvio na Zemlji. Neke su od tih opasnosti relativno dobro poznate, dok su druge potpuno zanemarene. Postojeće prijetnje imaju brojne značajke koje u ovom slučaju čine konvencionalno upravljanje rizikom neefikasnim. Završno poglavlje ovog članka govori o nekim etičkim i političkim implikacijama ovog problema. Jasnije razumijevanje krajolika prijetnji omogućit će nam da formuliramo bolje strategije.
Život je opasan, a opasnost je posvuda. Srećom, nisu svi rizici jednako ozbiljni. U naše svrhe možemo koristiti tri dimenzije za opisivanje rizika: razmjera, intenzitet i vjerojatnost. Pod "skalom" mislim na veličinu grupe ljudi u riziku. Pod "intenzitetom" mislim koliko ću štete učiniti svakom pojedincu u grupi. A pod "vjerojatnošću" mislim na najbolju trenutnu subjektivnu procjenu vjerojatnosti negativnog ishoda.
1. Tipologija rizika
Možemo razlikovati šest kvalitativno različitih skupina rizika, ovisno o njihovoj razmjeri i intenzitetu (tablica 1). Treća dimenzija, vjerojatnost, može se postaviti na te dvije dimenzije. Ako su sve jednake, rizik je ozbiljniji ako ima značajnu vjerojatnost i ako ga naši postupci mogu povećati ili smanjiti.
Skala / intenzitet: podnošljiva intenzitet, smrtonosna intenzitet
globalno iscrpljivanje ozona X
Promotivni video:
lokalni ekonomski pad u zemlji Genocid
Smrt krađe osobnog automobila
"Osobni", "lokalni" ili "globalni" odnosi se na veličinu populacije koja je izravno pogođena; globalni rizik utječe na cijelo čovječanstvo (i naše potomke). "Podnošljivi intenzitet rizika" i "smrtonosni intenzitet" odnose se na to koliko će loše utjecati stanovništvo u riziku. Podnošljivi rizik može dovesti i do velikih razaranja, ali ostaje prilika za oporavak od štete ili pronalaženje načina za prevladavanje negativnih posljedica. Suprotno tome, krajnji rizik je taj rizik kada predmeti koji su mu izloženi ili umiru ili su nepovratno oštećeni na takav način da im radikalno umanjuju potencijal za život kakav žele živjeti. U slučaju osobnih rizika krajnji ishod može biti, na primjer, smrt, nepovratno ozbiljna oštećenja mozga,ili doživotni zatvor. Primjer lokaliziranog rizika od smrti može biti genocid, koji će dovesti do uništenja čitavog naroda (što se dogodilo s nekoliko indijskih naroda). Drugi primjer je obraćenje u vječno ropstvo.
2. Postojeći rizici
U ovom ćemo članku raspravljati o rizicima šeste kategorije koji su u tablici označeni kao X. Ovo je kategorija globalnih smrtonosnih rizika. Nazvat ću ih egzistencijalnim prijetnjama.
Prijetnje se razlikuju od globalno podnošljivih rizika. Primjeri potonjeg su: prijetnje bioraznolikosti zemaljske ekosfere, umjereno globalno zagrijavanje (pa čak i veliko) i eventualno prigušivanje kulturnih i religijskih razdoblja poput "mračnih doba", čak i ako obuhvaćaju cijelo društvo, ako prije ili kasnije završe (iako pogledajte poglavlje Screech dolje). Reći da je globalni rizik podnošljiv očito je da ne znači da je prihvatljivo ili nije vrlo ozbiljno. Svjetski rat konvencionalnim oružjem ili desetljeće nacističkog Reicha bit će izuzetno teški događaji, unatoč činjenici da spadaju u kategoriju podnošljivih globalnih rizika, jer se čovječanstvo s vremenom može oporaviti. (S druge strane,ovi će događaji predstavljati lokalni smrtni rizik za mnoge pojedince i progonjene etničke skupine.)
Koristit ću sljedeću definiciju egzistencijalnog rizika:
Prijetnja postojanju je rizik u kojem negativni rezultat ili uništava inteligentni život koji je nastao na Zemlji, ili nepovratno i značajno smanjuje njegov potencijal.
Postojanje je rizik koji prijeti čovječanstvu u cjelini. Takve katastrofe imaju ogromne negativne posljedice za čitavu budućnost zemaljske civilizacije.
3. Jedinstvenost problema prijetnji egzistenciji
Rizici u ovoj šestoj kategoriji pojavili su se nedavno. To je jedan od razloga zašto je korisno razdvojiti ih u zasebnu kategoriju. Nismo razvili prirodne ili kulturne mehanizme za rješavanje takvih rizika. Naše institucije i obrambene strategije oblikovane su suočavanjem s rizicima kao što su opasne životinje, neprijateljski raspoloženi ljudi ili plemena, otrovana hrana, prometne nesreće, Černobil, Bhopal, vulkanske erupcije, zemljotresi, suše, Prvi svjetski rat, Drugi svjetski rat, epidemije gripe, boginje., crna kuga i AIDS. Ova vrsta katastrofe događala se mnogo puta, a naš kulturni odnos prema riziku oblikovan je pokušajem i pogreškama u upravljanju takvim prijetnjama. No, biti tragedija izravno za sudionike ovih događaja,sa širokog stanovišta - s gledišta čitavog čovječanstva - čak i najstrašnije ove katastrofe bile su samo pukotine na površini velikog mora života. Nisu značajno utjecali na ukupan broj sretnih i patnih ljudi, niti su odredili dugoročnu sudbinu naše vrste.
Izuzev sudara kometa koji uništavaju vrste i sudara asteroida (koji su izuzetno rijetki), vjerojatno nisu postojale značajne prijetnje postojanju do sredine 20. stoljeća, i definitivno nismo mogli učiniti ništa od toga.
Prva prijetnja postojanju koju je stvorio čovjek bila je prva atomska bomba. U to vrijeme postojala je bojazan da će eksplozija započeti lančanu reakciju "paljenjem" atmosfere. Iako sada znamo da je takav ishod bio fizički nemoguć, u to je vrijeme ta pretpostavka bila u skladu s definicijom egzistencijalne prijetnje. Da bi rizik mogao biti temeljen na dostupnom znanju i razumijevanju, dovoljno je da postoji subjektivna vjerojatnost nepovoljnog ishoda, čak i ako se kasnije ispostavi da objektivno nije postojala nijedna šansa da se nešto loše dogodilo. Ako ne znamo je li nešto objektivno rizično, rizično je u subjektivnom smislu. Naravno, to je subjektivno značenje na čemu bismo trebali temeljiti svoje odluke. U svakom trenutku moramo koristiti najbolju subjektivnu procjenu da likoji su objektivni faktori rizika.
Mnogo veća prijetnja postojanju pojavila se istodobno s pojavom arsenala nuklearnog oružja u SSSR-u i SAD-u. Cjeloviti nuklearni rat bio je moguć sa značajnim stupnjem vjerojatnosti i s posljedicama koje bi mogle biti tako trajne da se mogu okarakterizirati kao globalne i konačne. Među ljudima koji su bili najbolje upoznati s tada dostupnim informacijama, postojala je stvarna zabrinutost da se nuklearni Armagedon može dogoditi i da može trajno izbrisati našu vrstu ili trajno uništiti ljudsku civilizaciju. Rusija i Sjedinjene Države i dalje posjeduju ogromne nuklearne arsenale koji se mogu koristiti u budućem sučeljavanju, slučajno ili namjerno. Postoji i rizik da će druge zemlje jednog dana možda stvoriti velike arsenale. Međutim, imajte na umu da je mala razmjena nuklearnih udara, na primjer, između Indije i Pakistana,ne predstavlja prijetnju egzistenciji, jer neće uništiti čovječanstvo i nepovratno neće oštetiti ljudski potencijal. Takav rat, međutim, bio bi lokalni smrtni rizik za one gradove na koje se cilja. Nažalost, vidjet ćemo da su nuklearni Armageddon i kotarski ili asteroidni udar samo uvod u prijetnje postojanju u 21. stoljeću.
Posebnu prirodu izazova koje predstavljaju egzistencijalne prijetnje mogu se ilustrirati sljedećim napomenama.
Naš pristup egzistencijalnim prijetnjama ne može se temeljiti na pokušajima i pogreškama. Nema načina da učimo na greškama. Reaktivni pristup - gledanje onoga što se dogodilo, ograničavanje štete i učenje iskustvom - ne funkcionira. Umjesto toga, moramo zauzeti proaktivan pristup. Ovo zahtijeva predviđanje za otkrivanje novih vrsta rizika i spremnost na poduzimanje odlučnih preventivnih mjera i plaćanje njihovih moralnih i ekonomskih troškova.
Ne možemo se pouzdano pouzdati u naše institucije, moralne standarde, socijalne stavove ili politike nacionalne sigurnosti koji su se razvili iz našeg iskustva u upravljanju drugim vrstama rizika. Prijetnje egzistencije drugačija su zvijer. Možda će nam biti teško da ih shvatimo ozbiljno koliko zaslužuju, jer takve katastrofe nikada nismo doživjeli. Naš kolektivni odziv straha vjerovatno je loše kalibriran na razmjeru prijetnje.
Smanjenje egzistencijalnih prijetnji opće je javno dobro (Kaul, 1999.) i zato ga tržište možda neće adekvatno opskrbiti (Feldman, 1980.). Prijetnje postojećih prijetnji su svima i mogu zahtijevati međunarodni odgovor. Poštivanje nacionalnog suvereniteta nije legitiman izgovor za neuspjeh u poduzimanju kontramjera protiv kritičnih egzistencija.
Ako uzmemo u obzir dobrobit budućih generacija, tada se šteta od egzistencijalnih prijetnji množi s drugim čimbenikom, koji ovisi o tome uzima li se u obzir i koliko budućih koristi (Caplin, Leahy 2000; Schelling 2000: 833-837).
Iznenađujuće je, s obzirom na nespornu važnost teme, koliko je malo sustavnog rada učinjeno na ovom području. To je dijelom zato što najozbiljniji rizici proizlaze (kao što ćemo pokazati kasnije) iz očekivanih budućih tehnologija koje smo tek nedavno počeli razumijevati. Drugi dio objašnjenja može biti neizbježno interdisciplinarna i špekulativna priroda predmeta istraživanja. A dijelom se zanemarivanje može pripisati nevoljkosti ozbiljnog razmišljanja o depresivnim temama. To ne znači da bismo se trebali obeshrabriti, već da trebamo strogo razmotriti što može poći po zlu kako bismo stvorili robusne strategije za poboljšanje šansi za preživljavanje. Da bismo to učinili, moramo znati gdje da usmjerimo svoje napore.
4. Klasifikacija rizika za postojanje
Za klasificiranje egzistencijalnih rizika koristit ćemo sljedeće 4 kategorije:
Eksplozije (prasak) - Inteligentni život koji je nastao na Zemlji istrijebljen je kao rezultat relativno iznenadne katastrofe, koja se može dogoditi ili kao posljedica nesreće ili namjerno.
Crunches - sposobnost čovječanstva da evoluira u posthumanost nepovratno je oštećena, iako ljudi i dalje nekako žive.
Vriskovi - Neki oblik posthumanstva bit će postignut, ali to će biti samo izuzetno uzak dio spektra onoga što je moguće i željeno.
Šapat - Posthumana civilizacija nastaje, ali razvija se u pravcu koji vodi postupno, ali neopozivo, do potpunog nestanka stvari koje cijenimo, ili do stanja u kojem se te vrijednosti ostvaruju samo u maloj mjeri od razine koja bi se mogla postići.
Oružani takvom klasifikacijom možemo početi analizirati najvjerojatnije scenarije u svakoj kategoriji. Definicije će također postati jasnije kako napredujemo.
Zahvaljujući ubrzanju tehnološkog napretka, čovječanstvo se približava kritičnoj točki u svom razvoju. Pored poznatih prijetnji poput nuklearnog holokausta, mogućnost brzog razvijanja tehnologija poput nanosustava i strojne inteligencije predstavlja nam i do sada neviđene mogućnosti i rizike. Naša budućnost i hoćemo li imati budućnost ovisi o tome kako se nosimo s tim izazovima. Uz napredujući tehnologiju, potrebno nam je bolje razumijevanje dinamike prelaska s ljudskog na post-ljudsko društvo. Važno je znati gdje se nalaze zamke: staze na kojima stvari mogu biti smrtonosne.
Iako imamo dugu povijest izloženosti raznim osobnim, lokalnim i prenosivim opasnostima širom svijeta, ovaj članak analizira novonastalu kategoriju: egzistencijalni rizici. To je ono što nazivamo rizicima događaja koji mogu dovesti do izumiranja ljudi ili oštećenja srca potencijalima inteligentnog života koji se razvio na Zemlji. Neke su od tih opasnosti relativno dobro poznate, dok se druge zanemaruju. Postojeće prijetnje imaju brojne značajke koje u ovom slučaju čine konvencionalno upravljanje rizikom neefikasnim. Završno poglavlje ovog članka govori o nekim etičkim i političkim implikacijama ovog problema. Jasnije razumijevanje krajolika prijetnji omogućit će nam da formuliramo glavne strategije.
Opasno je živjeti, a opasnost je posvuda. Srećom, nisu svi rizici jednako ozbiljni. U naše svrhe koristimo tri dimenzije za opisivanje rizika: razmjera, intenziteta i vjerojatnosti. Pod "skalom" mislim na veličinu grupe ljudi u riziku. Pod "intenzitetom" mislim koliko ću štete učiniti svakom pojedincu u grupi. A pod "vjerojatnošću" mislim na najbolju trenutnu subjektivnu procjenu vjerojatnosti negativnog ishoda.
5. Tipologija rizika
Postoji šest skupina rizika, ovisno o razmjeru i intenzitetu.
Skala / intenzitet: podnošljiva intenzitet / smrtonosna intenzitet
globalno / ozonsko iscrpljivanje, X
lokalni / ekonomski pad u zemlji, Genocide
Osobna / krađa automobila, smrt
Treća dimenzija, vjerojatnost, može se postaviti na te dvije dimenzije. Ako su sve jednake, rizik je ozbiljniji ako ima značajnu vjerojatnost i ako ga naši postupci mogu povećati ili smanjiti.
"Osobni", "lokalni" ili "globalni" odnosi se na veličinu populacije koja je izravno pogođena; globalni rizik utječe na cijelo čovječanstvo (i potomke). "Podnošljivi intenzitet rizika" i "smrtonosni intenzitet" odnose se na to koliko će loše utjecati stanovništvo u riziku. Podnošljivi rizik može dovesti i do uništenja, ali ostaje prilika za oporavak od štete ili pronalaženje načina za prevladavanje negativnih posljedica. Suprotno tome, krajnji rizik je taj rizik kada predmeti koji su mu izloženi ili umiru ili su nepovratno oštećeni na takav način da smanjuju svoj potencijal da žive životom kakav žele živjeti. Za osobne rizike krajnji ishod je smrt, nepovratna, ozbiljna oštećenja mozga ili doživotna zatvorska kazna. Primjer lokalne smrtne opasnosti je genocid koji dovodi do uništenja naroda (što se dogodilo s nekoliko indijskih naroda). Drugi primjer je obraćenje u vječno ropstvo.
Rizici postojanja
U ovom ćemo članku raspravljati o rizicima šeste kategorije koji su u tablici označeni kao X. Ovo je kategorija globalnih smrtonosnih rizika. Nazvat ću ih egzistencijalnim prijetnjama.
Prijetnje se razlikuju od globalno podnošljivih rizika. Primjeri potonjeg su: prijetnje bioraznolikosti zemaljske ekosfere, umjereno globalno zagrijavanje (pa čak i veliko) i eventualno prigušivanje kulturnih i religijskih razdoblja poput "mračnih doba", čak i ako obuhvaćaju cijelo društvo, ako završe prije ili kasnije (iako pogledajte poglavlje Screech dolje). Reći da je globalni rizik podnošljiv očito ne znači reći da je prihvatljiv ili da nije ozbiljan.
Svjetski rat sa standardnim oružjem ili desetljeće nacističkog Reicha bit će izuzetno teški događaji, unatoč činjenici da spadaju u kategoriju podnošljivih globalnih rizika, jer se čovječanstvo s vremenom može oporaviti. (Ali ovi bi događaji predstavljali lokalni smrtni rizik za mnoge i za progonjene etničke skupine.)
Koristit ću sljedeću definiciju egzistencijalnog rizika:
Prijetnja postojanju je rizik u kojem negativni rezultat ili uništava inteligentni život koji je nastao na Zemlji, ili nepovratno i smanjuje njegov potencijal.
Postojanje je rizik koji prijeti čovječanstvu u cjelini. Takve katastrofe imaju negativne posljedice za budućnost zemaljske civilizacije.
Jedinstvenost problema egzistencijalne prijetnje
Rizici u ovoj šestoj kategoriji pojavili su se nedavno. To je jedan od razloga zašto je korisno razdvojiti ih u zasebnu kategoriju. Nismo razvili prirodne ili kulturne mehanizme za rješavanje takvih rizika. Naše institucije i obrambene strategije oblikovane su suočavanjem s rizicima kao što su opasne životinje, neprijateljski raspoloženi ljudi ili plemena, otrovana hrana, prometne nesreće, Černobil, Bhopal, vulkanske erupcije, zemljotresi, suše, Prvi svjetski rat, Drugi svjetski rat, epidemije gripe, boginje., crna kuga i AIDS. Ova vrsta katastrofe događala se mnogo puta, a naš kulturni odnos prema riziku oblikovan je pokušajem i pogreškama u upravljanju takvim prijetnjama. No, biti tragedija izravno za sudionike ovih događaja,sa širokog stanovišta - s gledišta čovječanstva - čak i najstrašnije ove katastrofe bile su samo pukotine na površini velikog mora života.
Nisu značajno utjecali na ukupan broj sretnih i patnih ljudi, niti su odredili dugoročnu sudbinu naše vrste.
Izuzev sudara kometa koji uništavaju vrste i sudara asteroida (što je izuzetno rijetko), do sredine 20. stoljeća nije bilo prijetnji postojanju i sigurno nismo mogli ništa učiniti ni s jednim od njih.
Prva prijetnja postojanju koju je stvorio čovjek bila je prva atomska bomba. U to vrijeme postojala je bojazan da će eksplozija započeti lančanu reakciju "paljenjem" atmosfere. Iako sada znamo da je takav ishod bio fizički nemoguć, u to je vrijeme ta pretpostavka bila u skladu s definicijom egzistencijalne prijetnje. Da bi nešto bilo dovoljno rizika, postoji subjektivna vjerojatnost nepovoljnog ishoda, čak i ako se kasnije ispostavi da objektivno nije postojala nijedna šansa da se dogodi nešto loše. Ako ne znamo je li nešto objektivno rizično ili ne, to je rizik u subjektivnom smislu. Naravno, to je subjektivno značenje na čemu bismo trebali temeljiti svoje odluke. U svakom trenutku moramo koristiti najbolju subjektivnu procjenu o tome koji su objektivni faktori rizika.
Mnogo veća prijetnja postojanju pojavila se istodobno s pojavom arsenala nuklearnog oružja u SSSR-u i SAD-u. Cjeloviti nuklearni rat bio je moguć sa značajnim stupnjem vjerojatnosti i s posljedicama koje bi mogle biti tako trajne da se mogu okarakterizirati kao globalne i konačne. Rasprostranjena je zabrinutost među ljudima koji su se najbolje upoznali s dostupnim informacijama u to vrijeme da se nuklearni Armagedon može dogoditi i da će izbrisati našu vrstu ili uništiti ljudsku civilizaciju zauvijek.
Rusija i Sjedinjene Države posjeduju ogromne nuklearne arsenale koji bi se mogli koristiti u budućem sučeljavanju, slučajno ili namjerno. Postoji i rizik da će druge zemlje jednog dana možda stvoriti velike arsenale. No, mala razmjena nuklearnih udara, na primjer, između Indije i Pakistana, ne prijeti postojanju, jer neće uništiti čovječanstvo i nepovratno štetiti ljudskom potencijalu. Takav rat, međutim, bio bi lokalni smrtni rizik za one gradove na koje se cilja. Nažalost, vidjet ćemo da su nuklearni Armageddon i kotarski ili asteroidni udar samo uvod u prijetnje postojanju u 21. stoljeću.
Priroda problema koji proizlaze iz egzistencijalnih prijetnji ilustrirat će se sljedećim napomenama.
Naš pristup egzistencijalnim prijetnjama ne može se temeljiti na pokušajima i pogreškama. Ne možete učiti na greškama. Reaktivni pristup - gledanje onoga što se dogodilo, ograničavanje štete i učenje iskustvom - ne funkcionira. Moramo zauzeti proaktivan pristup. Ovo zahtijeva predviđanje za otkrivanje novih vrsta rizika i spremnost na poduzimanje preventivnih mjera i plaćanje njihovih moralnih i ekonomskih troškova.
Ne možemo se pouzdano pouzdati u institucije, moralne standarde, socijalne stavove ili politike nacionalne sigurnosti koje su evoluirale iz iskustva u upravljanju drugim vrstama rizika. Prijetnje egzistencije drugačija su zvijer. Teško nam je da ih shvatimo ozbiljno koliko zaslužuju, jer nikad nismo doživjeli takve katastrofe. Kolektivni odgovor straha vjerovatno je loše kalibriran u mjeri prijetnje.
Smanjenje egzistencijalnih prijetnji opće je javno dobro (Kaul, 1999.) i tržište ga stoga nedovoljno opskrbljuje (Feldman, 1980.). Prijetnje postojanju prijetnje su svima i zahtijevaju međunarodni odgovor. Poštivanje nacionalnog suvereniteta nije legitiman izgovor za neuspjeh u poduzimanju kontramjera protiv kritičnih egzistencija.
Iznenađujuće je, s obzirom na nespornu važnost teme, koliko je malo sustavnog rada učinjeno na ovom području. To je dijelom zato što najozbiljniji rizici proizlaze (kako ćemo kasnije pokazati) iz očekivanih budućih tehnologija koje smo tek nedavno razumjeli.
Drugi dio objašnjenja može biti neizbježno interdisciplinarna i špekulativna priroda predmeta istraživanja. A dijelom se zanemarivanje može pripisati nevoljkosti ozbiljnog razmišljanja o depresivnim temama. To ne znači da bismo se trebali obeshrabriti, već da trebamo strogo razmotriti što može poći po zlu kako bismo stvorili robusne strategije za poboljšanje šansi za preživljavanje. Da bismo to učinili, moramo znati gdje da usmjerimo svoje napore.
Klasifikacija postojećeg rizika
Za klasificiranje egzistencijalnih rizika koristit ćemo sljedeće 4 kategorije:
Eksplozije (prasak) - Inteligentni život koji je nastao na Zemlji istrijebljen je kao rezultat relativno iznenadne katastrofe, koja se može dogoditi ili kao posljedica nesreće ili namjerno.
Crunches - sposobnost čovječanstva da evoluira u posthumanost nepovratno je oštećena, iako ljudi i dalje nekako žive.
Vriskovi - Neki oblik posthumanstva bit će postignut, ali to će biti samo izuzetno uzak dio spektra onoga što je moguće i željeno.
Šapat - Posthumana civilizacija nastaje, ali razvija se u pravcu koji vodi postupno, ali neopozivo, do potpunog nestanka stvari koje cijenimo, ili do stanja u kojem se te vrijednosti ostvaruju samo u maloj mjeri od razine koja bi se mogla postići.
Oružani takvom klasifikacijom možemo početi analizirati najvjerojatnije scenarije u svakoj kategoriji. Definicije će također postati jasnije kako napredujemo.
Šiške
To je najočitiji oblik globalnog rizika. Taj je koncept najlakši za razumjeti. Ispod su neki od najvjerojatnijih načina eksplozivnog završetka svijeta. Pokušao sam ih organizirati uzlaznim redoslijedom (po mojoj procjeni) vjerojatnosti prouzrokovanja istrebljenja inteligentnog života na Zemlji; ali moja je namjera koja se tiče naređenja bila stvoriti osnovu za daljnju raspravu, a ne dati neke nedvosmislene izjave.
1. Namjerna zloupotreba nanotehnologije
U svom zrelom obliku, molekularna nanotehnologija omogućit će stvaranje samoponovljivih robota veličine bakterija koje se mogu hraniti kanalizacijom ili drugom organskom tvari (Drexler 1985, 1992; Merkle i sur. 1991: 187-195; Freitas 2000). Takvi replikatori mogu pojesti biosferu ili je uništiti na druge načine, poput trovanja, spaljivanja ili blokiranja sunčeve svjetlosti. Čovjek s kriminalnim namjerama ove nanotehnologije može prouzrokovati uništenje inteligentnog života na Zemlji puštanjem takvih nanobotova u okoliš.
Čini se da je tehnologija stvaranja razornih nanobotova mnogo jednostavnija od tehnologije za stvaranje učinkovite obrane od takvog napada (globalni nanotehnološki imunološki sustav, "aktivni štit" (Drexler 1985)). Stoga će vjerojatno doći do razdoblja ranjivosti tijekom kojeg je potrebno spriječiti da te tehnologije padnu u pogrešne ruke. Također, ovim se tehnologijama može teško upravljati, jer ne zahtijevaju rijetke radioaktivne izotope ili velike tvornice koje se lako otkriju, kao što je to slučaj u proizvodnji nuklearnog oružja (Drexler 1985).
Čak i ako je učinkovita obrana od ograničenog napada nanotehnologije uspostavljena prije nego što se opasni replikatori razviju i steknu samoubilački režimi ili teroristi, još uvijek postoji opasnost od utrke u naoružanju između država koje posjeduju nanotehnologiju. Smatra se (Gubrud 2000) da će molekularna proizvodnja dovesti do veće nestabilnosti u utrci oružja i veće nestabilnosti u odnosu na krize od nuklearnog oružja. Nestabilnost utrke u naoružanju znači da će na svakoj natjecateljskoj strani dominirati želja za jačanjem naoružanja, što dovodi do brzog odvijanja utrke u naoružanju. Nestabilnost u odnosu na krize znači da će prvi udar biti glavni poticaj za svaku stranu. Dva otprilike jednako snažna protivnika,Nakon što su nabavili nanotehnološko oružje, započet će, s ove točke gledišta, masovnu proizvodnju i oblikovanje oružja, koje će se nastaviti sve dok se ne dogodi kriza i ne počne rat, koji bi potencijalno mogao prouzročiti univerzalno konačno uništenje. Da se ova trka u naoružanju može predvidjeti nije jamstvo da će na vrijeme biti uspostavljen međunarodni sigurnosni sustav koji će spriječiti ovu katastrofu. Predviđena je utrka nuklearnog naoružanja između SSSR-a i SAD-a, ali to se ipak dogodilo.da će se na vrijeme stvoriti međunarodni sigurnosni sustav kako bi se spriječila ova katastrofa. Predviđena je utrka nuklearnog naoružanja između SSSR-a i SAD-a, ali to se ipak dogodilo.da će se na vrijeme stvoriti međunarodni sigurnosni sustav kako bi se spriječila ova katastrofa. Predviđena je utrka nuklearnog naoružanja između SSSR-a i SAD-a, ali to se ipak dogodilo.
2. Nuklearni holokaust
Sjedinjene Države i Rusija još uvijek imaju ogromne rezerve nuklearnog oružja. No hoće li cjeloviti nuklearni rat dovesti do stvarnog istrebljenja čovječanstva? Imajte na umu da:
(a) da bi to postao egzistencijalni rizik, dovoljno je da nismo sigurni da se to neće dogoditi.
(b) klimatski učinci nuklearnog rata velikih razmjera malo su poznati (postoji mogućnost nuklearne zime).
(c) ne mogu se isključiti buduće utrke s oružjem između zemalja, a to bi moglo dovesti do pojave još većih arsenala od onih koji su postojali na vrhuncu hladnog rata. Svjetska zaliha plutonija u stalnom je porastu i dostigla je 2000 tona, što je oko deset puta više nego što je ostalo u bojevim glavama (Leslie 1996: 26). Čak i ako neki ljudi prežive kratkotrajne posljedice nuklearnog rata, to bi moglo dovesti do propasti civilizacije. Ljudska rasa iz kamenog doba može ili ne mora biti otpornija na izumiranje od ostalih životinjskih vrsta.
3. Živimo u simulaciji i ona se isključuje
Može se tvrditi da hipotezu da živimo u računalnoj simulaciji treba pripisati značajnoj vjerojatnosti (Bostrom 2001). Glavna ideja iza takozvanog Dokazivanja simulacije je da će u budućnosti biti dostupne ogromne količine računalne snage (Moravec 1989, 1999), te da se mogu koristiti, između ostalog, za pokretanje velikog broja fino strukturiranih simulacija prošlosti. ljudske civilizacije. Na nekoliko ne baš nevjerojatnih pretpostavki, rezultat može biti da su većina uma poput našeg simulirani umovi, pa moramo pripisati značajnu vjerojatnost da smo takvi simulirani umovi, a ne (subjektivno nerazlučivi) umovi prirodno evoluiranih bića. I ako je tako, riskiramoda se simulacija može u bilo kojem trenutku isključiti. Odluka da zaustavimo našu simulaciju može biti posljedica naših djelovanja ili vanjskih čimbenika.
Iako se nekome može činiti neozbiljno iznijeti tako radikalnu hipotezu pored specifične prijetnje nuklearnog holokausta, svoje zaključke bismo trebali temeljiti na rasuđivanju, a ne na neobrazovanoj intuiciji. Sve dok ne postoji pobijanje argumenata koje je iznio Bostrom (2001), bilo bi intelektualno nepošteno nepoštovanje isključenja simulacije kao mogućeg uzroka izumiranja ljudi.
4. Loše programirana superinteligencija
Kada stvorimo prvi superinteligentni uređaj (Moravec 1989, 1998, 1999; Vinge 1993; Bostrom 1998; Kurzweil 1999; Hanson i dr. 1998), možemo pogriješiti i postaviti ciljeve koji će ga usmjeriti prema uništenju čovječanstva, s obzirom na njegov kolosalni intelektualna prednost koja daje snagu za to. Na primjer, možemo pogrešno uzdići cilj niže razine do statusa supergola. Kažemo mu da riješi neki matematički problem, a on posluša, pretvarajući svu materiju u Sunčevom sustavu u ogroman računalni uređaj, usput ubijajući osobu koja je postavila ovo pitanje. (Za daljnju analizu ove teme, vidi (Yudkowsky 2001)).
5. Genetski inženjerski biološki objekt
Kao rezultat ogromnog napretka genetske tehnologije koji se sada događa, tiranin, terorista ili luđak može stvoriti "virus posljednjeg dana": organizam koji kombinira dugu latenciju s visokom virulencijom i smrtonosnošću (Nacionalno vijeće za obavještajne poslove 2000).
Opasni virusi se mogu čak i nenamjerno uzgajati, što su nedavno pokazali australijski istraživači koji su stvorili modificirani virus Ectromelia miša sa 100% smrtonosnošću kada su pokušali dizajnirati kontracepcijski virus za miševe koji će se koristiti za suzbijanje štetočina glodavaca (Nowak 2001). Iako ovaj određeni virus ne zaražava ljude, sumnja se da bi slične promjene povećale smrtnost ljudskog virusa malih boginja. Ovde se dodaje potencijalna opasnost to što je studija brzo objavljena u otvorenoj znanstvenoj literaturi (Jackson i sur. 2001: 1479-1491). Rijetko je vidjeti podatke stvorene u otvorenim biotehničkim projektima koji su tajni, bez obzira na to jesu likoliko ozbiljnu potencijalnu opasnost predstavlja - a isto se odnosi i na istraživanja u nanotehnologiji.
Genetska medicina dovest će do boljih lijekova i cjepiva, ali nema garancije da će obrane nastaviti s uvredom. (Čak je i slučajno generirani virus mišje osme imao 50% stopu smrtnosti kod cijepljenih miševa.) Na kraju, opasnost od biološkog oružja može biti pokopana napretkom nanomedicina, ali dok nanotehnologija ima ogroman dugoročni potencijal za medicinu (Freitas 1999), ona nosi svoje opasnosti.
6. Pogrešno korištenje opasne nanotehnologije ("siva goo")
Mogućnost nesreće nikada se ne može u potpunosti isključiti.
Međutim, postoji mnogo načina da se izbjegnu nesreće ubijanja ljudi upotrebom pouzdanih inženjerskih rješenja. Može se izbjeći opasna uporaba samoponovljivih sustava; možete napraviti nanobotike ovisno o upotrebi neke rijetke kemikalije koja ne postoji u prirodi; možete ih zatvoriti u zatvorenom okruženju; mogu se oblikovati tako da će svaka mutacija gotovo sigurno uzrokovati da nanobot prestane funkcionirati (Foresight Institute 2000). Iz tog razloga, slučajna zlouporaba nanobotova znatno je zabrinjavajuća nego zlonamjerna (Drexler 1985; Freitas 2000; (Foresight Institute 1997-1991).
Međutim, razlika između slučajnog i namjernog može postati nejasna. Iako se, u načelu, čini kako bi globalne nanotehnološke katastrofe bile vrlo malo vjerojatne, specifične okolnosti mogu spriječiti ostvarivanje ove idealne razine sigurnosti. Usporedite nanotehnologiju s nuklearnom tehnologijom. S inženjerskog stajališta, naravno, nuklearnu tehnologiju moguće je koristiti samo u miroljubive svrhe, na primjer, samo u nuklearnim reaktorima, koji imaju nultu vjerojatnost da će uništiti cijeli planet. No u praksi se pokazalo da je nemoguće izbjeći uporabu nuklearne tehnologije također za stvaranje nuklearnog oružja, što je dovelo do utrke u naoružanju. S nuklearnim arsenalima na visokoj razini borbene gotovosti, veliki rizik od slučajnog rata neizbježan je. Isto se može dogoditi s nanotehnologijom:mogu biti prisiljeni služiti u vojne svrhe na način koji može stvoriti neposredan rizik ozbiljnih nesreća.
U nekim situacijama, možda je čak i strateški korisno namjerno učiniti određenu tehnologiju ili upravljački sustav rizičnim, na primjer, stvoriti „fundamentalno nepredvidivu prijetnju u kojoj uvijek postoji element šanse“- (Schelling 1960).
7. Nešto neočekivano
Potrebna nam je takva objedinjujuća kategorija. Bilo bi glupo vjerovati da smo sve značajne prijetnje već izmislili i predvidjeli. Buduća tehnološka ili znanstvena otkrića lako mogu stvoriti nove načine uništavanja svijeta.
Neke predvidljive opasnosti (a time i ne iz ove kategorije) isključene su s popisa eksplozija zbog činjenice da izgledaju previše malo vjerovatno uzroci globalne katastrofe, naime: solarni bljeskovi, supernove, eksplozije i spajanja crnih rupa, eksplozije gama zraka, izbijanja u galaktičkom središtu, supervulkani, gubitak biološke raznolikosti, povećano zagađenje zraka, postepeni gubitak ljudske sposobnosti za reprodukciju i mnogi scenariji vjerskih sudbonosnih dana. Hipoteza da ćemo jednog dana doći do "prosvjetljenja" i počiniti kolektivno samoubojstvo ili prestati množiti se, kao što VHEMT (Pokret dobrovoljnog ljudskog izumiranja) zagovara nadu (Knight 2001), čini se malo vjerojatnom. Ako doista,bilo bi bolje da ne postoji (kao što je Silenus rekao kralju Midasu u grčkom mitu i kao što je Arthur Schopenhauer tvrdio (Schopenhauer 1891), iako iz razloga specifičnih za njegov određeni filozofski sustav nije agitirao za samoubojstvo), tada ovaj scenarij ne bismo smatrali globalnim katastrofa. Pretpostavka da biti živ nije loše trebalo bi u definiciji Eksplozija promatrati kao podrazumijevanu pretpostavku. Lažno opće samoubojstvo rizik je postojanja, premda je njegova vjerojatnost izuzetno mala. (Više o etici ljudskog izumiranja vidi poglavlje 4 (Leslie 1996: 26).)da biti živ nije loše, treba smatrati implicitnom pretpostavkom u definiciji eksplozija. Lažno opće samoubojstvo rizik je postojanja, premda je njegova vjerojatnost izuzetno mala. (Više o etici ljudskog izumiranja vidi poglavlje 4 (Leslie 1996: 26).)da biti živ nije loše, treba smatrati implicitnom pretpostavkom u definiciji eksplozija. Lažno opće samoubojstvo rizik je postojanja, premda je njegova vjerojatnost izuzetno mala. (Više o etici ljudskog izumiranja vidi poglavlje 4 (Leslie 1996: 26).)
8. Katastrofe kao rezultat fizičkih eksperimenata
Dizajneri atomske bombe Manhattan Project zabrinuti su da će eksplozija zapaliti atmosferu modernih kolega.
Bilo je nagađanja da eksperimenti na budućim akceleratorima čestica visoke energije mogu prouzrokovati uništavanje metastabilnog stanja vakuuma u kojem se naš kozmos nalazi, pretvarajući ga u "pravi" vakuum s manjom gustoćom energije (Coleman, Luccia 1980: 3305-3315). To će stvoriti rastući mjehurić potpunog uništenja koji će se širiti cijelom galaksijom i dalje brzinom svjetlosti, rastrgavajući svu tvar dok putuje.
Druga ideja je da bi pokreti akceleratora mogli stvoriti negativno nabijene, stabilne „čudne ljuskice“(hipotetički oblik nuklearne materije) ili stvoriti mikroskopsku crnu rupu koja se uranja u središte Zemlje i počinje konzumirati ostatak planete (Dar i sur. 1999: 142-148). Takvi scenariji se čine nemogućim na temelju naših najboljih teorija fizike. Ali razlog što radimo eksperimente je upravo zato što ne znamo što će se zapravo dogoditi. Mnogo su uvjerljiviji dokazi da su gustoće energije koje se mogu postići u modernim akceleratorima znatno niže od onih koje nalazimo u prirodi u sudarima kozmičkih zraka (Dar i sur. 1999: 142-148; Turner, Wilczek 1982: 633-634). Moguće je, međutim,da su faktori osim gustoće energije važni za ove hipotetičke procese, i ti će se čimbenici spojiti u budućim novim eksperimentima.
Glavni uzrok zabrinutosti zbog "fizičkih katastrofa" je promatranje na meta-razini kako se otkrića svih vrsta opasnih fizičkih pojava događaju stalno, pa čak i ako su sada sve fizičke katastrofe o kojima mislimo potpuno nevjerojatne ili nemoguće, još uvijek mogu postoje realniji putevi do katastrofe koji čekaju da budu otkriveni. Ovdje dani su tek ilustracije općeg slučaja.
9. Bolest koja se javlja prirodno
Što ako je AIDS bio zarazan kao i obična prehlada?
Postoji nekoliko značajki modernog svijeta zbog kojih bi globalna pandemija mogla biti mnogo vjerojatnija nego ikad prije. Putovanja, trgovina hranom i urbani život značajno su porasli u moderno vrijeme, što olakšava da nova bolest brzo zarazi većinu svjetskog stanovništva.
10. Sudar s asteroidom ili kometom
Postoji stvaran, ali vrlo mali rizik da ćemo biti istrebljeni od udara asteroida ili komete (Morrison i sur., 1994.).
Da bi izazvalo izumiranje čovječanstva, tijelo koje je udaralo mora imati promjer više od 1 km (a vjerojatno 3-6 km.) Bilo je najmanje pet, a možda i više desetaka masovnih izumiranja na Zemlju, a barem su neki vjerojatno uzrokovani sudarima. (Leslie 1996: 81 f). Konkretno, izumiranje dinosaura prije 65 milijuna godina bilo je povezano s padom asteroida promjera 10-15 km na poluotok Yucatan. Vjeruje se da se tijelo promjera 1 km ili više sudara sa Zemljom u prosjeku jednom svakih pola milijuna godina. Do sada smo katalogizirali samo mali dio potencijalno opasnih tijela.
Ako na vrijeme možemo primijetiti tijelo koje se približava, imat ćemo dobre šanse da ga odbijemo presijecajući ga nuklearnom raketom (Gold 1999).
11. Nezaustavljivo globalno zagrijavanje
Postoji scenarij da ispuštanje stakleničkih plinova u atmosferu može biti proces s jakim pozitivnim povratnim informacijama. Možda se to dogodilo s Venerom koja sada ima atmosferu i temperaturu od 450 ° C. Nadamo se, međutim, da ćemo imati tehnološka sredstva da se suprostavimo ovom trendu u trenutku kada on postane stvarno opasan.
Nick Bostrom