Nošeni hiperom o trenutnim "krizama" s kojima se suočava čovječanstvo, zaboravljamo na veliki broj generacija za koje se nadamo da će nas doći zamijeniti. Ne govorimo o onim ljudima koji će živjeti 200 godina nakon nas, već o onima koji će živjeti tisuću ili 10 tisuća godina nakon nas.
Koristim riječ "nada" jer smo suočeni s rizicima koji se nazivaju egzistencijalnim i koji mogu uništiti čovječanstvo. Ti su rizici povezani ne samo s velikim katastrofama, već i s katastrofama koje mogu završiti povijest.
Međutim, ne zanemaruju svi daleku budućnost. Mističari poput Nostradamusa redovito pokušavaju odrediti datum kraja svijeta. H. G. Wells pokušao je razviti znanost predviđanja i poznato je da je u Vremenskom stroju opisao budućnost čovječanstva. Drugi su pisci smislili druge verzije daleke budućnosti kako bi upozorili, zabavili ili sanjali.
No čak i da svi ti pioniri i futuristi ne razmišljaju o budućnosti čovječanstva, rezultat bi i dalje ostao isti. Prije toga čovjek nije mogao puno učiniti da bi nas spasio od egzistencijalne krize ili je čak mogao izazvati.
Danas smo u privilegiranijem položaju. Ljudska aktivnost postupno oblikuje budućnost našeg planeta. Iako smo još uvijek daleko od upravljanja katastrofama, već razvijamo tehnologije koje mogu ublažiti njihove posljedice ili barem učiniti nešto po tom pitanju.
Budućnost je nesavršena
Međutim, ti rizici još uvijek nisu dobro shvaćeni. U vezi s navedenim problemima vlada nemoć i fatalizam. Ljudi već tisućljećima govore o apokalipsama, ali malo ih je pokušalo spriječiti. Štoviše, ljudska bića nisu toliko jaka u smislu problema koji se još nisu pojavili (posebno zbog utjecaja heuristike dostupnosti) - tendencije precjenjivanja vjerojatnosti tih događaja, čiji su nam primjeri poznati i podcjenjivanja događaja koje imamo ne možemo se odmah sjetiti).
Promotivni video:
Ako čovječanstvo prestane postojati, tada će takva vrsta gubitka biti u najmanju ruku jednaka gubitku svih živih pojedinaca, kao i krahu svih njihovih ciljeva. Međutim, u stvarnosti će gubitak vjerojatno biti puno veći. Nestanak osobe znači gubitak značenja koje su stvorile prethodne generacije, gubitak života svih budućih generacija (a broj budućih života može biti astronomski), kao i svih onih vrijednosti koje bi vjerojatno mogli stvoriti.
Ako svijesti i razuma više nema, onda to može značiti da sama vrijednost prestaje postojati u svemiru. To je vrlo dobar moralni razlog za neumorni rad na sprječavanju egzistencijalnih prijetnji. I na ovom putu ne smijemo napraviti niti jednu grešku.
S tim u vezi, odabrao sam pet najozbiljnijih prijetnji ljudskom postojanju. Međutim, treba uzeti u obzir neke dodatne okolnosti, jer ovaj popis još nije konačan.
Tijekom proteklih nekoliko stoljeća otkrili smo ili stvorili nove egzistencijalne rizike za sebe: početkom 1970-ih otkriveni su supervulkani, a prije projekta Manhattan nuklearni rat bio je nemoguć. Stoga bismo trebali očekivati da se pojave i druge prijetnje. Uz to, neki od rizika koji se danas čine ozbiljnim mogu nestati kako se akumulira znanje. Vjerojatnost određenih događaja također se mijenja s vremenom. Ponekad se to dogodi jer smo zabrinuti zbog postojećih rizika i rješavamo njihove uzroke.
Konačno, činjenica da je nešto moguće i potencijalno rizično ne znači da se vrijedi brinuti. Postoje rizici s kojima uopće ne možemo učiniti ništa - na primjer, tokovi gama zraka koji nastaju eksplozijom galaksija. Ali ako otkrijemo da smo sposobni nešto poduzeti, onda se prioriteti mijenjaju. Primjerice, s poboljšanjem sanitarnih uvjeta, pojavom cjepiva i antibiotika, kuga se počela doživljavati ne kao manifestacija božanske kazne, već kao rezultat lošeg zdravstvenog stanja.
1. Nuklearni rat
Iako su do sada korištene samo dvije atomske bombe - u Hiroshimi i Nagasakiju tijekom Drugog svjetskog rata - i zalihe su se smanjile s njihovih hladnoratovskih vrhova, pogrešno bi bilo misliti da je nuklearni rat nemoguć. Zapravo, čini se da nije nevjerojatna.
Kubanska raketna kriza bila je vrlo blizu da postane nuklearna. Ako polazimo od pretpostavke da se takva kriza događa svakih 69 godina i postoji svaka treća šansa da bi mogla dovesti do izbijanja nuklearnog rata, tada se povećava mogućnost takve katastrofe i odgovarajući koeficijent bit će 1 na 200 godišnje.
Još gore, kubanska raketna kriza samo je najpoznatiji slučaj. Povijest sovjetsko-američkog nuklearnog odvraćanja obiluje kriznim situacijama i opasnim pogreškama. Stvarna vjerojatnost više ne ovisi o međunarodnoj napetosti, no vjerojatnost nuklearnog sukoba vjerojatno neće biti niža od koeficijenta 1 na 1000 godišnje.
Nuklearni rat najvećih sila velikih razmjera doveo bi do smrti stotina milijuna ljudi izravno u trenutku razmjene štrajkova ili kao posljedica njihovih posljedica - bila bi to nezamisliva katastrofa. Međutim, za egzistencijalni rizik to još uvijek nije dovoljno.
To isto treba reći i za rizike povezane s posljedicama nuklearnih eksplozija - oni su često pretjerani. Lokalno su smrtonosni, ali globalno predstavljaju relativno ograničen problem. Bombe s kobaltom predložene su kao hipotetičko oružje sudnjeg dana sposobno uništiti sve kao posljedice povezane s njihovom uporabom, ali u praksi su vrlo teške za proizvodnju i skupe. A njihovo je stvaranje, zapravo, nemoguće.
Prava prijetnja je nuklearna zima - to jest, čestice čađe koje se mogu uzdići u stratosferu i time prouzročiti dugoročni pad temperature i dehidraciju planeta. Trenutne klimatske simulacije pokazuju da bi to dugo godina onemogućavalo obrađivanje većeg dijela planeta.
Ako se ovaj scenarij ostvari, milijarde ljudi umrijet će od gladi, a mali broj preživjelih bit će izložen drugim prijetnjama, uključujući bolesti. Glavna je nesigurnost kako će se ponašati čestice čađe koje se uzdižu na nebo: ovisno o njihovom sastavu, rezultat može biti različit, a zasad nemamo pouzdan način za mjerenje takve vrste posljedica.
2. Pandemije uzrokovane bioinženjeringom
Prirodne pandemije uzrokovale su više smrtnih slučajeva nego ratova. Međutim, malo je vjerojatno da će prirodne pandemije predstavljati egzistencijalnu prijetnju. Obično postoje ljudi imuni na patogene, a potomci preživjelih postaju još zaštićeniji.
Evolucija također nije posebna podrška onim parazitima koji uništavaju organizme domaćina, zbog čega se sifilis, šireći se Europom, pretvorio u opakog ubojicu i kroničnu bolest.
Nažalost, mi sami sada možemo bolesti učiniti razornijima. Jedan od najpoznatijih primjera je kako je uključivanje dodatnog gena u mišje boginje - mišju varijantu malih boginja - učinilo mnogo opasnijim po život i sposobnim da zarazi već cijepljene osobe. Nedavni rad s ptičjom gripom pokazao je da se zaraznost bolesti može namjerno povećati.
Trenutno je zanemariv rizik da netko namjerno širi neku vrstu zlonamjerne infekcije. Međutim, kako se biotehnologija poboljšava i postaje sve jeftinija, sve će više skupina moći bolest učiniti još opasnijom.
Većinu posla na polju biološkog oružja izvode države koje žele nešto kontrolirati, jer uništavanje čovječanstva nije vojno korisno. Međutim, uvijek će biti ljudi koji uđu raditi neke stvari jednostavno zato što su u stanju to učiniti. Drugi mogu imati uzvišenije ciljeve.
Primjerice, članovi vjerske skupine Aum Shinrikyo pokušali su ubrzati nastup apokalipse primjenom biološkog oružja, a ne samo uspješnijim napadom živčanim plinovima. Neki ljudi vjeruju da će se situacija na Zemlji poboljšati ako na njoj više nema ljudskih bića, i tako dalje.
Broj smrtnih slučajeva uslijed upotrebe biološkog oružja i epidemijskih bolesti daje naslutiti da se razvijaju prema zakonu o moći - u velikom broju slučajeva ima malo žrtava, ali u malom broju slučajeva ima mnogo žrtava. S obzirom na trenutno dostupne podatke, čini se da je rizik od globalne pandemije bioterorizma mali.
Ali to se odnosi samo na bioterorizam: vlade su uz pomoć biološkog oružja ubile znatno više ljudi nego bioteroristi (oko 400 tisuća ljudi postalo je žrtvama japanskog programa biološkog rata tijekom Drugog svjetskog rata). Tehnologija postaje sve moćnija, pa će stoga stvaranje još više patogena u budućnosti biti lakše.
3. Superinteligencija
Inteligencija je moćna. Neznatno povećanje rješavanja problema i koordinacije grupa razlog je zbog kojeg su ostale vrste majmuna bez posla. Trenutno njihovo postojanje ovisi o odlukama koje je osoba donijela, a ne o tome što čini.
Biti pametan prava je izvrsnost za ljude i organizacije, pa se stoga puno napora posvećuje poboljšanju naše individualne i kolektivne inteligencije, od lijekova za poboljšanje kognitivnih sposobnosti do razvijanja programa povezanih s umjetnom inteligencijom.
Problem je u tome što inteligentni sustavi imaju dobru izvedbu u postizanju svojih ciljeva, ali ako su ti ciljevi loše definirani, tada imaju sposobnost koristiti svoju snagu za postizanje svojih katastrofalnih ciljeva na pametan način. Nema razloga misliti da je sam intelekt sposoban učiniti nešto ili da netko djeluje ispravno i moralno. Zapravo postoji mogućnost da će se neke vrste superinteligentnih sustava suprotstaviti moralnim pravilima čak i kad bi to bilo moguće.
Još više zabrinjava činjenica da kada pokušavamo objasniti stvari umjetnoj inteligenciji, suočeni smo s dubokim praktičnim i filozofskim problemima. Ljudske vrijednosti su nejasna, složena pitanja koja još ne možemo dobro definirati, a čak i da možemo, možda ne bismo razumjeli pune implikacije onoga što pokušavamo stvoriti.
Softverski zasnovana inteligencija može vrlo brzo zatvoriti jaz s ljudima, a mogućnosti strojeva mogu postati opasne. Problem je u tome što se umjetna inteligencija može povezati s biološkom inteligencijom na različite načine: može brže raditi na bržim računalima, njezini se dijelovi mogu nalaziti na više računala, neke se verzije mogu testirati i ažurirati u letu i postoji mogućnost uvođenja novih algoritama koji mogu dramatično povećati performanse.
Danas mnogi pretpostavljaju da je vjerojatan „proboj u inteligenciji“ako sami programi imaju dovoljno kapaciteta za proizvodnju boljih programa. Ako se dogodi ovakav skok, tada će postojati velika razlika između pametnog sustava (ili ljudi koji mu govore što treba učiniti) i ostatka svijeta. Takva bi situacija vrlo dobro mogla dovesti do katastrofe ako ciljevi nisu točno postavljeni.
Neobična stvar superinteligencije je ta što ne znamo je li moguć brz i snažan proboj u razvoju inteligencije: možda se naša trenutna civilizacija u cjelini poboljšava najvećom brzinom. Međutim, postoji dovoljan razlog za vjerovanje da su neke tehnologije sposobne neke stvari pomaknuti naprijed puno brže od mogućnosti poboljšanja njihove kontrole od strane modernog društva.
Uz to, još nismo u stanju shvatiti koliko neki oblici superinteligencije mogu biti opasni i kako će djelovati strategije ublažavanja. Vrlo je teško nagađati o budućim tehnologijama koje još nemamo ili inteligenciji koja nadilazi ono što imamo. Među navedenim rizicima, upravo je taj koji ima najviše šansi postati ili uistinu velik, ili ostati samo fatamorgana.
Općenito, ovo područje još nije dovoljno proučeno, što je iznenađujuće. Čak su i 1950-ih i 1960-ih ljudi bili potpuno uvjereni da se superinteligencija može stvoriti "tijekom generacije", ali u to se vrijeme sigurnosnim pitanjima nije pridavala odgovarajuća pažnja. Možda ljudi tada jednostavno nisu ozbiljno shvatili svoja predviđanja i, najvjerojatnije, to su smatrali problemom u dalekoj budućnosti.
4. Nanotehnologija
Nanotehnologija se odnosi na kontrolu tvari s atomskom ili molekularnom preciznošću. Samo po sebi nije opasno i, naprotiv, može biti vrlo dobra vijest za mnoge namjene. Problem je u tome što, kao i u biotehnologiji, rastuće mogućnosti također povećavaju potencijal za zlouporabu od koje je vrlo teško obraniti se.
Veliki problem nije notorna "siva groznica" samoreplicirajućih nanomasina koje proždiru sve. To će zahtijevati stvaranje vrlo sofisticiranih uređaja. Teško je stvoriti stroj koji se može reproducirati: biologija je po definiciji bolja u ovoj vrsti zadataka. Možda će neki manijaci to moći, ali na drvetu destruktivnih tehnologija ima pristupačnijih plodova.
Najočitiji je rizik da se čini da je automatska precizna proizvodnja idealna za jeftinu proizvodnju stvari poput oružja. U svijetu u kojem će mnoge vlade imati mogućnost "tiskanja" velikog broja autonomnih ili poluautonomnih oružnih sustava (uključujući mogućnost povećanja njihove proizvodnje), utrka u naoružanju može postati vrlo intenzivna - a rezultat je povećana nestabilnost, pa stoga može biti vrlo primamljivo pokrenuti prvi štrajk sve do trenutka kada neprijatelj dobije veliku prednost.
Oružje također može biti vrlo male veličine i vrlo precizno: može biti "pametni otrov" koji može djelovati ne samo kao živčani plin, već i odabrati svoje žrtve, ili sveprisutni mikro roboti (gnatboti), minijaturni nadzorni sustavi kako bi stanovništvo bilo poslušno - sve je to sasvim moguće. Uz to, nuklearno oružje i postrojenja koja utječu na klimu mogu pasti u ruke uljeza.
Ne možemo procijeniti vjerojatnost egzistencijalnog rizika koji predstavlja buduća nanotehnologija, ali, očito, oni mogu biti pogubni samo zato što su sposobni dati sve što želimo.
5. Tajanstvena nepoznanica
Najalarmantnija je mogućnost da na svijetu postoji nešto smrtonosno, ali mi ne znamo što je to.
Tišina na nebu može biti dokaz toga. Je li odsutnost vanzemaljaca zbog činjenice da su život i inteligencija vrlo rijetki ili zato što pametan život nastoji biti uništen? Ako postoji budući Veliki filtar, tada su ga trebale primijetiti i druge civilizacije, ali ni to nije pomoglo.
Kakva god takva prijetnja bila, bila bi gotovo neizbježna čak i kad biste bili svjesni njenog postojanja, bez obzira na to tko ste ili što zapravo jeste. Ne znamo ništa o ovoj vrsti prijetnje (niti jedna od gore navedenih prijetnji ne funkcionira na ovaj način), ali one mogu postojati.
Imajte na umu da prisutnost nečeg nepoznatog ne znači da o tome ne možemo rasuđivati. Članak Maxa Tegmarka i Nicka Bostroma pokazuje da bi određeni skup rizika trebao imati omjer manji od jedan u milijardi godišnje, na temelju relativne starosti Zemlje.
Možda će vas iznenaditi da klimatske promjene i utjecaji meteora nisu na ovom popisu. Klimatske promjene, ovakve kakve jesu, malo je vjerojatno da će cijeli planet učiniti nenastanjivim (ali mogle bi predstavljati dodatne prijetnje ako se naša obrana pokaže neučinkovitom). Meteori nas, naravno, mogu izbrisati s lica Zemlje, ali u tom slučaju moramo biti vrlo veliki gubitnici.
Tipično, određena vrsta sisavaca postoji oko milijun godina. Dakle, glavna prirodna stopa izumiranja je otprilike jedan na milijun godišnje. To je znatno niže od rizika od nuklearnog rata, koji je, 70 godina kasnije, i dalje najveća prijetnja našem daljnjem postojanju.
Heuristika dostupnosti prisiljava nas da precijenimo rizike o kojima se često raspravlja u medijima i umanjimo one rizike s kojima se čovječanstvo još nije susrelo. Ako želimo nastaviti postojati i nakon milijun godina, onda moramo ispraviti ovu situaciju.
Anders Sandberg
Popularna znanost
