Gotovo svi koji su makar malo zarobili u temu umjetne inteligencije moraju doći do zaključka da će nas umjetna inteligencija ili odvesti do strašne apokalipse ili izravno do nevjerojatne utopije. A praktički ne postoje srednje mogućnosti. Naravno, to dijelom diktira činjenica da su glasne parole poput "Kraj je blizu!" ili, na primjer, "Utopija dolazi!" Ali ipak…
Djelomično se svodi na to kako ljudi osjećaju promjene, posebno velike promjene. Milenijalizam nema nikakve veze s rođenjem 90-ih, biti "milenijcem" i prisjećanjem na seriju o Buffy, pobjednici vampira. To je stil razmišljanja o budućnosti koji je povezan s duboko ukorijenjenim osjećajem sudbine. Milenijalizam je "očekivanje da će naš svijet biti uništen i zamijenjen savršenim svijetom i da će se pojaviti Otkupitelj koji će zbaciti sve zlo i moći utješiti pravednike".
Sukladno tome, vjerovanja milenijalaca usko povezuju ideje stvaranja i uništenja. Među njima - ideje apokaliptičnih, ogromnih, seizmičkih pomaka koji mogu uništiti tkivo starog svijeta i izgraditi nešto potpuno novo. Sličan sustav vjerovanja postoji u mnogim glavnim svjetskim religijama, pa čak i u ne baš vrlo agnostičkim i ateističkim religijama, koje vjeruju u tehnologiju, a ne u božanske esencije.
Razmotrimo, na primjer, kako futuristi predviđaju tehnološku singularnost. Prema Rayu Kurzweilu, singularnost je slična stvaranju raja. Svi će biti besmrtni, jer će se pojaviti biotehnologija koja može izliječiti naše bolesti; i naš mozak se može prenijeti u oblak; patnja i nejednakost će nestati kao pojave. "Uništavanje svijeta" zamjenjuje se omiljenim izrazom Silicijske doline: poremećaj, što je radikalna promjena u industriji. I, kao što je slučaj s drugim tisućljetnim vjerovanjima, vaš konačni pogled uvelike ovisi o onome što očekujete: rođenju utopije ili smaku svijeta.
Postoji mnogo vrlo dobrih razloga za sumnju u ovakvu vrstu razmišljanja. Možda je najuvjerljiviji od ovih razloga taj što sva uvjerenja milenijalaca jednostavno odražavaju stav ljudi prema promjeni; pogledajte samo koliko je varijacija tih vjerovanja naraslo u svijetu.
Ta se vjerovanja nalaze u aspektima kršćanske teologije, iako su postala popularna u svom modernom obliku u devetnaestom i dvadesetom stoljeću. Ideje poput Vječne tuge, mnogih godina teškoća i patnji i Ushićenja, kada će pravednici uskrsnuti, a zlo biti kažnjeno. Nakon sveg ovog uništenja svijet će biti ponovno stvoren ili će ljudi otići u nebo.
Unatoč dogmatskom ateizmu, i u marksizmu je bilo mnogo sličnih vjerovanja. Pitanje je samo u vezi s poviješću. Baš kao što vjernici traže signale koji mogu nagovijestiti ispunjenje svih proročanstava, marksisti traže znakove da smo u završnoj fazi kapitalizma. Oni vjeruju da se društvo degradira i da će se neizbježno degenerirati do samog dna - zapravo, kao što i kršćani misle.
Kao što marksizam tvrdi, kada je eksploatacija radničke klase od strane bogatih neodrživa, radnička klasa okuplja i svrgava tlačitelja. "Tuga" je zamijenjena riječju "revolucija". Ponekad se revolucionarne osobe poput Lenjina ili samog Marxa proglašavaju mesijama koji približavaju Milenij; njihova retorika uvijek sadrži pozive na uništavanje starog sustava, na čijim će ruševinama "mi graditi svoj, gradit ćemo novi svijet". Pravedni će radnici dobiti ono što su zaslužili, a zla buržoazija će biti uništena.
Promotivni video:
Čak i u nordijskoj mitologiji postoji jedan element toga, kao što je primijetio James Hughes u svom eseju u knjizi Nicka Bostroma, Globalni katastrofalni rizici. U Ragnaroku su i ljudi i bogovi poraženi u posljednjoj apokaliptičnoj bitci, ali budući da je sve ovo pomalo tmurno, Skandinavci su dodali ideju o novoj zemlji na kojoj će preživjeli živjeti u harmoniji.
Sudnji dan također je postao kulturna staza. Uzmimo drevne Egipćane i njihova vjerovanja o zagrobnom životu; gospodar podzemlja Oziris odmjerava srce smrtnika zajedno s perom. Ako je srce preminulog previše opterećeno prijestupima, demon će ga pojesti i nada u zagrobni život će nestati.
Vjerojatno će se nešto slično dogoditi tijekom singularnosti. Kako se naša tehnologija poboljšava, a samim tim i naša snaga, naša srca, srca ljudi bit će odmjereni od perja. Ako se pokažu preteškim - s glupošću, arogancijom, predrasudama, zlom - padat ćemo na testu i biti uništeni. Ali ako prođemo i prođemo iz singularnosti, čeka nas nebo. Kao i kod ostalih sustava vjerovanja, nema mjesta za nevjernike; cijelo će se društvo iz korijena promijeniti, htjeli vi to ili ne. Tehnološko divljenje.
Čini se da svaki veći razvoj izaziva sličan odgovor. I nuklearno oružje također. Ili će to biti zadnja kap koja će uništiti sebe, ili se nuklearna energija može koristiti za stvaranje boljeg svijeta. U prvim danima nuklearnog doba ljudi su govorili o električnoj energiji "prejeftinoj da bi se računala". Znanstvenici koji rade na bombi često su mislili da bismo se s takvom razornom snagom u rukama ljudi jednostavno morali okupiti i surađivati kao vrsta.
Kad vidimo isti odgovor, uvijek iznova, u različitim okolnostima, koji se pojavljuje u različitim poljima, bilo da je to znanost, politika ili religija, moramo uzeti u obzir ljudsku pristranost. Volimo vjerovanja milenijalaca, pa kad se pojavi ideja o umjetnoj inteligenciji koja nadilazi ljudsku inteligenciju, odmah namećemo poznati obrazac.
Ne volimo činjenice. Informacije nam se ne sviđaju. Nismo toliko racionalni koliko mislimo da jesmo. Stvaramo pripovijesti. Fizičari promatraju svijet, a mi svoja vlastita zapažanja uplećemo u narativne teorije, priče o sitnim biljarskim kuglicama koje lete tu i tamo i sudaraju se jedna s drugom, ili prostor i vrijeme koji se savijaju, savijaju i šire. Povjesničari pokušavaju dati smisao beskrajnom toku događaja. Volimo priče: priče su izložile našu prošlost, našu sadašnjost, a također nas pripremaju za budućnost.
Tisućljetna pripovijest vrlo je lijepa i uvjerljiva. On vam donosi društvene promjene. Može opravdati vašu svakodnevnu patnju ako tugujete. Daje vam nadu da je vaš život važan i smislen. To vam daje osjećaj da stvari napreduju u određenom smjeru, prema pravilima, a ne samo u kaosu. Obećava da će pravednici biti spašeni, a heretici kažnjeni, čak i ako na putu bude patnje. Napokon, tisućljetna pripovijest obećava nebo na kraju tunela.
Moramo biti oprezni s tisućljetnim narativom kad razmišljamo o tehnološkom razvoju, singularnosti i egzistencijalnim rizicima. Vikali smo „vukovi!“Mnogo puta kad ih nije bilo. Možda ni sada svijet nije na rubu katastrofe. Naravno, ova priča nije toliko atraktivna. Naravno, svi žele očaravajući kraj.
No, kopajte dublje i otkrit ćete da tisućljetna uvjerenja nisu uvijek najperspektivnija, jer izvode jednadžbu iz jednadžbe. Morat ćemo vjerovati u sive sjene i napustiti zlokobnu apokalipsu s crvenookim AI i nevjerojatnu utopiju sa svemogućim AI koji obožava ljude.
