Ako ste ikada igrali igranja uloga - bilo da su online ili u staromodnom dvorištu - znate kako je lako biti vezan za svoj avatar, odnosno naviknuti se na ulogu „kozačkog razbojnika“. Doslovno osjećate bol kada lik pretuče trola, prži zmaj ili ubije šaman. Američki sociolog (i strastveni igrač) William Sims Bainbridge još je više poveo ovaj odnos stvarajući virtualne prikaze 17 umrlih članova obitelji. U eseju o mrežnim avatarima iz 2013. godine predviđa vrijeme kada možemo svoju ličnost učitati u umjetno inteligentnu simulaciju sebe koja može djelovati neovisno o nama, pa čak i ostati nakon što umremo.
Kakvu odgovornost možemo staviti na ove simulirane ljude? Iako sumnjamo u nasilne računalne igre, nitko ozbiljno ne smatra da je ubojstvo potkopati virtualnog napadača. Međutim, više nije apsurdno zamisliti da će jednom modelirani ljudi postojati i imati određeni stupanj autonomije i svijesti. Mnogi filozofi smatraju da um poput našeg ne mora biti pohranjen u mreži neurona u našem mozgu, već bi mogao postojati u različitim materijalnim sustavima. Ako su ispravne, nema razloga za vjerovati zašto dovoljno moćna računala ne mogu pohraniti svijest u svoje čipove.
Hoćete li ubiti digitalnu muhu?
Danas mnogi moralni filozofi pokušavaju shvatiti etiku promjene ljudske populacije i postavljaju takva pitanja: Kolika je cijena ljudskog života? Kakav bismo život trebali težiti oblikovanju? Koliku vrijednost treba uložiti u ljudsku raznolikost? Ali kada je u pitanju etika rukovanja modeliranim entitetima, nije sasvim jasno trebamo li se pouzdati u istu logiku i intuiciju koju koristimo u našem svijetu mesa i krvi. Duboko u našoj duši osjećamo se pogrešno ubiti psa ili čak muhu. Ali bi li onesposobljavanje muhe - ili modela ljudskog mozga - ubilo? Kad „život“poprimi nove digitalne oblike, naše vlastito iskustvo više ne može biti pouzdan moralni pratitelj.
Adrian Kent, teorijski fizičar sa Sveučilišta u Cambridgeu, odlučio je istražiti taj jaz u moralnom rasuđivanju. Pretpostavimo da smo naučili oponašati ljudsku svijest na računalu jeftino i jednostavno, piše u jednom od članaka. Ovom virtualnom stvorenju želimo pružiti bogato i korisno okruženje za komunikaciju - život vrijedan življenja. Možda bismo to mogli učiniti s pravim ljudima skeniranjem njihovih mozgova s detaljnim detaljima i kopiranjem na računalo. Može se zamisliti kako takva tehnologija "spašava" ljude od smrtne bolesti; neki transhumanisti ovo vide kao put do besmrtne svijesti.
Naravno, sve bi to moglo biti san o cijevi - ali pretpostavimo suprotno. Ajmo sada na skup utilitarističkih moralnih načela koje je Jeremy Bentham uveo krajem 18. stoljeća, a potom ih je usavršio John Stuart Mill. Uzimajući u obzir sve stvari, rekao je Bentham, trebali bismo nastojati donijeti maksimalnu sreću (ili "korisnost") što većem broju ljudi. Ili, prema Millinim riječima, "postupci su opravdani srazmjerno tome koliko su sretni, a nisu opravdani ako dovode do nedostatka sreće".
Načela dobrog ponašanja imaju mnogi kritičari. Na primjer, kako možemo izmjeriti ili usporediti vrste sreće - mjerenje vrijednosti baka ljubavi, na primjer, na istoj ljestvici s divljenjem virtuoznom koncertnom pijanistu? "Čak i ako želite utilitarizam shvatiti ozbiljno, ne znate koje su kvalitete u vaše proračune zaista bitne", kaže Ken. Međutim, danas većina sustava vjerovanja po defaultu prihvaća da je moralni kompas koji usmjerava prema većoj sreći očigledno prednost onome koji od njega skrene pogled.
Promotivni video:
Prema Kentovom scenariju, ako pođemo od utilitarističkih motiva, može se vjerovati da moramo krenuti naprijed i umnožiti svoja modelirana ili simulirana bića - nazovimo ih sims - bez ograničenja. U stvarnom svijetu takva nekontrolirana reprodukcija ima očite nedostatke. Ljudi će patiti, emocionalno i ekonomski, s velikom obitelji; prenaseljenost već vrši pritisak na globalne resurse i tako dalje. Ali u virtualnom svijetu možda ne postoje takve granice. Utopiju možete stvoriti s gotovo neograničenim resursima. Zašto onda ne možete stvoriti što više svjetova i napuniti ih radosnim Simsima?
Naša intuicija sugerira odgovor: ali zašto? Možda svjesni sim jednostavno neće imati istu unutarnju vrijednost kao osoba od mesa i krvi? To mišljenje izražava Michael Medery, filozof filozofije uma i etičara virtualne stvarnosti na Sveučilištu Tulane u New Orleansu, i smatra da ga treba shvatiti ozbiljno.
Neki filozofi vjeruju da i mi sami možemo biti slična simulirana bića. Takvu mogućnost jednostavno ne možemo isključiti, ali ipak smatramo da su ta pitanja smislena. Pa bi se i pretpostavilo da Sim-ovi imaju pravo postavljati pitanja.
Kent opet postavlja pitanje: što bi bilo ispravnije - stvoriti populaciju identičnih bića ili potpuno različitih? Očito bi bilo učinkovitije stvoriti identična stvorenja - dovoljno podataka o jednom da bi se stvorilo N od njih. Ali naši instinkti govore nam da raznolikost ima značenje i vrijednost. I zašto, pitam se nema li razloga vjerovati da će N različiti pojedinci biti sretniji od N identičnih.
Kentov pristup je da je više različitih života poželjno nekoliko primjeraka istog. "Ne mogu se osloboditi misli da će svemir s milijardom nezavisnih identičnih emulacija Alice biti manje zanimljiv i manje kvalitetan od svemira s milijardom različitih pojedinaca", kaže on. Ovaj koncept replikacije naziva inferiornošću.
Ako uzmemo u obzir kosmos nastanjen milijardama Alice, vrijedi li uopće razgovarati o jednom životu, množenom više puta ili govorimo o jednom životu koji se širi po mnogim svjetovima. Iz toga može proizići da će mnoge Alice u identičnom okruženju imati vrijednosti ne više od jedne. Ovaj scenarij naziva beskorisnošću replikacije. "Sklon sam tom mišljenju", kaže Kent, priznajući, međutim, da u svojoj obrani ne može pronaći nepobitan argument.
Kentov misaoni eksperiment dotiče se nekoliko starih misterija moralne filozofije koje nikada nisu riješene. Engleski filozof Derek Parfit, koji je umro prošle godine, obratio im se u svom monumentalnom radu o ličnosti i sebstvu, Razlozi i ličnosti (1984). Parfit je razmišljao o pitanjima poput toga koliko bi ljudi uopće trebalo biti, i hoće li uvijek biti moralno bolje dodati život kakav vrijedi živjeti od užurbanosti svijeta kad dobijemo priliku.
Čak i ako prihvatite utilitarističko stajalište, postoji problem pronaći najveću sreću za najveći broj: dvostruki kriteriji stvaraju nejasnoće. Na primjer, zamislite da imamo kontrolu nad time koliko ljudi živi u svijetu s ograničenim resursima. Čovjek bi pomislio da treba postojati optimalan broj ljudi koji će (u načelu) najbolje iskoristiti resurse kako bi svima osigurali sreću i prosperitet. No, zar ne bi bilo mjesta u takvoj utopiji za drugu osobu? Ne bi li bilo prihvatljivo malo umanjiti svačiju sreću da bi se osigurao drugi sretan život?
Problem je što ovaj proces nema kraja. Kako se brojevi povećavaju, dodata sreća novih života može nadmašiti troškove onih koji su već živi. U konačnici, kaže Parfit, dolazite do "odvratnog zaključka": scenarija u kojem bi najbolji ishod bio naduvana populacija ljudi koji su beznadežno nesretni, ali bolji nego što uopće nije bilo života. Zajedno, njihovi mali dijelovi sreće sačinjavaju više od zbroja malog broja istinski sretnih ljudi. "Teško mi je prihvatiti ovaj zaključak", napisao je Parfit, ali možemo li opravdati takav pristup? Kent ne zna. "Ne znam može li biti bilo kakve uravnotežene odluke o odvratnom zaključku", kaže on.
U korijenu ovog pitanja nalazi se ono što je Parfit nazvao „problem ne-identiteta“: kako racionalno možemo razmišljati o pitanjima zabrinutih pojedinaca ako njihovo postojanje ovisi o odlukama koje donosimo (poput pronalaska mjesta za „drugog“)? Vaganje prednosti i nedostataka koji mogu utjecati na pojedinca, ovisno o odlukama koje donesemo, u načelu nije tako teško. No s obzirom na mogućnost da ovaj lik možda nikada nije postojao, više ne znamo kako izračunati. U usporedbi s nulom ili ništavinom, sve će biti dobitak, tako da čak i najgori scenariji postojanja mogu biti moralno opravdani.
Postoji još jedan vrlo čudan scenarij u ovoj utilitarističkoj igri stanovništva. Što ako postoje ljudi s tako velikom potrebom za srećom da bi tražili više od drugih nego što bi si mogli priuštiti? Američki filozof Robert Rozick ovu je kreaciju nazvao "utilitarističkim čudovištem" i kritizirao je u svojoj knjizi Anarhija, država i utopija (1974). Prema Nozikovom mišljenju, ova će slika "zahtijevati da se svi žrtvujemo radi čudovišta kako bismo povećali našu cjelokupnu korisnost." Veći dio Parfitove knjige bio je pokušaj - u konačnici neuspješnog - izbjeći i taj grozni zaključak i utilitarističko čudovište.
Vratimo se sada Kentovim virtualnim svjetovima punim Simsa i njegovom principu nepotpune replikacije - kad određeni broj različitih života vrijedi više od istog broja identičnih. Možda će nam ovo omogućiti da izbjegnemo Parfitin grozan zaključak. Unatoč onome što je Leo Tolstoj rekao o nejednakosti nesretnih obitelji na početku Ane Karenine (1878.), čini se da će ogroman broj nesretnih života biti gotovo isti u njihovoj tmurnoj tuzi. Slijedom toga, neće ih biti moguće pokupiti i povećati ukupnu sreću kap po kap.
Ali na isti način, inferiornost replikacije odobrava utilitarističko čudovište - po definiciji ono mora biti jedinstveno, a samim tim i više "vrijedno", u usporedbi s neizbježnom sličnošću života koji ga hrane. Ova odluka nas također ne zadovoljava. "Bilo bi lijepo kad bi ljudi razmišljali više o tim pitanjima", priznaje Kent. "Nekako sam zbunjen njima."
Za američkog libertarijanskog ekonomista Robina Hansona, profesora ekonomije na Sveučilištu George Mason u Virginiji, ta razmišljanja nisu toliko mentalni eksperimenti koliko predviđanja budućnosti. Njegova knjiga "Doba Ema" predstavlja društvo u kojem svi ljudi prenose svoju svijest u računalo kako bi živjeli svoj život u obliku "oponašanja" (ne sims, nego emas). "Milijarde takvih preuzimanja moglo bi živjeti i raditi u jednoj visokoj zgradi, a bilo bi mjesta za sve", piše on.
Hanson je detaljno ispitao kako takva ekonomija može funkcionirati. Ems može biti bilo koje veličine - neki od njih bit će vrlo mali - i vrijeme im može proći drugačije u odnosu na ljude. Bit će prisan nadzor i mala plaća, ali ems se može riješiti ove patnje odabirom života bez posla. (Hanson vjeruje da već možemo živjeti u takvom svijetu.)
Ovaj scenarij dopušta mogućnost umnožavanja samog sebe, budući da je um već prebačen na računalo, pa će izrada kopija biti prilično jednostavna. Hanson kaže da je problem identiteta u ovom slučaju zamagljen: duplikati su u početku "ista osoba", ali postupno se njihov identitet razilazi kada počnu živjeti odvojeno.
Hanson predlaže da dupliciranje ljudi bude ne samo moguće, već i poželjno. U narednom dobu emu ljudi s posebno vrijednim mentalnim sposobnostima bit će „opterećeni“mnogo puta. I općenito će ljudi ionako htjeti napraviti višestruke kopije kao oblik osiguranja. "Oni možda preferiraju višak u vlastitoj provedbi kako bi bili sigurni da mogu preživjeti neočekivane katastrofe", kaže Hanson.
Ali on ne misli da bi radije Kentov scenarij identičnih života. Ems „neće donijeti nikakvu posebnu vrijednost ako živite istim životom u različito vrijeme i na različitim mjestima. Uložit će vrijednost u više primjeraka, jer te kopije mogu raditi ili komunicirati s drugima. Ali za takav će rad i odnos biti potrebno da svaki primjerak bude uzročno neovisan, a njihove priče isprepletene na temelju zadataka ili kao partnera."
U svakom slučaju, morat ćemo se suočiti s moralnim poteškoćama, koje još ne možemo precijeniti. "Ne mislim da je moral koji ljudi imaju dovoljno općenit ili pouzdan da daje pouzdane odgovore na situacije poput ove, koje su tako daleko odmaknute od" iskustva "naših predaka", kaže Hanson. "Predviđam da će emus imati mnogo različitih oprečnih mišljenja o takvim stvarima."
Emsovi, sim-ovi i naša virtualna budućnost
Sada sve ovo može zvučati vrlo čudno, poput apokrifnih srednjovjekovnih govora o anđelima koji plešu na vrhovima prstiju. Hoćemo li ikad uspjeti stvoriti virtualni život koji će biti sličan stvarnom životu uopće? "Mislim da nitko ne može sa sigurnošću reći je li to moguće ili ne", kaže Kent, dijelom zato što "nemamo dobro znanstveno razumijevanje svijesti."
Unatoč tome, tehnologija ide naprijed i ta pitanja ostaju otvorena. Švedski filozof Nick Bostrom iz Instituta za budućnost čovjeka, tvrdio je da će računska snaga dostupna "posthumanoj" civilizaciji olakšati simuliranje bića koja žive u svijetu i osjetiti ih kao stvarno kao što smo mi sami. (Bostrom također misli da bismo mogli živjeti u takvoj simulaciji.) Ali pitanje kako možemo naseliti takve svjetove predstavlja "pravu dilemu za programere, znanstvenike i zakonodavce budućnosti, iako ne tako daleke", kaže Kent.
Kentov scenarij možda već ima posljedice u stvarnom svijetu. Argumenti maksimizacije korisnosti i problem ne-identiteta nastaju u raspravama o promicanju i sprečavanju ljudskog začeća. Kada biste trebali odbiti začeće u slučaju rizika, na primjer, razvoja abnormalnosti u djeteta? Nijedna nova metoda ne jamči potpunu sigurnost i nikada nije zajamčena, ali IVF se nikada ne bi učinio da je to bio preduvjet. Očekuje se da će takva tehnika ispuniti određeni prag rizika. No, utilitaristički pristup dovodi u pitanje ovu ideju.
Što ako bi nova metoda potpomognute reprodukcije imala umjereni rizik od nastanka malih oštećenja pri rođenju, poput rodnih žigova? (Ovo je stvarni argument: Priča Nathaniel Hawthorne iz 1843. govori o alkemičaru koji je pokušao, sa kobnim posljedicama, ukloniti trag sa svoje supruge, citirajući Američko vijeće za bioetiku iz 2002.). Teško je reći da će ljudi označeni takvim spotom biti gori od ostalih, pa ih metoda ne bi trebala uzimati u obzir. Ali gdje se crta? Kada je porođajni nedostatak bolje uopće ne primijeniti?
Neki su tu dilemu spomenuli u svojoj obrani od kloniranja ljudi. Hoće li opasnosti, poput socijalne stigme ili iskrivljenih roditeljskih motiva i očekivanja, nadmašiti prednosti životnog davanja. Tko smo mi da donesemo izbor za kloniranog čovjeka? Tko ćemo biti ako donosimo ovaj izbor prije nego što čovjek uopće postoji?
Čini se da ovakva vrsta zaključka zahtijeva od nas donositi božanske odluke. No, feministički promatrač mogao bi pomisliti da smo žrtva verzije Frankensteinove fantazije. Drugim riječima, nije li ovo skup muškaraca koji sanjaju da konačno počnu stvarati ljude kada žene to rade stoljećima? Osjećaj novosti koji vodi svim tim kontroverzama ima patrijarhalni okus.
Usprkos tome, perspektiva virtualne svijesti postavlja neka vrlo svježa i fascinantna etička pitanja - koja, prema Kentu, dovode do izazivanja intuitivne vrijednosti koju stavljamo u život i demografije. Izuzetno je teško vidjeti snažan argument za činjenicu da će određeni broj različitih života biti moralno bolji od istog broja istih. Zašto tako mislimo? Kako se možemo riješiti predrasuda?
Moglo bi se reći da percipirana homogenost u ljudskoj populaciji umanjuje sposobnost za empatiju i etičko rasuđivanje. Mnoštvo "bez lica", kojemu se pojedinac protivi, poznati je kliše koji evocira osjećaj junaštva. Ali to nije nužno točno.
Možda imamo evolucijsku averziju prema istim pojedincima, pogotovo ako uzmete u obzir da genetska raznolikost populacije osigurava njezin opstanak? Razmislite samo o filmovima o identičnim blizancima ili klonovima - ne izgleda uvijek dobro. Čak izgleda i zloslutno. Godine 1919. Sigmund Freud ovaj je osjećaj povezao s idejom zlog dvojnika (doppelganger). A ako je to još uvijek razumljivo u slučaju identičnih blizanaca, stotina "identičnih" znakova izgledat će grozno.
Ne čini se da ćemo se uskoro, u stvarnom ili virtualnom svijetu, suočiti s mnoštvom duplikata. Ali vrijednost misaonih eksperimenata je u tome što vam pružaju novi način da shvatite svjetska pitanja. Zamišljajući etiku našeg odnosa sa Simsom otkrivamo drhtavu ili nepostojeću logiku koju instinktivno koristimo za vaganje moralne vrijednosti vlastitog života.
Ilya Khel
