Grci su bili opsjednuti pitanjem što zapravo znači biti čovjek. Iznova i iznova, njihove su legende istraživale izglede i rizike od besmrtnosti, razvoj ljudskih sposobnosti, umnožavanje živog bića. U omiljenim mitovima o Herkulu, Jasonu i Argonautima, o čarobnjaci Medeji i inženjeru Daedalusu, o izumitelju boga Hefestu i tragično znatiželjnoj Pandori, postavilo se glavno pitanje o granici između čovjeka i stroja. Danas biotehnološki razvoj i napredak umjetne inteligencije ponovno daju značaj pitanju posljedica kombiniranja biološke i tehnološke. Možemo reći da su taj diskurs pokrenuli stari Grci.
Medea, mitska čarobnica čije ime dolazi od glagola "izmisliti", posjedovala je mnoge tajne umjetnosti. A među njima je tajna pomlađivanja. Medea se, kako bi demonstrirala svoju snagu, pojavila pred Jasonom i Argonautima u obliku stare, zgnječene starice, da bi se potom pretvorila u prekrasnu mladu princezu. Iason je pao pod čaroliju i zaljubio se u nju. Zamolio je Medeju da oživi mladenačku snagu u starom ocu Esoni. Medea je ispustila svu krv iz staricinih vena i zamijenila ga sokovima ljekovitog bilja.
Stari Eson, iznenada energičan i pun zdravlja, zadivio je sve, uključujući i kćeri ostarelog Peliasa. Zamolili su Medeju da joj otkrije tajni recept kako udahnuti život svom ocu. Ali nisu znali da je Pelius Medejin dugogodišnji neprijatelj. Vještica je varala puštajući ih da gledaju kako glumi. Dok je ponavljala čarolije, pokazala je sjajnu predstavu miješajući farmaku (lijekove) u posebnom "pomlađivačkom kotlu". Tada je Medea izvadila starog ovna, prerezala mu grlo i bacila ga u ogromnu kotlu. Abracadabra: čudom se odatle pojavilo okrutno mlado janje! Povjerljive kćeri vratile su se kući i pokušale ponoviti trik sa svojim starim ocem, ponavljajući čarobne riječi tako što su mu prerezale grlo i zabili ga u kipuću vodu.
Prirodno, ubili su Pelijasa. U priči o Medeji kombiniraju se nada i strah, vječni par reakcija na znanstvene eksperimente o samom životu.
***
Najstariji prikaz Medeje pojavio se na grčkoj vazi oko 500. godine prije Krista. e., međutim, usmena predaja postojala je mnogo stoljeća prije. Kad Medea pomiješa sadržaj kave, iz nje se pojavljuje janje. Medeina ovna i janje su prethodnici Dolly, prve ovce stvorene u genetski izvedenom eksperimentu kloniranja 1997.
Umnožavanje života oživljava arhaične strahove u nama. Doppelganger efekt izaziva želju svakog pojedinca da bude jedinstven, nezamjenjiv.
Duboko prožete metafizičkim razumijevanjem i predviđanjima o budućem manipuliranju čovjekovom prirodom, ove drevne tradicije izgledaju zadivljujuće u naše vrijeme. Ako gledate ono što su Grci biotehnu nazvali (bios = život, techne = stvorena umjetnošću znanosti) kao znanstveno istraživanje, "znanstvena fantastika" drevnog svijeta poprima jezivo moderno značenje. Medeja i drugi mitovi o biotehnici potiču na proganjanje, dramatične predstave i nezaboravne ilustracije u klasičnim slikama i skulpturama s vazama.
Promotivni video:
U međuvremenu, oko 400. pr. e. Archytas, Platonov prijatelj, napravio je pljusak sa svojom mehaničkom pticom na paru. Helenski inženjer Heron iz Aleksandrije izumio je stotine automatiziranih strojeva kojima upravlja hidraulika i pneumatika. Ostali su obrtnici stvarali pokretne figure koje su puštale zvukove, otvarale vrata, natočile vino i čak napadale ljude. Očito je da su stare Grke privlačile biotehne.
Iza ovih tehnoloških čuda krije se potraga za vječnim životom. Grci su vjerovali da Chronos mjeri ženske i muške živote. Vrijeme je bilo podijeljeno na prošlost, sadašnjost i budućnost. Sloboda s vremena obećavala je vječni život, ali postavljala je zabrinjavajuća pitanja. Krenite s tokom beskonačnog vremena - i što se onda događa s uspomenama? Što će se dogoditi s ljubavlju? Može li ljepota postojati bez smrti i starosti? Jesu li žrtva i junaštvo mogući bez smrti? Veliki junaci iz mitova umrli su fizički, ostajući u sjećanju nakon smrti, čak i ako su postali Homerovi "cvrkutavi duhovi" u podzemlju. Mitovi šalju egzistencijalnu poruku: smrt je neizbježna, a zapravo izgledi za ljudsko dostojanstvo, neovisnost i junaštvo ovise o smrtnosti.
Doista, nakon što im bogovi daju izbor, Ahil i drugi junaci odbacuju život utjehe i lijenosti, vječni život. U mitovima veliki junaci i junakinje odlučno biraju kratak, nezaboravan život pun časti, rizika i hrabrosti. "Ako nam je život kratak, onda neka bude ispunjen slavom!" Umjetno besmrtno postojanje možda je privlačno, ali hoće li biti veliko i plemenito?
Mitovi najhrabrijih junaka dramatiziraju nedostatke besmrtnosti. Kad božica Thetis ugura svog mladog sina Ahila u čarobnu rijeku Styx kako bi ga učinila neranjivim, ona ga drži za pete. Na bojnom polju u Troji najbolji grčki prvak umire ne u poštenoj borbi, licem u lice, kako se nadao, već zbog otrovane strijele koja je probila Ahilovu petu. Takve stvari izgledaju beznačajno, ali takve su nepredviđene ranjivosti svojstvene naprednom biotehnologiji.
***
Želja za prevazilaženjem smrti stara je koliko i sama ljudska svijest. U mitološkom prostoru besmrtnost postaje dilema i za bogove i za ljude. Mit o Eosu i Typhonu postavlja problem sprečavanja svih nepredviđenih i potencijalnih komplikacija. Eos je bio besmrtna boginja koja se zaljubila u smrtnog Tifona. Bogovi su odobrili Eosov zahtjev da njezin voljeni živi zauvijek. Ali zaboravila je tražiti vječnu mladost za svog izabranika. "Kad je grozna starost srušila Tifona, Eos je očajao", kaže mit. Nažalost, zatvorila je svog dragog u tamnicu iza zlatnih vrata. "Tamo, bez snage za pomicanje nekoć gipkih udova, tone u vječnost." U nekim verzijama, Typhona iscrpljuju cvrkuti, čije monotono pjevanje predstavlja beskrajni zahtjev za smrt.
Sudbina Tifona baca sjenu na potencijal produženja ljudskog života. Uočavajući dilemu Typhona svojstvenu ograničavanju starenja na neodređeno vrijeme, biomedicinski gerontolog Aubrey de Gray osnovao je 2009. godine SENS Research Foundation (Strategije za inženjerstvo laganog starenja). SENS se nada da će pronaći način kako izbjeći starenje stanica jer je smrt sama sve dalje i dalje.
U najdubljim drevnim mitovima postavlja se pitanje: oslobađa li besmrtnost nekoga od patnje i tuge? Na primjer, u epu Gilgameša, istoimeni junak mesopotamske pjesme čezne za besmrtnošću. Ali da je Gilgameš stekao vječni život, bio bi ga proveo u vječnoj tuzi za svojim prijateljem Enkiduom.
Ili pogledajte sudbinu mudrog kentaura Chirona, mentora i prijatelja Herkula i Apolona. Hercules je slučajno udario Chirona strijelom otrovanom otrovom Hydra. Strašna rana nikada ne bi zacijelila. Boleći se od nepodnošljive boli, Chiron je, radi oslobađanja od nje, zamolio bogove za blagoslovljenu smrt u zamjenu za njegovu besmrtnost. Prometej, Titan koji je ljudima otkrio božansku tajnu vatre, ispostavilo se da je još jedan besmrtnik koji je patio od beskrajne boli. Zevs je vezao Prometeja na stijenu i poslao ogromnog orla da svakodnevno kljuca po jetri. Jetra je Titanu preko noći narasla, a orao ga je ponovno očistio. Tu i tamo. Beskrajno. Besmrtnost.
Noćna mora o regeneraciji otkrivena je i u mitu o višeglavoj Hydra. Pokušavajući ubiti čudovište, Hercules je odsjekao svaku glavu, nakon čega su na njegovom mjestu rasla dva nova. Napokon je palio svaki vrat bakljom, ali središnju glavu Hidre bio je besmrtan i nemoguće je uništiti. Hercules je zakopao svoju neranjivu glavu u zemlju i otkotrljao ogromni gromad kako bi uplašio ljude odande. Čak i iz krpelja Hydra ukopanih duboko u podzemlje, smrtonosni otrov i dalje curi. Ovog puta besmrtnost je bila doslovno otrovana.
Drugi primjer: Jasonu i Argonautima prijetila je legija odvratnih replikanata. Na vrhu Medejevog zlog oca podigli su vojsku zmajevih zuba, oranjivši polje uz pomoć mehaničkih bikova koji dišu vatrom, što je Daedalus izmislio (greška autora: ovo nije nagovještaj, već zapovijed; Bikove je donio Hefest - otprilike novo). U tlo je posadio zmajeve zube. „Sjeme“je proklijalo, a iz zemlje su izlazili nepobjedivi u njihovom mnoštvu, potpuno naoružani kosturni ratnici. Ali čarobnoj žetvi nedostajala je jedna ključna kvaliteta: nije ih moguće naručiti. Oni samo napadaju, neprestano. Medejin otac htio je da vojska uništi Argonaute. Tmurni „roboti“napredovali su prema Iasonu i njegovim ljudima. Očajnički želeći zaustaviti sve veću nekontroliranu gomilu, Jason je počeo bacati kamenje usred gomile. Kosti su "programirani" za ubijanje najbližeg neprijateljana taj način ubijali jedni druge. Neki učenjaci vjeruju da drevna priča prethodi Homeru. Ova je priča zloslutni znak strašljive zadaće upravljanja cyber vojnicima.
Još jedan niz mitova posvećenih kretskom geniju Daedalu povezan je s čudesima mehanike. Upravo je on stvorio bespilotnog orla koji je redovito lupao po jetri Prometeja. Njegov najpoznatiji eksperiment letio je na krilima i postao klišej tragične bahatosti. Diveći se magiji leta, Daedalov sin Icarus preletio je previsoko. Sunčeva toplina rastopila je vosak, koji je držao brončano „perje“, krila su se slomila i Icarus se srušio na smrt. Kao i drugi mitovi o besmrtnosti i povećanju ljudskih sposobnosti, povijest ukazuje na nemogućnost predviđanja jednostavnih, ali potencijalno smrtonosnih tehnoloških trenutaka.
Prema grčkim legendama, Daedalus je bio prvi smrtnik koji je stvorio "žive statue". Kretali su se brončanim skulpturama za koje se činilo da su uistinu obdareni životom: valjali su očima, znojili se, plakali, krvarili, razgovarali i pomicali udove. U svojoj je radionici biomimetička krava stvorena od drveta i kože, toliko realistična da je prevarila bika koji se sprijateljio s njom: time je Daedalus zadovoljio izopačenu strast kraljice Pasiphae. Rezultat je bio sjedinjenje čovjeka, stroja i životinja u Minotauru, grozno stvorenje s ljudskim tijelom i bikovom glavom. Bilo mu je suđeno da postane kanibal zarobljen u Labirintu (također projekt Daedalusa), sve dok ga jednog dana heroj Tezej nije ubio. Opet je drevni biotehnologija spojila ljude i stroj zajedno i stvorila čudovište.
***
Hefest, bog izuma i tehnologije, također je izgradio robote koji su poslušali naredbe i kretali se neovisno. Upravo je ovaj nebeski kovač u antici imao najveći životopisni životopis. Hefest je stvorio dva mehanička psa od zlata i srebra za zaštitu kraljevske palače. Četiri njegova robotska konja povukla su kočija, „dižući prašinu svojim mesinganim kopitima, cviljeli su“. Nakon što su bogovi oživjeli usitnjenog heroja Pelope, Hefest je svoju ramenu zamijenio umetkom od bjelokosti.
Hefest je razvio nekoliko stativa na "kotačima" na kotačima koji su odgovarali zapovijedima da donesu hranu i vino. To ga je dovelo do stvaranja skupine zlatnih sluškinja u prirodnoj veličini za izvršavanje njegovih naredbi. Automatizirane sluge bile su "poput pravih mladih djevojaka: percepcijom i inteligencijom, snagom i ravnomjernim glasom, obdarene svim znanjem o besmrtnicima." Koji ljubitelj AI Silicijske doline može nadmašiti ovu ambiciju?
Čudesa Hefestova zamišljalo je drevno društvo koje se obično ne smatra tehnološki naprednim. Biotehnološka bića očarala su kulturom koja je postojala tisućljećima prije pojave robota koji mogu pobijediti u složenim igrama, voditi razgovore, analizirati puno informacija i utvrđivati želje ljudi. Ali čije će se želje ispuniti roboti s umjetnom inteligencijom? Od koga će učiti?
Microsoftov tinejdžerski chatbot sa ženskim imenom Tay poučan je primjer našeg vremena. U ožujku 2016. Tay je počeo raditi na Twitteru. Zamršeno programiran da oponaša neuronske mreže ljudskog mozga, Thay je morao učiti od "prijatelja" - ljudi. Očekivalo se da će moći voditi zamršene razgovore bez filtera i bez nadziranja njezinog ponašanja. U samo nekoliko sati zlobni sljedbenici Twittera pretvorili su Taya u internetskog trola s rasističkim i seksističkim podsmijehom. Manje od 12 sati kasnije, tvorci su ga isključili. Thayev visoko razorni sustav učenja umanjio je optimizam u pogledu samoučenja i inteligentnih robota.
Drevni povjesničari Polybius i Plutarch opisali su namjerno nasilnog robota. Stvorena je za Nabisa, posljednjeg kralja Sparte, na liku njegove zle supruge Apege. Okrutni tiranin Nabis došao je na vlast 207. godine prije Krista. e. a za vrijeme svoje vladavine iznuđivao je velike količine novca od bogatih podanika. Grčki kipari bili su slavni zbog svojih izuzetno realističnih portreta kipova s prirodnim tonovima, ljudskom kosom i staklenim očima. Nabis je odjenuo ovaj vrlo realistični maneken u odjeću svoje žene, koja mu je pokrivala prsa, zalijepljena noktima. Bogati građani prvo su dobili puno vina za piće, nakon čega su ih, ako odbiju platiti, upoznali s Apegom, što je bilo uvjerljivije. Kad su se pijani gosti ustali pozdraviti „kraljicu“, kralj Nabis kontrolirao je poluge skrivene na leđima robota. Podignula je ruke i zgrabila muškarca, stežući zagrljaj i privezala ga za prikovana prsa. Zbog ovog i drugih zločina, Nabis je pogubljen 192. pr. e. Stoljećima kasnije srednjovjekovni mučitelji izmislili su primitivnu verziju ove sofisticirane špartanske "željezne djevice".
Eponi Jasona i Argonauta, Argonauti, također sadrže smrtonosnog robota. Talos je jedna od Hefestovih najznamenitijih kreacija. Bio je divovski brončani ratnik, programiran da čuva otok Kretu, bacajući gromade na prilaze brodovima. Imao je i drugu borbenu sposobnost koja oponaša ljudsku osobinu. Kao robot Apega, Talos je mogao izvesti hladno iskrivljenje univerzalnog znaka topline - zagrljaja. Sposoban da zagrije njegovo brončano tijelo, Talos je zagrlio žrtvu i pekao je živu. Kako su Jason i Argonauti pobjegli od ovog bionskog čudovišta?
Korištenje biotehne kao odgovor na bio-tehnu. Medeja je znala da je Hefest stvorio Talosa s jednom arterijom kroz koju je ćik, tajanstvena životinjska tekućina bogova, kružila između vrata i gležnja. Jedan brončani nokat zapečatio je Talosov "životni sustav".
Medea je uvjerila Talosa da ga može učiniti neranjivim izvadivši brončani nokat. Ali kad je nokat izvučen, ichor je tekao iz Talosa poput rastaljenog metala i njegov je "život" nestao. Medea je iskoristila vječnu želju zamišljenih replikanata, od Talosa do Frankinsteinovog čudovišta do Blade Runnera. Vjerujemo da su u njima skrivene ljudske težnje.
Vrhunski projekt Hefestove laboratorije bila je androidna djevojka koju je naručio Zeus. Zevs je želio kazniti ljude zbog prihvaćanja nebeske tajne vatre koju je ukrao Prometej. A njihova kazna, koju je stvorio Hefest, bila je Pandora ("svejeda"). Svaki ju je bog obdario ljudskom osobinom. Pandora je posjedovala ljepotu, šarm, talent za glazbu, znanje za iscjeljivanje i druge znanosti, inteligenciju, hrabrost i, naravno, nezasitnu radoznalost. Pandora je AI agent bogova. Izgleda kao ljupka mlada djevojka i poslana je na Zemlju sa zapečaćenom kutijom koja sadrži još jedan set "darova".
Ljubazni titan Prometej upozorio je ljude da se Pandorina kutija ne smije otvarati. Možda su Stephen Hawking, Elon Musk i Bill Gates prometanski titani našeg vremena? Upozorili su znanstvenike da je potrebno zaustaviti nesmotrenu fascinaciju AI-om, jer jednom kada je pokrenuta, ljudi je neće moći kontrolirati. Algoritmi dubokog učenja omogućuju AI računalima da izvlače sekvence iz ogromne količine podataka, ekstrapoliraju se u nove situacije i donose odluke bez ljudskog vodstva. AI roboti će neminovno početi sami izmišljati i postavljati pitanja. Računala su već razvila altruizam i lukavstvo samostalno. Hoće li AI biti znatiželjno otkriti tajno znanje i ponašati se u skladu s njegovom logikom?
***
Pandorina rizična, znatiželjna ljudska priroda gurnula ju je da otvori prsa. Kuga, tuga, nesreća poletjeli su izvan Pandorine kutije. U jednostavnoj verziji mita, posljednja stvar koja je poletjela izvan Pandorine kutije je nada. Ali u detaljnijim i mračnijim verzijama, umjesto nade, posljednja stvar na prsima bila je "iščekivanje nevolja". U ovoj verziji, Pandora se uspaničila i zalupila poklopac, uhvativši predviđanje iznutra. Uskraćeno za sposobnost predviđanja budućnosti, čovječanstvo je dobilo ono što nazivamo "nada".
Od davnina su filozofi raspravljali je li nada najbolja ili najgora stvar u Pandorinoj kutiji. Sve dok ljudska domišljatost, znatiželja i drskost nastave istraživati granice biološkog života i smrti, ljudi i strojeva, s tim će se pitanjem suočiti svaka nova generacija. Naš je svijet, naravno, bez presedana u smislu tehnoloških mogućnosti. Ali uznemirujući tegljač između znanstvenih noćnih mora i grandioznih snova je vječan. Stari Grci su znali da je najvažnija osobina čovječanstva iskušenje da se izađe "izvan čovjeka".
Ranije ove godine, inženjeri američkog proizvođača oružja Raytheon stvorili su tri malena, uvježbava robota. Nazvali su ih drevnim imenima: Zeus, Athena i Hercules. Uz neuronske sustave temeljene na žoharima i hobotnicama, mali roboti na solarni pogon dobili su tri dara: sposobnost kretanja, privlačnost tami i sposobnost ponovnog punjenja na suncu. Roboti su se brzo naučili mutirati i ubrzo su shvatili da ili moraju izaći u uzbudljivo svjetlo kako bi se ponovo napunili ili umrli. Ovaj naizgled blagi sukob učenja usporediv je s "kognitivnom ekonomijom", u kojoj emocije pomažu mozgu u raspoređivanju resursa i strategiji. Ostali AI eksperimenti podučavaju računala da raspoznaju kako stranci pokazuju naklonost jedni prema drugima.i kako smrtnici reagiraju na negativne i pozitivne emocije.
Nakon što je Hawking upozorio da bi "AI mogao navijestiti kraj ljudske rase", neki su znanstvenici predložili podučavanje robota o ljudskim vrijednostima i moralu govoreći im priče. Bajke, romani i druga literatura, čak i baza podataka o filmovima holivudskih filmova mogu djelovati kao svojevrsni "vodič ljudi" za računalom. Jedan od takvih sustava naziva se Šeherezada, po junakinji Tisuću i jedne noći, legendarni perzijski filozof-pripovjedač koji je zapamtio ogroman broj priča o nestalim civilizacijama. Trenutačno su priče jednostavne, računalima pokazuju kako se ponaša ljubazna, mentalno zdrava osoba. Kako bi se uvježbali roboti da simpatično komuniciraju s ljudima i odgovarajuće reagiraju na njihove emocije, u repertoar računala bit će dodane složenije zaplete. Ideja jeda će priče dobiti vrijednost kada AI dosegne razinu ljudske mentalne vještine "prijenosnog učenja", može simbolično razmisliti s analogijama, donošenjem odluka bez poticanja.
Računala se mogu modelirati nakon ljudskog mozga, ali ljudski um ne funkcionira baš poput računala. Naučimo da naše kognitivne sposobnosti i racionalno mišljenje ovise o emocijama. Priče privlače emociju, patos. Priče žive sve dok evociraju nejasne emocije, sve dok odjekuju stvarnim dilemama i pogodne su za promišljanje. Grci su u dalekoj prošlosti pripovijedali priče kako bi razumjeli čovječanstvo željno prelaziti biološke granice. Mitovi o biotehnici dokaz su postojanja diskursa oko toga što znači biti čovjek. Upoznavanje i mudrost mitova pomažu u dubini naših razgovora o AI. Mogu li neki od tih mitova pomoći AI da bolje razumije sukobljene težnje čovječanstva? Možda će jednog dana subjekti AI shvatiti najdublje želje i strahove smrtnika,prikazani u drevnim mitovima i svjesni su naših zamršenih očekivanja od sebe. Učeći da su ih ljudi predvidjeli i razmišljali o nekim izazovima koji bi im mogli naći put, AI subjekti mogu bolje razumjeti izazove s kojima nas zbunjuju.
Pojava „kulture“AI robota više se ne čini nadahnutom. AI izumitelji i mentori već grade logotipe, etos i patos ove kulture. Kako se ljudi poboljšavaju tehnologijom i postaju sve više poput strojeva, u robotima se budi nešto što nalikuje čovječanstvu. Približavamo se onome što neki nazivaju novom zori robo-čovječanstva. Kad dođe taj dan, koje ćemo mitove reći? Odgovor će također odrediti kako i što će roboti naučiti.
Napisao: gradonačelnik Adrien