Čovječanstvo ima jednu osobinu koju visoko razvijene vanzemaljske civilizacije najvjerojatnije nemaju - svijest.
Moguće je da ljudi nemaju najvišu razinu mentalnog razvoja u svemiru. Budući da je Zemlja relativno mlad planet, najstarije civilizacije možda su milijarde godina starije od nas. Ali čak i na Zemlji, Homo sapiens neće još dugo dominirati kao najinteligentnija biološka vrsta.
Svjetski prvaci u go, šahu i pobjednicima su inteligentni računalni programi. Očekuje se da će umjetna inteligencija tijekom sljedećih nekoliko desetljeća zamijeniti mnoga ljudska zanimanja. A, s obzirom na brzi tempo njegovog razvoja, sasvim je moguće da će se uskoro transformirati u opću umjetnu inteligenciju, koja će, poput ljudskog uma, moći kombinirati sposobnost analize različitih informacija, pokazati fleksibilnost i zdrav razum. A odatle nije daleko do pojave superinteligentne umjetne inteligencije, koja je u svim pogledima mnogo pametnija od ljudi - čak i u područjima poput znanstvenog razmišljanja i socijalnih vještina, koje su sada, čini se, prerogativ ljudskog uma. Svaki od živih ljudi može biti jedan od posljednjih koraka evolucijske ljestvice,vodeći od prve žive stanice do sintetičke umjetne inteligencije.
Tek sada počinjemo shvaćati da ova dva oblika nadljudske inteligencije - vanzemaljska i umjetna - nisu toliko različita. Tehnički napredak koji danas vidimo mogao se dogoditi i prije, negdje u svemiru. Prijelaz s biološke inteligencije na umjetno stvorenu može biti uobičajeni obrazac, koji se uvijek iznova provodi u svim krajevima kozmosa. Najveće inteligencije u svemiru vjerojatno su post-biološkog porijekla, evoluirajući iz nekadašnjih bioloških civilizacija. (Ovo stajalište, između ostalog, dijelim s Paulom Davisom, Stephenom Dickom, Martinom Reesom i Sethom Shostakom). Na temelju iskustva čovječanstva - a imamo samo jedan primjer - prijelaz s biološkog na postbiološki može potrajati samo nekoliko stotina godina.
Više volim izraz "umjetni" od "post-biološki", jer kontrast između biološkog i sintetičkog nije tako oštar. Zamislite biološki um koji postaje superinteligencija kroz čisto biološka poboljšanja svojih sposobnosti, poput nanotehnološki poboljšanih neuronskih minikolona. Takav bi se živi organizam smatrao post-biološkim, ali ne bi ga svi nazivali "umjetnom inteligencijom". Ili razmotrite computronium, izgrađen od čisto bioloških materijala, kao što je Cylon raider (svemirski lovac) u znanstveno-fantastičnoj medijskoj franšizi Battlestar Galactica.
Ključna je stvar da nema razloga da čovječanstvo smatramo najvišim oblikom inteligencije. Naš se mozak prilagođava određenim uvjetima okoline i ozbiljno je ograničen kemijskim i povijesnim čimbenicima. Ali tehnologija je otvorila širok prostor parametara dizajna koji nudi nove materijale i metode rada, kao i nove mogućnosti za istraživanje ovog prostora brže nego kod tradicionalne biološke evolucije. I mislim da su razlozi zbog kojih će nas umjetna inteligencija nadmašiti već danas vidljivi.
Izvanzemaljska umjetna inteligencija može slijediti ciljeve koji su u suprotnosti s interesima biološkog života
Već sada najbolje sredstvo za obradu informacija nisu skupine neurona, već silicijski mikrovezji. Vršna brzina neurona je oko 200 Hz, u usporedbi s gigahertz tranzistorima u modernim mikroprocesorima. Unatoč činjenici da je ljudski mozak još uvijek mnogo inteligentniji od računala, strojevi i dalje imaju gotovo neograničene mogućnosti za poboljšanje. Još samo malo i oni će biti dizajnirani tako da odgovaraju mogućnostima ljudskog mozga ili ih čak nadmašuju, obrnutim inženjeringom mozga i poboljšanjem njegovih algoritama, ili kombiniranjem obrnutog inženjeringa i racionalnih algoritama koji se ne temelje na radu ljudskog mozga.
Promotivni video:
Uz to, umjetna se inteligencija može učitati na nekoliko mjesta odjednom, lako ju je održavati i modificirati, a može se očuvati i u uvjetima u kojima biološki život, uključujući međuzvjezdana putovanja, teško preživljava. Naši mali mozgovi ograničeni su volumenom naše lubanje i našim metabolizmom; superinteligentna umjetna inteligencija, s druge strane, sposobna se širiti Internetom, pa čak i stvarati računalništvo na ljestvici galaksije, koristeći svu svoju materiju kako bi razinu obrade informacija podigla na maksimum. Bez sumnje, superinteligentna umjetna inteligencija bila bi puno trajnija od našeg ljudskog uma.
Recimo da sam u pravu. Recimo da je tamo inteligentan život post-biološki. Koje zaključke trebamo donijeti? Trenutno postoje rječite rasprave o postojanju umjetne inteligencije na Zemlji. Dva su kontroverzna pitanja: takozvani "problem kontrole" i priroda subjektivnog iskustva, koji utječu na naše razumijevanje izvanzemaljskih civilizacija i njihov utjecaj na nas u slučaju kontakta.
Ray Kurzweil optimističan je u pogledu post-biološke faze evolucije, sugerirajući da će se čovječanstvo spojiti sa strojevima, postižući zapanjujući tehnološki utopizam. No, Stephen Hawking, Bill Gates, Elon Musk i drugi izrazili su zabrinutost da bi čovječanstvo moglo izgubiti kontrolu nadinteligentne inteligencije, jer bi moglo prepisati svoj program i "nadmudriti" svaku kontrolu koju uspostavimo. Ovo je problem kontrole, koja je naša sposobnost da kontroliramo tajanstvenu i nadmoćnu AI.
Superinteligentna umjetna inteligencija može se razviti u tehnološkoj posebnosti - naglim prijelazom u kojem ubrzavanje tehnološkog napretka, a posebno eksplozivni razvoj umjetne inteligencije - smanjuje naše šanse za predviđanje ili razumijevanje. No čak i ako se takav um pojavi na manje radikalan način, najvjerojatnije nećemo moći predvidjeti ili kontrolirati njegove ciljeve. Čak i kad bismo mogli birati koje ćemo moralne principe instalirati u naše strojeve, moralno je programiranje teško definirati na jasan način, a takvi programi u svakom slučaju mogu biti prepisani superinteligentnom inteligencijom. Pametni strojevi mogu zaobići postojeće sigurnosne mjere, poput hitnog zaključavanja uređaja, predstavljajući tako stvarnu prijetnju biološkom životu. Milijuni dolara ulažu se u organizacije za zaštitu AI. Na ovom problemu rade najbolji umovi u računalnim znanostima i računarstvu. Nadamo se da će znanstvenici stvoriti sigurne sustave, ali postoji bojazan da je problem kontrole nepremostiv.
U svjetlu toga, kontakt s vanzemaljskom inteligencijom može biti opasniji nego što mislimo. Biološki izvanzemaljci mogu biti neprijateljski raspoloženi, ali još opasnija može biti izvanzemaljska umjetna inteligencija. Njegovi ciljevi mogu biti u suprotnosti s interesima biološkog života, može imati intelektualne sposobnosti daleko superiornije od ljudskog uma i mnogo veću dugovječnost od biološkog života.
Sve to svjedoči o oprezu koji bi trebao biti primijenjen u odnosu na program Potraga za vanzemaljskom inteligencijom (SETI), uz pomoć kojeg ne samo da pasivno očekujemo da čujemo signale drugih civilizacija, već i namjerno "oglašavamo" svoje postojanje. Najpoznatiji incident dogodio se 1974. godine, kada su Frank Drake i Carl Sagan poslali poruku jednom od zvjezdanih jata pomoću ogromnog radio teleskopa u portorikanskom gradu Arecibu. Pristalice programa vanzemaljske inteligencije vjeruju da bismo umjesto da samo slušamo signale nezemaljskih civilizacija, trebali slati poruke zvijezdama najbližim Zemlji, koristeći najmoćnije radio odašiljače, poput Areciba.
Zašto bi nesvjesni strojevi trebali biti jednako važni kao biološka inteligencija?
Sa stajališta problema kontrole, takav mi se program čini nepromišljenim. Iako istinski napredna civilizacija vjerojatno ne bi imala interesa za nas, čak i jedna neprijateljska civilizacija od milijuna drugih bila bi katastrofa. Sve dok ne budemo sigurni da nam superinteligentna inteligencija ne predstavlja prijetnju, čovječanstvo ne bi trebalo privlačiti pažnju izvanzemaljskih civilizacija. Pristalice SETI-a ističu da su naši radarski i radio signali već uočljivi, ali prilično slabi i brzo se miješaju s prirodnom galaktičkom bukom. Prijenos jačih signala, koji će se točno čuti, opterećen je opasnim posljedicama za čovječanstvo.
Najsigurnija postavka je intelektualna poniznost. Zapravo, ako izuzmemo očite scenarije kada vanzemaljski brodovi lebde iznad Zemlje, kao u nedavno objavljenom filmu Dolazak, nisam siguran hoćemo li moći utvrditi superinteligentnu inteligenciju iz tehničkih razloga. Neki znanstvenici vjeruju da bi superinteligentni AI mogao stvoriti gorivo za crne rupe ili stvoriti Dysonove sfere, megastrukture koje apsorbiraju energiju cijelih zvijezda. Ali sa stajališta naših modernih tehnologija, ovo je samo obrazloženje. Izuzetno je samopouzdano tvrditi da računske sposobnosti i energetske potrebe civilizacija koje su ispred nas u razvoju možemo predvidjeti milijunima, ako ne i milijardama godina.
Neke od najranijih superinteligentnih umjetnih inteligencija možda su imale sustave za obradu znanja po uzoru na biološki mozak, poput sustava dubokog učenja koji je stvoren na primjeru neuronskih mreža u mozgu. Njihova proračunska struktura bila bi nam jasna, barem općenito. Možda umjetna inteligencija ima ciljeve slične biološkim bićima - reprodukciju i preživljavanje.
No, budući da se sustav samopoboljšanja, superinteligentna umjetna inteligencija može preći u neprepoznatljiv oblik. Neki od njih mogu odlučiti zadržati kognitivne funkcije slične vrstama prema kojima su modelirani, dok postavljaju prihvatljivo ograničenje za vlastitu kognitivnu arhitekturu. Tko zna? Ali u nedostatku takvog ograničenja, vanzemaljska inteligencija može brzo nadmašiti našu sposobnost da ne samo razumijemo svoje postupke, već je i jednostavno potražimo. Možda bi se čak spojio s prirodnim obilježjima svemira; ili je možda dio tamne materije, kao što je nedavno sugerirao Caleb Scharf.
Pristalice programa za potragu za vanzemaljskom inteligencijom vjeruju da zato moramo slati signale u svemir kako bismo omogućili vanzemaljskoj inteligenciji da nas otkrije i stvori sredstva za kontakt dostupna našoj intelektualno zaostaloj civilizaciji. Iako se slažem da postoji razlog za računanje sa SETI programom, vjerojatnost susreta s opasnom superinteligentnom inteligencijom je daleko veća. Koliko nam je poznato, zlonamjerna superinteligencija mogla bi zaraziti svjetske sustave umjetne inteligencije virusima, a inteligentne civilizacije stvorile bi uređaje za prikrivanje. Mi, ljudi, možda ćemo prvo morati postići vlastitu jedinstvenost, prije nego što pribjegnemo programu potrage za izvanzemaljskom inteligencijom. Naše vlastite superinteligentne inteligencije moći će nas informirati o izgledima za galaktičku sigurnost,i voditi naše postupke u slučaju prepoznavanja znakova druge superinteligencije u svemiru. Ptice od pera jatuju se zajedno.
Sasvim je prirodno razmišljati o tome znači li to da čovječanstvo treba izbjegavati razvoj složenog sustava umjetne inteligencije na polju svemirskih istraživanja; sjetite se samo HEL-ovog računala iz filma "Svemirska odiseja 2001". Vjerujem da je prerano razmišljati o zabrani uporabe umjetne inteligencije u svemiru u budućnosti. Do trenutka kad budemo mogli istraživati svemir vlastitom umjetnom inteligencijom, čovječanstvo će doći do točke preokreta. Ili ćemo već izgubiti kontrolu nad umjetnom inteligencijom - u tom slučaju neće biti svemirskih projekata koje je pokrenuo čovjek - ili ćemo čvrsto držati sigurnosne poluge AI. Vrijeme će reći.
Umjetna inteligencija, koja nije u potpunosti istražena, nije jedini razlog za zabrinutost. Skloni smo očekivati da ćemo, ako naiđemo na razvijenu vanzemaljsku inteligenciju, vjerojatno susresti biološki vrlo različita bića od nas, ali s inteligencijom poput naše. Zamislite da svaki trenutak kad ste budni i uvijek kad spavate postoji nešto jedinstveno za vas. Kad vam tople nijanse izlaska sunca dođu u pogled ili kad udahnete aromu svježe pečenog kruha, imate svjesno iskustvo. Na isti način, postoji nešto karakteristično za vanzemaljski um - barem onako kako mi to zamišljamo. Ali ovu pretpostavku vrijedi ispitati. Može li superinteligentna umjetna inteligencija imati svjesno iskustvo, i ako ima,što bismo na to rekli? A kakav bi utjecaj njihov unutarnji svijet ili njegov nedostatak imao na nas?
Pitanje ima li umjetna inteligencija unutarnji svijet ključno je za našu procjenu njezina postojanja. Svijest je kamen temeljac našeg moralnog i etičkog sustava i glavni uvjet za percepciju nekoga ili nečega kao pojedinca, osobe, a ne stroja. Suprotno tome, pitanje jesu li svjesni može biti ključ njihove percepcije o nama. O ovoj procjeni ovisi odgovor na pitanje ima li umjetna inteligencija unutarnji svijet; u nama može otkriti sposobnost svjesnog iskustva, koristeći se vlastitim subjektivnim iskustvom kao "odskočnom daskom". Na kraju život drugih bioloških bića procjenjujemo prema sličnosti naših umova, pa će većina nas s užasom odbiti ubiti čimpanze, ali oni će s užitkom pojesti jabuku.
Ali kako bića s ogromnim intelektualnim razlikama, stvorena iz različitih supstrata, prepoznaju svijest jedno u drugom? Filozofi širom svijeta razmišljali su je li svijest ograničena na biološke pojave. Superinteligentna umjetna inteligencija, ako se želimo uroniti u filozofsko razmišljanje, mogla bi na sličan način pokrenuti "problem biološke svijesti" ljudi, pitajući se istovremeno imamo li sav potreban materijal.
Nitko ne zna kojim će intelektualnim putem ići supermind da odredi svijest ljudi. Ali mi sa svoje strane također ne možemo tvrditi ima li umjetna inteligencija svijest. Nažalost, to će biti teško utvrditi. Trenutno možete tvrditi da stječete iskustvo, a to je ono što vas čini samima. Vi ste vlastiti primjer svjesnog iskustva. I mislite da su i drugi ljudi i neke životinje koje nisu ljudi najvjerojatnije također svjesni, jer su slični vama na neurofiziološkoj razini. Ali kako odrediti može li nešto stvoreno od potpuno različitih podloga imati iskustva?
Razmotrimo, na primjer, superinteligenciju na bazi silicija. Unatoč činjenici da i silicijski mikročipovi i neuralni minikolumni obrađuju informacije, sada znamo da se na molekularnoj razini mogu razlikovati u načinu na koji utječu na svijest. Napokon, vjerujemo da je ugljik kemijski materijal prikladniji za život od silicija. Ako kemijske razlike između silicija i ugljika utječu na nešto toliko važno kao što je sam život, ne bismo trebali isključiti mogućnost da kemijske razlike utječu na druge ključne funkcije, poput toga doprinosi li silicij rađanju svijesti.
O uvjetima nužnim za pojavu svijesti naširoko raspravljaju istraživači umjetne inteligencije, neuroznanstvenici i filozofi. Rješavanje ovog pitanja moglo bi zahtijevati empirijski pristup zasnovan na filozofiji - način da se od slučaja do slučaja utvrdi podržava li sustav za obradu informacija svijest i pod kojim uvjetima.
Dalje, razgovarajmo o pretpostavci s kojom bismo mogli poboljšati svoje razumijevanje sposobnosti silicija da održava svijest. Razvoj moždanih čipova na bazi silicija već je u tijeku za liječenje bolesti povezanih s pamćenjem poput Alzheimerove bolesti i PTSP-a. Kad za to dođe vrijeme, a čipovi će se instalirati u one dijelove mozga koji su odgovorni za funkcije svijesti, na primjer, pažnju i radnu memoriju, shvatit ćemo je li silicij supstrat za svijest. Mogli biste otkriti da kada zamijenite određeni dio mozga čipom, gubi se određeno iskustvo, kao što je opisano u jednom od djela Olivera Sachsa. U ovom slučaju, inženjeri koji stvaraju takve čipove mogli bi isprobati drugačiju, neuralnu vrstu podloge, ali bi na kraju mogli otkritida čip stvoren od bioloških neurona jedini radi. Takva bi tehnika pomogla utvrditi može li sustav umjetne inteligencije biti svjestan, barem kada se nalazi u većem i vjerojatno već svjesnom sustavu.
Čak i ako silicij može stvoriti svijest, to je moguće samo pod određenim uvjetima. Svojstva koja vode složenom procesu obrade informacija (što je zabrinjavajuće programere umjetne inteligencije) mogu se razlikovati od svojstava koja generiraju svijest. Možda će biti potreban takozvani inženjering svijesti - tehnički promišljene radnje za uvođenje svijesti u strojeve.
To je ono što me brine. Tko bi na Zemlji ili na udaljenim planetima pokušao samostalno integrirati svijest u AI sustave? Zapravo, kad razmišljam o programima AI koji postoje na Zemlji, razumijem zašto njihovi inženjeri dizajna marljivo izbjegavaju stvaranje svjesnih strojeva.
Japanci danas razvijaju robote za njegu starijih osoba, čišćenje nuklearnih reaktora i sudjelovanje u neprijateljstvima. Ovdje se postavlja pitanje: Je li etično iskorištavati robote ako su svjesni? I kako će se razlikovati od uzgoja ljudskih bića u ove svrhe? Da sam direktor razvoja umjetne inteligencije na Googleu ili Facebooku, onda, razmišljajući o budućim projektima, ne bih se želio suočiti s etičkom zbrkom slučajnog projektiranja svjesnog sustava. Razvoj takvog sustava mogao bi dovesti do optužbi za porobljavanje robota i drugih javnih skandala, kao i do zabrane korištenja tehnologija umjetne inteligencije na područjima kojima su namijenjeni. Prirodni odgovor na ova pitanja je potraga za strukturama i podlogama gdje roboti nisu obdareni sviješću.
Štoviše, uklanjanje svijesti može biti učinkovitije za samokultivirajuću superinteligenciju. Razmislite o tome kako funkcionira ljudska svijest. Samo je mali postotak ljudskog razmišljanja dostupan za svjesnu mentalnu aktivnost. Svijest je u skladu s inovativnim ciljevima učenja koji zahtijevaju pažnju i fokus. Superinteligencija bi imala stručno znanje u svakom području djelatnosti, kao i nevjerojatno brzu obradu informacija, pokrivajući ogromne baze podataka koje bi mogle obuhvaćati cijeli Internet, a u budućnosti koncentrirati cijelu galaksiju u sebi. Što bi za njega ostalo nepoznato? Što bi zahtijevalo izmjerenu i razumnu koncentraciju? Nije li u svemu postigao savršenstvo? Poput iskusnog vozača na poznatoj cestimogao se osloniti na nesvjesnu (automatsku) obradu informacija. Sa stajališta učinkovitosti, nažalost, očito je da većina inteligentnih sustava neće posjedovati svijest. Na kozmičkim razmjerima svijest može biti samo impuls, kratki procvat iskustva prije nego što se svemir vrati u bezumlje.
Ako ljudi sumnjaju da je umjetna inteligencija nesvjesna, vjerojatno će s bojažom pretpostaviti da AI želi postati post-biološki. To povećava naše egzistencijalne brige. Zašto bi nesvjesni strojevi trebali biti jednako važni kao biološka inteligencija?
Vrlo brzo ljudi će prestati biti jedina inteligentna bića na Zemlji. I, možda, negdje u svemiru, ne biološki život, već je superinteligentna umjetna inteligencija već dostigla vrhunac. Ali možda biološki život ima drugačiju karakteristiku - svjesno iskustvo. Kao što sada znamo, inteligentna umjetna inteligencija zahtijevat će namjerne inženjerske napore kako bi stvorila strojeve koji mogu pristupiti ljudskim osjetilima. Možda će neke vrste smatrati prikladnim stvoriti vlastitu umjetno svjesnu djecu. Ili će se možda buduće čovječanstvo baviti inženjerstvom svijesti i podijeliti sa Svemirom njegovu svjesnu sposobnost osjećaja.
Susan Schneider je docentica na Odsjeku za filozofiju i kognitivne znanosti Sveučilišta Connecticut i pridružena profesorica na Institutu za napredne studije Centra za teološka istraživanja, etiku i tehnologiju pri Interdisciplinarnom centru za bioetiku Yale. Autor nekoliko knjiga, uključujući znanstvenu fantastiku i filozofiju: od putovanja kroz vrijeme do superuma.
Više informacija možete pronaći na SchneiderWebsite.com
