Unatoč širokoj pažnji razvoju umjetne inteligencije, u svijetu postoji nekoliko ljudi koji vjeruju da je potencijal značajno poboljšane ljudske inteligencije (AI) mnogo veći. Pitanje što će prvo doći ostaje otvoreno, ali vjeruje se da tehnološki napredni mozak može biti jednako moćan (i iskreno, jednako opasan) kao i AI.
Čovjek kao vrsta razvijao je svoje razmišljanje kroz tisućljeća. Ili su barem pokušali to učiniti. Pokušavajući prevladati svoja kognitivna ograničenja, ljudi su koristili sve što mogu, od pisanih, jezičnih i meditativnih tehnika do modernih nootropica.
Zašto, umjesto da pokušavamo razviti opću umjetnu inteligenciju (AGI) ili čak umjetnu superinteligenciju (ISI), ne bi bilo bolje usredotočiti se na ljudski mozak i njegov još uvijek daleko od potpuno otkrivenog potencijala? Doista, značajno poboljšanje uma - bilo genetikom, kibernetikom ili silama vanjskih uređaja - može dovesti do istog rezultata koji očekujemo od stvaranja naprednog AI-ja.
Portal Gizmodo odlučio je kontaktirati futurologa Michaela Anisimova, blogera portala Accelerating Future i suosnivača događaja Summitity Summit, te otkriti vjerojatne izglede za razvoj smjera poboljšanja ljudskog mozga. Anisimov ovo pitanje shvaća vrlo ozbiljno i smatra da bismo trebali biti oprezni prema AI koliko i AI.
Michael, kad govorimo o povećanju inteligencije, što mi zapravo mislimo pod tim? Govorimo li o stvaranju novih Einsteina? Ili je to nešto još ambicioznije?
Pravi cilj AI smjera je radije stvaranje "super-Einsteina", ljudi mnogo pametnijih od bilo koje osobe koja je ikada živjela na Zemlji. A da bi se taj cilj postigao, morat će se poduzeti nekoliko ključnih koraka.
Prvi korak je stvaranje izravne neuronske veze s informacijama. Zamislite to kao neku vrstu "telepatskih Google pretraga".
Sljedeće će predstavljati razvoj sučelja između mozga i računala, što će poboljšati rad dijela mozga koji je odgovoran za vizualnu percepciju. To će poboljšati ne samo našu viziju, već će značajno povećati i učinkovitost obrade informacija. Zamislite da ćete moći gotovo trenutno stvoriti u svom mozgu neku složenu shemu predmeta detaljno, ili sada možete detaljno zapamtiti shemu koju ste vidjeli. Također će biti potrebno povećanje u drugim područjima osjetilnog korteksa odgovornim za dodir i sluh.
Promotivni video:
Treći korak bit će povećanje prefrontalnog korteksa. Ovo je sveti gral istraživanja korisničkog sučelja - poboljšanje učinkovitosti percepcije i integracije osjetilnih informacija u pojmove. Krajnji rezultat bit će pojava ljudi sposobnih pokazati gotovo nemoguće intelektualne sposobnosti. Govorimo, na primjer, o sposobnosti da se kontrolira druge ljude snagom razuma, razumijevanjem svih pobjedničkih pozicija na burzi ili, primjerice, stvaranjem izuma koji mogu promijeniti svijet u gotovo jednom danu. To se sada može činiti nemogućim, baš kao što su i naša moderna dostignuća izgledala nemoguća u očima ljudi kamenog doba. Ali ta je mogućnost stvarno stvarna.
Gledajući prema naprijed za sljedećih deset godina, gdje će se AI razvijati? Može li se ljudski mozak doista natjecati s njim?
Ljudski mozak se doista ne može previše promijeniti. Napokon, to je već rezultat sedam milijuna godina evolucijske optimizacije i preciznog prilagođavanja, koji su, moram priznati, bili vrlo uspješni, s obzirom na njena ograničenja. A pokušaji da ga "pretjeraju", u pravilu, dovode do njegovog neuspjeha, ako razmotrimo to pitanje, barem s gledišta primjera učinaka popraćenih amfitaminskom ovisnošću.
Trejler za film Područja tame
Kemikalije nisu u stanju poboljšati kognitivne sposobnosti osobe. A sve što se daje u korist učinkovitosti sadašnjih "akceleratora mozga" izgleda u stvari krajnje kontroverzno i dvojbeno. Za pravi uspjeh bit će potrebna upotreba implantata za mozak koji će se povezati s milijunima neurona. Ovo će zauzvrat zahtijevati milijune sitnih elektroda i namjenski upravljački sustav da bi ih sve sinkronizirao. Danas najnapredniji dizajn sučelja između računala i mozga u najboljem slučaju ima oko 1000 takvih veza. Drugim riječima, moderni razvoj se mora povećati više od tisuću puta kako bi se postiglo nešto stvarno zanimljivo. Čak i ako uzmemo u obzir eksponencijalni rast, trebat će najmanje 15 do 20 godina da postignemo bilo kakve rezultate.
Razvoj korisničkog sučelja temelji se prije svega na napretku u razvoju nanoprodukcije. A rezultati inženjera koji rade na sučeljima između mozga i računala, kao što je, na primjer, Ed Boyden s Massachusetts Institute of Technology, u potpunosti ovise o napretku u tom smjeru. S obzirom na beznačajnu razinu razvoja proizvodnih tehnologija na atomskoj razini, samonastavljanje nano-razine izgleda kao najočitiji način za razvoj sučelja mozga i računala s milijunima elektroda. Napominjemo, samonastavljanje nano-razine nije atomsko precizna metoda izrade, ali je dovoljno precizno u skladu s osnovnim proizvodnim i fotolitografskim standardima.
Koje su potencijalne psihološke nuspojave za ljude sa značajno poboljšanom inteligencijom? Mogu li se s te točke gledišta općenito smatrati ljudima?
Jedna od najčešćih nuspojava bit će ludilo. Ljudski mozak je nevjerojatno fino podešen stroj. A svaka promjena u načinu rada vodi do onoga što obično nazivamo "ludilom". Mnogo je različitih vrsta ludila, puno više od obrazaca ponašanja u zdravom razumu. Na primjer, skrivena ludost sa stajališta vanjske okoline može se činiti prilično zdravim ponašanjem, stoga ćemo se, najvjerojatnije, suočiti s poteškoćama u prepoznavanju takvih osoba koje pate od ludila.
Čak i uz potpuno zdrav razum mogu se pojaviti razne nuspojave, uključujući napadaje, preopterećenje informacijama i moguće osjećaje egomanije i potpunog otuđenja. Pametni ljudi imaju tendenciju da se osjećaju otuđenijim od svijeta oko sebe, tako da će znati da ste pametniji od svih na planeti ovaj efekt mnogo puta pojačati.
Većina vrlo pametnih ljudi nije baš društvena i vesela, poput, recimo, američkog znanstvenika Richarda Feynmana ili poput modernog Neila DeGrasse Tysona. Jednom je Hemingway rekao: "Inteligentna je osoba ponekad prisiljena da se napije kako bi izdržala komunikaciju s budalama." Ali što se događa kada alkoholna pijanstva više nisu dovoljna za održavanje prijateljstva i međusobne naklonosti? To može dovesti do gubitka empatije, što u konačnici vodi do psihopatije.
Pa što prvo dolazi? Pojačana ili umjetna inteligencija?
Vrlo je teško predvidjeti. Velika je želja da se pojačana inteligencija pojavi pred AI. Sva ta umjetnička djela i igre u kojima glavni junak posjeduje takvo korisničko sučelje uvelike su zaslužni za tu želju. Međutim, treba shvatiti da pristranost prema korisničkom sučelju zapravo ne olakšava rad u smislu tehnološke složenosti. Ali osobno, mislim da će UI doći ranije.
Bez obzira na to, oba smjera su vrlo teška za provedbu. Možda nećemo vidjeti nijednu do 2060-ih, 2070-ih ili čak kasnije. U konačnici će oba smjera razvoja postići svoje ciljeve. Ako razmislite, sada u inteligenciji nema ništa iznenađujuće, pa je potreba za njezinim usavršavanjem nevjerojatno ogromna. I vjerojatno će trebati globalni ustanak Luddita (sudionika u spontanim prosvjedima prve četvrtine 19. stoljeća protiv uvođenja strojeva tijekom industrijske revolucije u Engleskoj - ur.) Da zaustavi napredak tehnološkog razvoja, što će nas dovesti do željenih rezultata.
Koje su prednosti i nedostaci ova dva različita pristupa razvoju?
Glavna prednost odabira AI razvojnog puta leži u nerazmjerno jeftinijim i lakšim razvojnim procesima. AI na papiru i u kodu već je razvijen. Ostaje samo pravilno sastaviti. Zauzvrat, najznačajnije istraživanje o korisničkom sučelju sada je jednostavno ilegalno. Ozbiljno istraživanje UI-a zahtijevat će vrlo sofisticirane eksperimente u neurohirurgiji i implantatima mozga. Mozak implantati, zauzvrat, mogu propasti što uzrokuje napadaje, ludilo ili čak smrt. Poboljšanje ljudske inteligencije u smislu kvalitetnog načina samopoboljšanja nije samo pitanje uzimanja nekoliko tableta za stjecanje supermoći. Ovdje stvarno morate eksperimentirati s implantatima mozga ako želite postići ozbiljne rezultate.
Većina istraživanja na ovom području strogo je kontrolirana i nevjerojatno skupa. Svi eksperimenti sa životinjama uvijek su skupi. Na primjer, Theodor Berger već dugi niz godina radi na implantatu hipokampa kako bi obnovio i poboljšao performanse memorije. 2004. godine provedena su prva ispitivanja na živom tkivu, ali od tada su vijesti vrlo rijetke. Svakih nekoliko godina, naravno, postoje vijesti u vijestima, ali vrlo sam skeptičan u pogledu konačnog rezultata. Sada pogledajte razinu razvoja koju smo uspjeli postići u razvoju umjetne inteligencije!
Izgleda li AI sigurniji od AI u pogledu predvidljivosti i kontrole? Što je važnije stvoriti prvo, AI ili super moćno AI?
Pojačana inteligencija vidi se kao nepredvidivija i nekontroliranija u odnosu na super moćni AI. I dugoročno gledano to zapravo izgleda još opasnije. Nedavno sam napisao članak koji se odražava na globalnu političku transformaciju potaknutu ogromnom moći koncentriranom u rukama male skupine ljudi s AI ili isključivim pristupom molekularnoj proizvodnji. U njemu sam skovao izraz „maksimilijan“, što znači „najbolji od najboljih“, kako bih opisao vrlo utjecajni vođa koji i sam koristi naprednu inteligencijsku tehnologiju da se uzdigne iznad svih ostalih.
Kognitivno poboljšani Reginald Barkley iz Zvjezdanih staza: Sljedeća generacija u epizodi X
Ključna točka mog rasuđivanja u članku je da se u slučaju poboljšane inteligencije morate suočiti s ljudima, a osoba je, kao što znate, nesavršena. Može se ispostaviti da će ljudi s poboljšanom inteligencijom zadržati određeni nivo ljudskog morala, ali najvjerojatnije će početi koristiti svu snagu uma u hedonističke svrhe i, možda, čak i za genocid.
Umjetna superinteligencija, zauzvrat, može se stvoriti ispočetka i jednostavno napraviti tako da slijedi skup vlastitih motivacija (koje će se također ugraditi u nju), koje imaju dobar početak, stabilnost i pozitivne povratne informacije.
Ljudi postavljaju pitanje: "Bi li ISI odbacio ove motive?" Ne, neće, jer će te motivacije činiti jezgro njegovih vrijednosti, ako ih, naravno, pravilno programiraju. Neće biti "duha u automobilu" sposobnog zanemariti ili odbaciti unaprijed programirane motive.
Filozof Nick Bostrom učinio je nevjerojatnu analizu u svom djelu "Volja superinteligence". Ključna ideja u njemu je da se sebični ciljevi ne mogu pojaviti sami ako je sustav ključnih zadataka AI-ja u početku u osnovi skup nesebičnih ciljeva i ako je sama suština postojanja stroja da održi tu nesebičnost. Evolucija je pokazala da sebični ciljevi igraju važnu ulogu u preživljavanju, posebno ako uzmemo u obzir evolucijska konstruktivna ograničenja živih organizama, ali to ne znači da mi sami nismo u mogućnosti programirati nezainteresirane agente od nule?
Koje poteškoće (tehnološke, medicinske ili etičke) stoje na putu razvoja?
Najveći izazov leži u razvoju prikladnih proizvodnih tehnologija. Sada nismo ni blizu ovoga. Još jedna zamka je zadatak utvrditi za što je točno odgovoran svaki pojedini neuron i utvrditi točan položaj tih neurona u jednoj osobi. Opet, nismo ni blizu toga.
Treće, moramo razviti brz način da testiramo mnoge teorije o funkciji mozga. Ed Boyden ovo naziva "krugovnim krugovima probira neuronske mreže". Najprikladnije i najočitije rješenje ovog pitanja može biti nekako stvaranje svijesti čovjeka i eksperimentiranje na njemu bez trunke savjesti ili moralnih nedoumica. Ali imam osjećaj da će većina etičkih povjerenstava tu ideju naići na neprijateljstvo.
U nedostatku takve mogućnosti, trebamo pronaći način da stvorimo neviđeno detaljan model ljudskog mozga. A ne govorimo o današnjim teškim pokušajima projekta „modeliranja mozga“oko kojeg postoji toliko preljuba. Govorimo o neviđenoj novoj razini koju nećemo moći dostići do 2050.-2080. Oxfordska analiza pokazuje da se radi više o 2080-im. Sada to, izgleda, izgleda poput prikazivanja bogatstva na kavama, ali ipak bliže stvarnosti.
NIKOLAY KHIZHNYAK
