Pred vama je drugi dio članka iz serijala "Čekaj, kako sve to može biti stvarno, zašto se još uvijek ne govori na svakom koraku." U prethodnoj seriji postalo je poznato da se eksplozija inteligencije postepeno prelijeva prema ljudima planeta Zemlje, pokušava se razviti iz usko usredotočene na univerzalnu inteligenciju i, konačno, umjetnu superinteligenciju.
"Možda se suočavamo s iznimno teškim problemom i nije poznato koliko je vremena predviđeno za njegovo rješenje, ali budućnost čovječanstva može ovisiti o njegovom rješenju." - Nick Bostrom.
Prvi dio članka počeo je dovoljno nevinašce. Razgovarali smo o usko usredotočenoj umjetnoj inteligenciji (AI, specijaliziranoj za rješavanje jednog specifičnog problema, poput određivanja ruta ili igranja šaha), u našem svijetu je toga puno. Zatim su analizirali zašto je tako teško uzgajati opću usmjerenu umjetnu inteligenciju (AGI, ili AI, koja se po intelektualnim sposobnostima može usporediti s ljudskom u rješavanju bilo kojeg problema). Zaključili smo da eksponencijalni tempo tehnološkog napretka nagovještava da će AGI uskoro biti iza ugla. Na kraju smo odlučili da čim strojevi dostignu ljudsku inteligenciju, mogu se dogoditi sljedeće:
Kao i obično, gledamo u ekran, ne vjerujući da se tijekom našeg života može pojaviti umjetna superinteligencija (ISI, koja je mnogo pametnija od bilo koje osobe) i odabiremo emocije koje bi najbolje odražavale naše mišljenje o ovom pitanju.
Promotivni video:
Prije nego što uđemo u specifičnosti ISI-ja, podsjetimo se što znači za stroj biti superinteligentan.
Glavna razlika leži između brze superinteligencije i kvalitetne superinteligence. Često, prvo što mi padne na pamet pri razmišljanju o superinteligentnom računalu jest da može razmišljati mnogo brže od osobe - milijunima puta brže, a za pet minuta shvatit će što bi osobi trebalo deset godina. ("Znam kung fu!")
Zvuči impresivno i ISI bi stvarno trebao razmišljati brže od bilo koga od ljudi - ali glavna karakteristika razdvajanja bit će kvaliteta njegovog intelekta, što je sasvim drugo. Ljudi su mnogo pametniji od majmuna, ne zato što brže razmišljaju, već zato što njihov mozak sadrži niz genijalnih kognitivnih modula koji izvode složene jezične reprezentacije, dugoročno planiranje, apstraktno razmišljanje, za što majmuni nisu sposobni. Ako tisuću puta ubrzate mozak majmuna, on neće postati pametniji od nas - čak ni nakon deset godina neće moći sastaviti konstruktor prema uputama, što bi čovjeku trebalo najviše nekoliko sati. Postoje stvari koje majmun nikada neće naučiti, bez obzira koliko sati proveo ili koliko brzo funkcionira njegov mozak.
Osim toga, majmun ne zna kako ljudski, jer njegov mozak jednostavno nije u stanju shvatiti postojanje drugih svjetova - majmun može znati što je osoba i što je neboder, ali nikada neće shvatiti da su neboder sagradili ljudi. U njenom svijetu sve pripada prirodi, a makaga ne samo da ne može sagraditi neboder, nego i razumjeti da ga svatko može sagraditi. A to je rezultat male razlike u kvaliteti inteligencije.
U općoj shemi inteligencije o kojoj govorimo ili jednostavno prema standardima bioloških bića, razlika u kvaliteti inteligencije između ljudi i majmuna je mala. U prethodnom smo članku na ljestvicu postavili biološke kognitivne sposobnosti:
Da biste shvatili koliko će ozbiljna biti superinteligentna mašina, postavite je za dva stupnja viša od osobe na toj ljestvici. Ovaj je stroj možda malo superinteligentan, ali njegova superiornost nad našim kognitivnim sposobnostima bit će ista kao i naša - nad majmunima. I baš kao što čimpanza nikada neće shvatiti da se može sagraditi neboder, mi nikad nećemo razumjeti što će razumjeti stroj nekoliko koraka više, čak i ako nam stroj pokuša objasniti. Ali ovo je samo par koraka. Pametniji stroj vidjet će mrave u nama - godinama će nas naučiti najjednostavnijim stvarima iz svog položaja, a ti će pokušaji biti potpuno beznadežni.
Vrsta superinteligencije o kojoj ćemo danas govoriti leži daleko izvan ove ljestvice. Ovo je eksplozija inteligencije - što pametniji automobil postane brži, može povećavati vlastitu inteligenciju, postepeno povećavajući zamah. Možda će trebati godine da ovakav stroj nadmaši čimpanze u inteligenciji, ali možda će nas nekoliko sati nadmašiti u par koraka. Od ovog trenutka automobil već može prelaziti četiri koraka svake sekunde. Zato bismo trebali razumjeti da se vrlo brzo nakon što se pojave prve vijesti da je stroj dostigao razinu ljudske inteligencije, možemo suočiti sa stvarnošću suživota na Zemlji s nečim što će biti puno više od nas na ovoj ljestvici (ili možda i milijunima puta veći):
A budući da smo ustanovili da je potpuno beskorisno pokušavati shvatiti snagu stroja koja je samo dva koraka iznad nas, definirajmo jednom zauvijek da ne postoji način da razumijemo što će ISI učiniti i kakve će posljedice za to imati za nas. Onaj tko tvrdi suprotno, jednostavno ne razumije što znači superinteligencija.
Evolucija je polako i postupno razvijala biološki mozak tijekom stotina milijuna godina, i ako ljudi stvore superinteligentni stroj, u određenom smislu nadilazit ćemo evoluciju. Ili će biti dio evolucije - možda evolucija djeluje na takav način da se inteligencija razvija postepeno dok ne dosegne prekretnicu koja najavljuje novu budućnost za sva živa bića:
Zbog razloga o kojima ćemo kasnije raspravljati, ogroman dio znanstvene zajednice vjeruje da pitanje nije hoćemo li doći do ove prekretnice, već kada.
Gdje ćemo završiti nakon ovoga?
Mislim da nitko na ovome svijetu, ni ja ni ti neće moći reći što će se dogoditi kad dosegnemo prekretnicu. Oxfordski filozof i vodeći teoretičar AI Nick Bostrom vjeruje da sve moguće ishode možemo razvrstati u dvije široke kategorije.
Prvo, gledajući povijest, znamo sljedeće o životu: vrste se pojavljuju, postoje određeno vrijeme, a zatim neizbježno padaju iz ravnoteže života i izumiru.
"Sve vrste izumiru" u povijesti je bilo jednako pouzdano pravilo kao i "svi ljudi izumiru jednog dana". 99,9% vrsta je palo iz dnevnika života i jasno je da ako vrsta predugo visi na njoj, griz prirodnog vjetra ili nagli asteroid preokrenut će truplo. Bostrom naziva izumiranje stanjem privlačnog tijela - mjesto na kojem sve vrste uravnotežuju kako ne bi propale tamo gdje se nijedna vrsta nije vratila.
I premda većina znanstvenika priznaje da će ISI imati sposobnost osuđivati ljude na izumiranje, mnogi također vjeruju da će korištenje mogućnosti ISI-ja omogućiti pojedincima (i vrstama u cjelini) da postignu drugo stanje atraktora - besmrtnost vrsta. Bostrom vjeruje da je besmrtnost neke vrste privlačna koliko i izumiranje vrste, odnosno ako dođemo do toga bit ćemo osuđeni na vječno postojanje. Dakle, čak i ako su sve vrste do današnjeg dana pale s ovog štapa u vrtlog izumiranja, Bostrom vjeruje da trupac ima dvije strane, a na Zemlji se jednostavno nije pojavila takva inteligencija koja bi razumjela kako pasti na drugu stranu.
Ako su Bostrom i drugi u pravu, a sudeći po svim dostupnim informacijama, oni bi mogli biti takvi, trebamo prihvatiti dvije vrlo šokantne činjenice:
1. Pojava ISI, prvi put u povijesti, otvorit će mogućnost da vrsta postigne besmrtnost i odustane od fatalnog ciklusa izumiranja.
2. Pojava ISI će imati tako nezamislivo ogroman utjecaj da će, najvjerojatnije, čovječanstvo gurnuti s ove zrake u jednom ili drugom smjeru.
Moguće je da kad evolucija dosegne takvu prekretnicu, ona uvijek prekida odnos ljudi s strujom života i stvara novi svijet, sa ili bez ljudi.
Postavlja se zanimljivo pitanje koje samo bumbar ne bi pitao: Kada ćemo doći do ove prekretnice i gdje će nas to postaviti? Nitko na svijetu ne zna odgovor na ovo dvostruko pitanje, ali mnogi pametni ljudi desetljećima su to pokušavali shvatiti. Za ostatak članka shvatit ćemo odakle dolaze.
* * *
Započnimo s prvim dijelom ovog pitanja: kada trebamo doći do prekretnice? Drugim riječima: koliko je vremena preostalo dok prvi stroj ne dosegne superinteligenciju?
Mišljenja se razlikuju od slučaja do slučaja. Mnogi, među kojima profesor Vernor Vinge, znanstvenik Ben Herzel, suosnivač Sun Microsystemsa Bill Joy, futurist Ray Kurzweil, složili su se sa stručnjakom za strojno učenje Jeremyjem Howardom kada je na TED Talk-u predstavio sljedeći graf:
Ovi ljudi dijele mišljenje da ISI uskoro dolazi - taj eksponencijalni rast, koji nam se danas čini sporim, doslovno će eksplodirati u narednih nekoliko desetljeća.
Drugi, poput suosnivača Microsofta Paul Allena, istraživač-psiholog Gary Marcus, računalni stručnjak Ernest Davis i tehnološki poduzetnik Mitch Kapor, vjeruju da mislioci poput Kurzweila ozbiljno podcjenjuju veličinu problema i smatraju da nismo ni približno tako blizu vrhuncu.
Kurzweilov tabor tvrdi da je jedina potcjenjivanje do koje dolazi, ignoriranje eksponencijalnog rasta, a sumnjičavci se mogu usporediti s onima koji su 1985. gledali polako cvjetajući Internet i tvrdili da to neće imati utjecaja na svijet u bliskoj budućnosti.
Dvojitelji se mogu odbiti da je teže napredovati svaki sljedeći korak kada je riječ o eksponencijalnom razvoju inteligencije, koja neutralizira tipičnu eksponencijalnu prirodu tehnološkog napretka. Itd
Treći se kamp, u kojem je Nick Bostrom, ne slaže ni s prvim ni s drugim, tvrdeći da: a) sve se to apsolutno može dogoditi u skoroj budućnosti; i b) ne postoji jamstvo da će se to uopće dogoditi ili će trajati duže.
Drugi, poput filozofa Huberta Dreyfusa, vjeruju da sve tri skupine naivno vjeruju da će uopće doći do prekida i da najvjerojatnije nikad nećemo doći do ISI-ja.
Što se događa kada sastavimo sva ta mišljenja?
U 2013. godini Bostrom je proveo istraživanje u kojem je intervjuirao stotine stručnjaka iz područja umjetne inteligencije tijekom niza konferencija na sljedeću temu: "Kakva će biti vaša predviđanja za postizanje AGI-a na ljudskoj razini?" i zatražio od nas da nazovemo optimističnu godinu (u kojoj ćemo imati AGI s 10-postotnom šansom), realnu pretpostavku (godinu u kojoj ćemo imati AGI s 50-postotnom vjerojatnošću) i sigurnu pretpostavku (najranija godina u kojoj će se AGI pojaviti od 90. godine) -procentna vjerojatnost). Evo rezultata:
- Prosječna optimistična godina (10%): 2022
- Prosječna realna godina (50%): 2040
- Prosječna pesimistička godina (90%): 2075
Prosječni ispitanici vjeruju da ćemo za 25 godina imati AGI umjesto ne. 90-postotna šansa da se AGI dogodi do 2075. godine znači da ako ste još uvijek sasvim mladi sada će se to najvjerojatnije dogoditi u vašem životu.
Odvojena studija koju su nedavno proveli James Barratt (autor cijenjene i vrlo dobre knjige Naša najnovija invencija, izvodi iz koje sam upozorio čitatelje Hi-News.ru) i Bena Hertzela na AGI konferenciji, godišnjoj AGI konferenciji, jednostavno su pokazali mišljenja ljudi u odnosu na godinu kad stignemo do AGI: 2030, 2050, 2100, kasnije ili nikad. Evo rezultata:
- Do 2030.: 42% ispitanika
- Do 2050.: 25%
- Do 2100.: 20%
- Nakon 2100: 10%
- Nikad: 2%
Slično rezultatima Bostroma. Prema Barrattovoj anketi, više od dvije trećine anketiranih vjeruje da će AGI biti ovdje do 2050. godine, a manje od polovice vjeruje da će se AGI pojaviti u narednih 15 godina. Upadljivo je i da samo 2% ispitanika, u načelu, ne vidi AGI u našoj budućnosti.
Ali AGI nije prekretnica poput ISI. Kad ćemo, prema stručnjacima, imati ISI?
Bostrom je pitao stručnjake kada ćemo doći do ASI-ja: a) dvije godine nakon postizanja AGI-a (to je gotovo odmah zbog eksplozije inteligencije); b) nakon 30 godina. Rezultati?
Prosječno mišljenje je da će se brzi prijelaz s AGI na ISI dogoditi s 10% vjerojatnosti, ali za 30 ili manje godina će se dogoditi s 75% vjerojatnosti.
Iz tih podataka ne znamo koji bi datum ispitanici nazvali 50 posto šanse za ASI, ali na osnovu dva gornja odgovora, pretpostavimo da je to 20 godina. To jest, vodeći svjetski stručnjaci za AI vjeruju da će prekretnica doći 2060. godine (AGI će se pojaviti 2040. + trebati će 20 godina za prijelaz s AGI na ISI).
Naravno, sve gore navedene statistike špekulativne su i samo predstavljaju mišljenje stručnjaka za područje umjetne inteligencije, ali također ističu kako se većina zainteresiranih slaže da će AI vjerovatno stići do 2060. godine. U samo 45 godina.
Krenimo na drugo pitanje. Kad stignemo do prekretnice, koja će nas kobna odluka odrediti?
Superinteligencija će imati najsnažniju moć, a kritično pitanje za nas bit će sljedeće:
Tko ili što će kontrolirati tu moć i koja će im biti motivacija?
Odgovor na ovo pitanje ovisit će o tome hoće li ISI dobiti nevjerojatno moćan razvoj, nemjerljivo zastrašujući razvoj ili nešto između toga.
Naravno, stručna zajednica pokušava odgovoriti i na ova pitanja. Bostromova anketa analizirala je vjerojatnost mogućih posljedica utjecaja AGI-ja na čovječanstvo, a pokazalo se da će s 52 posto šanse sve ići vrlo dobro i s 31 posto šanse da će sve proći ili loše ili izuzetno loše. Anketa priložena na kraju prethodnog dijela ove teme, provedena među vama, dragi čitatelji Hi-News-a, pokazala je približno iste rezultate. Za relativno neutralan ishod vjerojatnost je bila samo 17%. Drugim riječima, svi vjerujemo da će AGI biti velika stvar. Također je vrijedno napomenuti da se ovo istraživanje odnosi na pojavu AGI - u slučaju ISI postotak neutralnosti bit će niži.
Prije nego što dublje razmislimo o dobrim i lošim stranama pitanja, kombinirajmo obje strane pitanja - "kada će se to dogoditi?" i "je li ovo dobro ili loše?" u tablicu koja pokriva stavove većine stručnjaka.
O glavnom kampu razgovarat ćemo za minutu, ali prvo, odlučite o svom položaju. Najvjerojatnije se nalazite na istom mjestu na kojem sam i ja, prije nego što sam započeo raditi na ovoj temi. Postoji nekoliko razloga zbog kojih ljudi uopće ne razmišljaju o ovoj temi:
- Kao što je spomenuto u prvom dijelu, filmovi su ozbiljno zbunili ljude i činjenice, predstavljajući nerealne scenarije s umjetnom inteligencijom, što je dovelo do činjenice da uopće ne bismo trebali shvaćati AI. James Barratt je usporedio ovu situaciju s izdavanjem centara za kontrolu bolesti (CDC) s ozbiljnim upozorenjem o vampirima u našoj budućnosti.
- Zbog takozvanih kognitivnih pristranosti, vrlo je teško vjerovati da je nešto stvarno dok nemamo dokaze. Može se pouzdano zamisliti da računalni znanstvenici iz 1988. redovito raspravljaju o dalekosežnim posljedicama Interneta i onome što bi moglo postati, ali ljudi jedva vjeruju da će im to promijeniti život dok se to zapravo ne dogodi. Samo što računala nisu znala kako to učiniti 1988. godine, a ljudi su samo gledali u svoja računala i pomislili: "Stvarno? Je li to ono što će promijeniti svijet? " Njihove su mašte bile ograničene onim što ih je naučilo njihovo osobno iskustvo, znali su što je računalo i bilo je teško zamisliti za što će to računalo biti sposobno u budućnosti. Isto se događa i sada s AI. Čuli smo da će to postati ozbiljna stvarAli budući da ga još nismo suočili licem u lice i, općenito, promatramo prilično slabe manifestacije AI u našem modernom svijetu, prilično nam je teško vjerovati da će to radikalno promijeniti naš život. Nasuprot tim predrasudama, brojni stručnjaci iz svih kampova, kao i zainteresirani, protive se pokušaju privući našu pažnju bukom svakodnevnog kolektivnog egocentrizma.
- Čak i ako smo vjerovali u sve to - koliko ste puta danas razmišljali o činjenici da ćete ostatak vječnosti provesti u ništavilu? Malo, slažem se. Čak i ako je ta činjenica mnogo važnija od svega što radite iz dana u dan. To je zato što su naši mozgovi obično usredotočeni na male, svakodnevne stvari, bez obzira koliko dugotrajna situacija u kojoj se nalazimo. Samo smo stvoreni.
Jedan od ciljeva ovog članka je izbaciti vas iz logora zvanog "Volim razmišljati o drugim stvarima" i staviti vas u stručni kamp, čak i ako samo stojite na raskrižju dviju isprekidanih crta u gornjem polju, potpuno neodlučno.
Tijekom istraživanja postaje očigledno da mišljenja većine ljudi brzo idu prema „glavnom kampu“, a tri četvrtine stručnjaka pada u dvije podkamere u glavnom kampu.
Oba ćemo kampa posjetiti u cijelosti. Krenimo od zabave.
Zašto bi nam budućnost mogla biti najveći san?
Dok istražujemo AI svijet, u našoj zoni komfora nalazimo iznenađujuće mnogo ljudi. Ljudi u gornjem desnom trgu zuji od uzbuđenja. Vjeruju da ćemo pasti s dobre strane trupaca, a vjeruju i da ćemo neminovno doći do ovoga. Za njih je budućnost samo najbolje što se može samo sanjati.
Poanta koja ove ljude razlikuje od ostalih mislilaca nije u tome što žele biti na sretnoj strani - već u tome što su sigurni da nas ona čeka.
To samopouzdanje proizlazi iz kontroverze. Kritičari vjeruju da dolazi iz zasljepljujućeg uzbuđenja koje zasjenjuje potencijalne negativne strane. Ali zagovornici kažu da su sumorna predviđanja uvijek naivna; tehnologija se nastavlja i uvijek će nam pomoći više nego štetiti.
Slobodni ste odabrati bilo koje od ovih mišljenja, ali ostavite na stranu skepticizam i dobro pogledajte sretnu stranu snopa ravnoteže, pokušavajući prihvatiti činjenicu da se sve što o njemu čitate možda već dogodilo. Ako biste lovcima-sakupljačima pokazali naš svijet udobnosti, tehnologije i beskrajnog obilja, činilo bi im se to čarobnom fikcijom - i ponašamo se skromno, nesposobni priznati da nas očekuje ista takva nerazumljiva transformacija u budućnosti.
Nick Bostrom opisuje tri staze kojima superinteligentni AI sustav može proći:
Prorok koji može odgovoriti na bilo koje točno pitanje, uključujući složena pitanja na koja ljudi ne mogu odgovoriti - na primjer, "kako učiniti automobilski motor efikasnijim?" Google je primitivni tip "oracle".
Genij koji će izvršiti bilo koju naredbu na visokoj razini - koristeći molekularni alata za stvaranje nove, učinkovitije verzije automobilskog motora - i čekati sljedeću naredbu.
Suveren koji će imati širok pristup i sposobnost da slobodno funkcionira u svijetu, donoseći svoje odluke i poboljšavajući proces. Izmislit će jeftiniji, brži i sigurniji način privatnog prijevoza od automobila.
Ova pitanja i zadaci, koji nam se čine teškim, činit će se superinteligentnom sustavu kao da je netko zamolio da poboljša stanje „moja je olovka pala sa stola“, u kojoj biste je jednostavno uzeli i vratili natrag.
Eliezer Yudkowski, američki stručnjak za umjetnu inteligenciju, ocijenio je to dobro:
"Nema teških problema, samo su problemi koji imaju određeni stupanj inteligencije. Idite jedan korak više (u smislu inteligencije), a neki će se problemi odjednom prebaciti iz kategorije "nemogućeg" u tabor "očiglednih". Korak više - i svi će oni postati očigledni."
Mnogo je nestrpljivih znanstvenika, izumitelja i poduzetnika koji su izabrali zonu sigurne udobnosti na našem stolu, ali potreban nam je samo jedan vodič koji će hodati za najboljima u ovom najboljem svijetu.
Ray Kurzweil je dvosmislen. Neki idoliziraju njegove ideje, neki preziru. Neki ostanu u sredini - Douglas Hofstadter, raspravljajući o idejama Kurzweilovih knjiga, rječito je napomenuo da je "kao da uzimaš puno dobre hrane i malo psećeg psa, a onda sve miješaš na način da je nemoguće shvatiti što je dobro, a što loše".
Bez obzira volite li njegove ideje ili ne, nemoguće ih je proći bez sjene zanimanja. Počeo je izmišljati stvari još kao tinejdžer, a sljedećih godina izmislio je nekoliko važnih stvari, uključujući prvi ravni skener, prvi skener koji je pretvorio tekst u govor, poznati Kurzweil-ov glazbeni sintisajzer (prvi pravi električni klavir) i prvi komercijalno uspješan prepoznavač govora. Autor je i pet senzacionalnih knjiga. Kurzweil je cijenjen zbog svojih odvažnih predviđanja, a njegov je uspjeh prilično dobar - krajem 80-ih, kada je Internet još bio u povojima, predviđao je da će Internet do 2000-ih postati globalni fenomen. Časopis sa Wall Streeta nazvao je Kurzweila "nemirnim genijem," Forbes "strojem za globalno razmišljanje", Inc. Magazin - "Edisonov zakoniti nasljednik", Bill Gates - "najbolji od njihkoji predviđa budućnost umjetne inteligencije. " Godine 2012. suosnivač Googlea Larry Page angažirao je Kurzweila za CTO-a. Godine 2011. suosnivao je Sveučilište Singularity koje je domaćina NASA, a dijelom sponzorira Google.
Njegova biografija je bitna. Kad Kurzweil govori o svojoj viziji budućnosti, to zvuči kao ludo ludo, ali stvarno luda stvar je u tome što je daleko od ludosti - nevjerojatno je pametna, obrazovana i normalna osoba. Možda mislite da nije u pravu u svojim predviđanjima, ali nije budala. Kurzweilova predviđanja dijele i mnogi stručnjaci zone udobnosti, Peter Diamandis i Ben Herzel. To je ono što misli da će se dogoditi.
Kronologija
Kurzweil vjeruje da će računala do 2029. doseći razinu opće umjetne inteligencije, a do 2045. nećemo imati samo umjetnu superinteligenciju, već i potpuno novi svijet - vrijeme takozvane singularnosti. Njegova kronologija AI još uvijek se smatra pretjerano pretjeranom, ali tijekom posljednjih 15 godina, brzi razvoj visoko fokusiranih sustava umjetne inteligencije (AI) prisilio je mnoge stručnjake na stranu Kurzweila. Njegova predviđanja i dalje su ambicioznija od Bostromove ankete (AGI do 2040., ISI do 2060.), ali ne puno.
Prema Kurzweilu, singularnost 2045. g. Pokreću tri istodobne revolucije u biotehnologiji, nanotehnologiji i, što je još važnije, AI. Ali prije nego što nastavimo dalje - a nanotehnologija pomno prati umjetnu inteligenciju - uzmimo malo vremena za nanotehnologiju.
Nekoliko riječi o nanotehnologiji
Obično nazivamo nanotehnološkim tehnologijama koje se bave manipulacijom materijom u rasponu od 1-100 nanometara. Nanometar je jedan milijarditi dio metra, ili milioniti dio milimetra; u rasponu od 1-100 nanometara mogu se smjestiti virusi (promjera 100 nm), DNA (10 nm u širinu), molekule hemoglobina (5 nm), glukoza (1 nm) i više. Ako nanotehnologija ikad postane naš predmet, sljedeći korak će biti manipulacija pojedinačnim atomima manjim od jednog reda veličine (~, 1 nm).
Da bismo razumjeli gdje ljudi nailaze na probleme pokušavajući manipulirati materijom na takvoj razmjeri, skočimo na veće razmjere. Međunarodna svemirska stanica nalazi se 481 kilometar iznad Zemlje. Da su ljudi divovi i udarali ISS-om glavom, bili bi 250.000 puta veći nego što su sada. Ako povećate bilo što od 1 do 100 nanometara 250 000 puta, dobit ćete 2,5 centimetara. Nanotehnologija je ekvivalent čovjeku koji orbitira oko ISS-a, pokušava manipulirati stvarima veličine zrna pijeska ili očne jabučice. Da bi došao do sljedeće razine - kontrolirajući pojedine atome - div će morati pažljivo pozicionirati predmete promjera 1/40 milimetra. Običnim ljudima će trebati mikroskop da bi ih vidjeli.
Richard Feynman je prvi put govorio o nanotehnologiji 1959. godine. Zatim je rekao: "Načela fizike, koliko mogu reći, ne govore protiv mogućnosti upravljanja atomima stvari atomom. U principu, fizičar bi mogao sintetizirati sve kemikalije koje je kemičar napisao. Kako? Postavljanjem atoma tamo gdje kemičar kaže da će dobiti tvar. " U tome je čitava jednostavnost. Ako znate kako pomicati pojedine molekule ili atome, možete učiniti gotovo sve.
Nanotehnologija postala je ozbiljno znanstveno polje 1986. godine kada je inženjer Eric Drexler predstavio temelje u svojoj seminarskoj knjizi Machines of Creation, no sam Drexler smatra da bi oni koji žele naučiti više o modernim idejama u nanotehnologiji trebali pročitati njegovu knjigu iz 2013. godine. Potpuno obilje (radikalno obilje).
Kad jednom stignemo do dna nanotehnologije, možemo ga koristiti za stvaranje tehničkih uređaja, odjeće, hrane, bioprodukata - krvnih stanica, virusa i boraca protiv raka, mišićnog tkiva i tako dalje - bilo čega. A u svijetu koji koristi nanotehnologiju, troškovi materijala više neće biti vezani za njegovu oskudnost ili složenost njegovog procesa proizvodnje, već za složenost njegove atomske strukture. Dijamant bi u svijetu nanotehnologije mogao biti jeftiniji od gumice za brisanje.
Još nismo ni blizu. I nije sasvim jasno da li podcjenjujemo ili precjenjujemo složenost ovog puta. Međutim, sve ide do točke da nanotehnologija nije daleko. Kurzweil pretpostavlja da ćemo ih imati do 2020. godine. Svjetske države znaju da nanotehnologija može obećati veliku budućnost i zato u njih ulažu mnogo milijardi.
Zamislite koje bi mogućnosti superinteligentno računalo dobilo da dođe do pouzdanog nanositeljskog sastavljača. Ali nanotehnologija je naša ideja i pokušavamo je iskoristiti, teško nam je. Što ako su to samo šala za ISI sustav, a sam ISI smislit će tehnologije koje će biti mnogostruko moćnije od svega što u načelu možemo pretpostaviti? Složili smo se: nitko ne može zamisliti za što će biti sposobna umjetna superinteligencija? Vjeruje se da naš mozak nije u stanju predvidjeti ni minimum onoga što će se dogoditi.
Što AI može učiniti za nas?
Naoružan superinteligencijom i svom tehnologijom koju bi superinteligencija mogla stvoriti, ISI će vjerojatno moći riješiti sve čovjekove probleme. Globalno zatopljenje? ISI će prvo zaustaviti emisiju ugljika izumom mnoštva učinkovitih ne fosilnih goriva za proizvodnju energije. Tada će osmisliti učinkovit, inovativan način uklanjanja viška CO2 iz atmosfere. Rak i druge bolesti? Nije problem - zdravstvo i medicina promijenit će se na načine koje je nemoguće zamisliti. Svjetska glad? ISI će koristiti nanotehnologiju za stvaranje mesa identičnog prirodnom, od nule, pravog mesa.
Nanotehnologija će moći gomilu smeća pretvoriti u spremnik svježeg mesa ili druge hrane (čak i ne nužno u uobičajenom obliku - zamislite džinovsku kocku jabuke) i distribuirati svu tu hranu širom svijeta koristeći napredne transportne sustave. Naravno, ovo će biti sjajno za životinje koje više ne moraju umrijeti za hranu. ISI može učiniti i mnoge druge stvari, poput očuvanja ugroženih vrsta ili čak vraćanja izumrlih vrsta iz sačuvane DNK. ISI može riješiti naše najteže makroekonomske probleme - naše najteže ekonomske rasprave, etička i filozofska pitanja, globalnu trgovinu - što će ISI-u biti bolno očito.
Ali postoji nešto vrlo posebno što bi ISI mogao učiniti za nas. Primamljivi i mučeni što bi sve promijenilo: ISI nam može pomoći da se nosimo sa smrtnošću. Postepeno shvaćajući mogućnosti AI, možda ćete preispitati sve svoje ideje o smrti.
Nije bilo razloga da evolucija produži naš životni vijek dulje nego sada. Ako živimo dovoljno dugo da rodimo i odgajamo djecu do točke u kojoj se mogu odbiti, evolucija je dovoljna. S evolucijskog stajališta, 30+ godina je dovoljno za razvoj i nema razloga da mutacije produže život i smanje vrijednost prirodne selekcije. William Butler Yates nazvao je našu vrstu "dušom vezanom za umiruću životinju." Nije baš zabavno.
A budući da svi jednoga dana umiremo, živimo s idejom da je smrt neizbježna. Vremenom razmišljamo o starenju - nastavljamo ići naprijed i ne možemo zaustaviti ovaj proces. Ali pomisao na smrt je izdajnička: zarobljeni njome, zaboravljamo živjeti. Richard Feynman je napisao:
"U biologiji postoji jedna čudesna stvar: u ovoj znanosti nema ničega što bi govorilo o nužnosti smrti. Ako želimo stvoriti vječni stroj za gibanje, shvatimo da smo pronašli dovoljno zakona u fizici koji ili ukazuju na nemogućnost toga ili su zakoni pogrešni. Ali u biologiji nema ničega što bi ukazivalo na neizbježnost smrti. To me tjera da vjerujem da to nije tako neizbježno, a samo je pitanje vremena prije nego što biolozi otkriju uzrok ovog problema, ove užasne univerzalne bolesti, ona će biti izliječena."
Činjenica je da starenje nema nikakve veze s vremenom. Starenje je kada se fizički materijali tijela istroše. I dijelovi automobila degradiraju - ali je starenje neizbježno? Ako popravljate automobil kako se dijelovi istroše, trajat će vječno. Ljudsko tijelo nije drugačije - samo je složenije.
Kurzweil govori o inteligentnim nanobotovima povezanim s Wi-Fi-jem u krvotoku koji bi mogli obavljati bezbroj zadataka za zdravlje ljudi, uključujući redovito popravljanje ili zamjenu dotrajalih stanica bilo gdje u tijelu. Poboljšanje ovog procesa (ili pronalaženje alternative koju predlaže pametniji ASI) ne samo da tijelo čini zdravim, već može i preokrenuti starenje. Razlika između tijela 60-godišnjaka i 30-godišnjaka nalazi se u šačici fizičkih problema koje bi se ispravnom tehnologijom moglo ispraviti. ISI bi mogao sagraditi automobil u koji bi osoba ušla kad ima 60 godina i napustiti kad ima 30 godina.
Čak bi se degradirani mozak mogao obnoviti. ISI bi sigurno znao kako to učiniti bez utjecaja na podatke o mozgu (osobnost, sjećanja itd.). 90-godišnji muškarac koji pati od potpune degradacije mozga mogao bi se podvrgnuti prekvalifikaciji, obnovi i vratiti se na početak svog života. Možda se čini apsurdnim, ali tijelo je pregršt atoma, a ISI bi sigurno mogao lako manipulirati njima, bilo kojom atomskom strukturom. Nije tako apsurdno.
Kurzweil također vjeruje da će se umjetni materijali s vremenom sve više integrirati u tijelo. Za početak, orgulje bi se mogle zamijeniti super naprednim verzijama strojeva koje bi trajale zauvijek i nikad neće propasti. Tada bismo mogli napraviti cjeloviti redizajn tijela, zamijenivši crvene krvne stanice savršenim nanobotićima koji se kreću sami, eliminirajući potrebu za srcem. Također bismo mogli poboljšati svoje kognitivne sposobnosti, početi razmišljati milijarde puta brže i pristupiti svim informacijama dostupnim čovječanstvu kroz oblak.
Mogućnosti za razumijevanje novih horizonata bile bi uistinu beskrajne. Ljudi su se seksu uspjeli pokloniti s novom svrhom, oni to rade radi zadovoljstva, a ne samo radi reprodukcije. Kurzweil misli da isto možemo učiniti s hranom. Nanoboti bi mogli isporučiti idealnu prehranu izravno u stanice tijela, omogućujući tako da nezdrave tvari prolaze kroz tijelo. Teoretičar nanotehnologije Robert Freitas već je razvio zamjenu za krvne stanice koje, kada se implementiraju u ljudsko tijelo, mogu mu omogućiti da ne diše 15 minuta - a to je izmislila osoba. Zamislite kada će ISI dobiti snagu.
Uostalom, Kurzweil vjeruje da će ljudi doći do točke kada postaju potpuno umjetni; vrijeme kada gledamo biološke materijale i razmišljamo o tome koliko su bili primitivni; vrijeme kada ćemo čitati o ranim fazama ljudske povijesti, zadivljeni kako bi klice, nesreće, bolesti ili jednostavno starost mogli ubiti čovjeka protiv njegove volje. Konačno, ljudi će poraziti vlastitu biologiju i postati vječni - to je put do sretne strane snopa ravnoteže o kojem smo govorili od samog početka. I ljudi koji u to vjeruju također su sigurni da nas takva budućnost očekuje vrlo, vrlo brzo.
Vjerojatno se nećete iznenaditi da su Kurzweilove ideje izazvale oštre kritike. Njegova jedinstvenost 2045. i kasniji vječni život ljudi nazvali su "usponom štreberica" ili "inteligentnim stvaranjem ljudi s IQ od 140". Drugi su ispitivali optimistični vremenski okvir, razumijevanje ljudskog tijela i mozga, podsjećali na Mooreov zakon, koji još nije otišao. Za svakog stručnjaka koji vjeruje u Kurzweilove ideje postoje tri koja misle da nije u pravu.
No, najzanimljivije je u tome što većina stručnjaka koji se ne slažu s njim uglavnom ne kaže da je to nemoguće. Umjesto da kažu "sranje, ovo se nikada neće dogoditi", oni kažu nešto poput "sve će se to dogoditi ako stignemo do ISI-ja, ali ovo je ulov". Bostrom, jedan od priznatih AI stručnjaka koji upozorava na opasnost od AI, također priznaje:
„Jedva da je preostao problem koji nam superinteligencija ne može riješiti ili čak pomoći da ga riješimo. Bolest, siromaštvo, uništavanje okoliša, patnje svih vrsta - sve to superinteligencija uz pomoć nanotehnologije može riješiti u trenu. Superinteligencija nam također može dati neograničen životni vijek zaustavljanjem i preokretom procesa starenja pomoću nanomedicine ili mogućnosti da nas prenese u oblak. Superinteligencija također može stvoriti mogućnosti za beskrajno povećanje intelektualnih i emocionalnih sposobnosti; on nam može pomoći stvoriti svijet u kojem ćemo živjeti u radosti i razumijevanju, približavajući se svojim idealima i redovito ostvarujući svoje snove."
Ovo je, međutim, citat jednog od Kurzweilovih kritičara koji priznaje da je sve to moguće ako uspijemo stvoriti siguran ASI. Kurzweil je jednostavno definirao što bi umjetna superinteligencija trebala postati, ako je to uopće moguće. A ako je dobar bog.
Najočitija kritika zagovornika zone komfora jest da se oni mogu prokleto pogriješiti u procjeni budućnosti ISI-ja. Kurzweil je u svojoj knjizi Singularnost posvetio 20 stranica od 700 potencijalnih prijetnji ISI-u. Pitanje nije kad dođemo do ISI-ja, pitanje je koja će biti njegova motivacija. Kurzweil na ovo pitanje odgovara s oprezom: „ISI proizlazi iz mnogih različitih nastojanja i bit će duboko integriran u infrastrukturu naše civilizacije. Zapravo, bit će usko ugrađen u naše tijelo i mozak. Odrazit će naše vrijednosti jer će biti jedno s nama."
Ali ako je odgovor, zašto se toliko pametnih ljudi na ovom svijetu brine zbog budućnosti umjetne inteligencije? Zašto Stephen Hawking kaže da bi razvoj ISI "mogao značiti kraj ljudske rase"? Bill Gates kaže da "ne razumije ljude koji se ne muče" oko toga. Elon Musk boji se da "pozivamo demona". Zašto mnogi stručnjaci smatraju da je ISI najveća prijetnja čovječanstvu?
Na temelju materijala s waitbutwhy.com, kompilacije Tim Urbana. U članku se koriste materijali iz djela Nicka Bostroma, Jamesa Barratta, Raya Kurzweila, Jaya Nielsa-Nilssona, Stephena Pinkera, Vernor Vingea, Moshea Vardyja, Russa Robertsa, Stuarta Armstroga i Kai Sotal, Susan Schneider, Stuart Russell i Petera Norviga, Theodorea Modisa Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Autor: Ilya Khel
Treći dio: zašto bi to mogao biti naš posljednji izum?
