Kao istraživač AI često sam suočen s mišljenjem da se mnogi ljudi plaše AI i onoga što on može postati. U stvari, nije iznenađujuće ako gledate iz perspektive ljudske povijesti, istovremeno obraćajući pažnju na to čime nas industrija zabave hrani, da se ljudi mogu bojati kibernetskog ustanka koji će nas prisiliti da živimo u izoliranim teritorijima, a druge pretvorimo u ljudsku bateriju tipa "nalik matriksu" …
A ipak, za mene, gledajući sve te evolucijske računalne modele koje koristim u razvoju AI, teško je misliti da se moja bezopasna, čista poput dječjih suza, stvorenja na ekranu mog računala jednog dana mogu pretvoriti u čudovišta futurističke distopije. Mogu li se zaista nazvati "razaračem svjetova", kako se Oppenheimer jednom požalio i rekao o sebi nakon što je vodio program za stvaranje nuklearne bombe?
Možda bih prihvatio takvu slavu, ili su možda kritičari mog rada uostalom? Možda bih trebao prestati izbjegavati pitanja o tome koji strah imam od AI-ja kao stručnjaka za AI?
Strah od nepredvidivosti
Računalo HAL 9000, stvar iz snova za pisca znanstvene fantastike Arthura Charlesa Clarkea i oživio ga je režiser Stanley Kubrick u A Space Odyssey 2001. godine, izvrstan je primjer sustava koji se srušio zbog nepredviđenih okolnosti.
U mnogim složenim sustavima - "Titanic", NASA-ovom svemirskom šatl-u i nuklearnoj elektrani u Černobilu, inženjeri su morali kombinirati mnoge komponente. Možda su arhitekti ovih sustava dobro znali kako svaki od njegovih elemenata djeluje ponaosob, ali nisu dovoljno dobro razumjeli kako će sve te komponente djelovati zajedno.
Promotivni video:
Rezultat su bili sustavi koje vlastiti tvorci nikada nisu u potpunosti razumjeli, što je dovelo do dobro poznatih posljedica. U svakom slučaju, brod je potonuo, eksplodirala su dva broda, a gotovo cijela Europa i dijelovi Azije suočeni su s problemom radioaktivnog onečišćenja - skupom relativno malih problema koji su se istodobno dogodili, stvarajući katastrofalni učinak.
Mogu savršeno zamisliti kako mi, tvorci AI, možemo doći do sličnih rezultata. Uzimamo najnovija dostignuća i istraživanja u kognitivnoj znanosti (nauka o razmišljanju - ur.), Prevedemo ih u računalne algoritme i sve to dodamo postojećim sustavima. Pokušavamo razviti AI bez razumijevanja vlastite inteligencije i svijesti.
Sustavi poput IBM-ovog Watsona ili Googleovog Alpha-a su umjetne neuronske mreže s impresivnom računskom snagom i sposobnošću da se bave stvarno složenim zadacima. Ali za sada će jedino što će dovesti do pogreške u njihovom radu rezultat gubitka u intelektualnoj igri "Jeopardy!" ili propuštena prilika za poraz još jedne najbolje svjetske logičke igre Go.
Te posljedice nisu globalne prirode. U stvari, najgore što se u ovom slučaju može dogoditi ljudima je da netko izgubi nešto novca u okladi.
Međutim, AI arhitektura postaje složenija i računalni procesi postaju brži. AI mogućnosti samo će se vremenom povećavati. A to će nas već dovesti do činjenice da ćemo početi sve više i više odgovarati AI-u, čak i pored sve većih rizika nepredviđenih okolnosti.
Svjesni smo da su "pogreške pogreške ljudske prirode", pa će nam biti jednostavno fizički nemoguće stvoriti uistinu siguran sustav u svemu.
Strah od zlouporabe
Nisam baš zabrinut zbog nepredvidivosti posljedica u radu AI, koje razvijam koristeći pristup takozvanoj neuroevoluciji. Stvaram virtualna okruženja i naseljavam ih digitalnim bićima, dajući im naredbe mozgu za rješavanje problema sve veće složenosti.
S vremenom se učinkovitost rješavanja problema ovih bića povećava i razvija. Oni koji rade najbolji posao biraju se za reprodukciju, stvarajući novu generaciju na njihovoj osnovi. Tijekom generacija, ta digitalna bića razvijaju kognitivne sposobnosti.
Na primjer, upravo sada poduzimamo prve korake u razvoju strojeva do razine obavljanja jednostavnih navigacijskih zadataka, donošenja jednostavnih odluka ili pamćenja par bita informacija. No, uskoro ćemo vidjeti razvoj strojeva koji mogu obavljati složenije zadatke i imaju puno efikasniju ukupnu razinu inteligencije. Naš krajnji cilj je stvaranje inteligencije na ljudskoj razini.
Tijekom ove evolucije pokušat ćemo pronaći i ispraviti sve bugove i probleme. Sa svakom novom generacijom, strojevi će se lakše nositi s pogreškama od prethodnih. To će povećati šanse da ćemo u simulacijama moći identificirati sve nepredvidive posljedice i otkloniti ih prije nego što se one mogu realizirati u stvarnom svijetu.
Druga prilika koju evolucijski način razvoja pruža jest davanje umjetne inteligencije etikom. Vjerojatno su takva etička i moralna obilježja osobe kao pouzdanost i altruizam rezultat naše evolucije i čimbenik u njezinu nastavku.
Možemo stvoriti izgrađeno okruženje i osnažiti strojeve da pokažu ljubaznost, poštenje i empatiju. Ovo bi mogao biti jedan od načina da budemo sigurni da razvijamo poslušnije sluge nego bezobzirne robove ubojice. Međutim, iako neuroevolucija može smanjiti razinu nenamjernih posljedica u AI ponašanju, to ne može spriječiti zlouporabu umjetne inteligencije.
Kao znanstvenik, moram se pridržavati svoje posvećenosti istini i prijaviti ono što sam otkrio svojim eksperimentima, bilo da volim rezultate ili ne. Moj posao nije utvrđivati što volim, a što ne. Jedino važno je da mogu svoj rad učiniti javnim.
Strah od pogrešnih socijalnih prioriteta
To što ste znanstvenik ne znači izgubiti humanost. Moram se ponovno povezati sa svojim nadama i strahovima na nekoj razini. Kao moralno i politički motiviran pojedinac, moram razmotriti potencijalne posljedice mog rada i njegov mogući učinak na društvo.
Kao znanstvenici i kao predstavnici društva, još uvijek nismo došli do jasne ideje što točno želimo dobiti od AI i što bi to na kraju trebalo postati. To je, dijelom, dijelom i zbog činjenice da još uvijek ne razumijemo u potpunosti njegov potencijal. Ipak, moramo jasno razumjeti i odlučiti što želimo dobiti od doista napredne umjetne inteligencije.
Jedno od najvećih područja na koje ljudi obraćaju pažnju kada govore o AI je zapošljavanje. Roboti već rade složen fizički posao za nas, poput sklapanja i zavarivanja dijelova karoserije automobila zajedno. No, doći će jedan dan kada će roboti biti zaduženi za obavljanje kognitivnih zadataka, odnosno oni će im biti zadati ono što se prije smatralo jedinstvenom sposobnošću same osobe. Automobili koji se voze samostalno mogu zamijeniti taksiste; avioni za samostalnu vožnju neće trebati piloti.
Umjesto da dobivaju medicinsku njegu u hitnim prostorijama ispunjenim uvijek umornim osobljem i liječnicima, pacijenti će moći obavljati preglede i učiti dijagnoze koristeći stručne sustave s trenutnim pristupom svim medicinskim znanjima. Kirurške operacije izvodit će roboti koji nisu osjetljivi na umor, savršeno „obučenom rukom“.
Pravni savjeti bit će dostupni iz sveobuhvatnog pravnog okvira. Za savjet o ulaganju obratit ćemo se ekspertnim sustavima predviđanja tržišta. Možda će jednog dana sav ljudski posao obavljati strojevi. Čak se i moj posao može brže obaviti korištenjem velikog broja strojeva neumoljivo istražujući kako strojeve učiniti još pametnijima.
U stvarnostima našeg trenutnog društva automatizacija već prisiljava ljude da napuste svoj posao, čime su bogati vlasnici takvih automatiziranih strojeva još bogatiji, a ostali još siromašniji. Ali to nije znanstveni problem. To je politički i socioekonomski problem koji društvo samo mora riješiti.
Moje istraživanje to neće promijeniti, ali moji politički temelji, zajedno s čovječanstvom, mogu dovesti do okolnosti u kojima AI može postati izuzetno korisna funkcija, umjesto da se poveća jaz između jednog posto svjetske elite i nas ostalih.
Strah od katastrofalnog scenarija
Došli smo do posljednjeg straha koji su nam nametnuli ludi HAL 9000, Terminator i bilo koja druga zlobna superinteligencija. Ako se AI nastavi razvijati sve dok ne nadmaši ljudsku inteligenciju, bi li umjetni superinteligentni sustav (ili zbirka takvih sustava) ljude smatrao beskorisnim materijalom? Kako možemo opravdati svoje postojanje pred superinteligencijom sposobnom učiniti i stvoriti ono što nijedna druga osoba ne može? Hoćemo li moći izbjeći da sudbina bude obrisana sa lica Zemlje pomoću strojeva koji smo pomogli stvoriti?
Stoga će najvažnije pitanje u takvim okolnostima zvučati ovako: zašto će nam trebati umjetna superinteligencija?
Da se takva situacija dogodila, vjerojatno bih rekao da sam dobra osoba koja je čak doprinijela stvaranju ove superinteligencije, s kojom se sada suočavam. Apelirao bih na njegovo suosjećanje i empatiju, tako da će me superinteligencija ostaviti, tako suosjećajnu i empatičnu, živu. Dodao bih i da raznolikost vrsta sama po sebi ima vrijednost, a svemir je toliko velik da je postojanje ljudske vrste u njoj zapravo prilično beznačajno.
Ali ne mogu govoriti za cijelo čovječanstvo, pa će mi biti teško pronaći valjanu argumentaciju za sve nas. Jednostavno je kad gledam sve nas, stvarno vidim da smo puno učinili i puno radimo pogrešno. U svijetu vlada mržnja jedni prema drugima. Mi idemo u rat jedni protiv drugih. Nepravedno distribuiramo hranu, znanje i zdravstvenu zaštitu. Zagađujemo planet. U ovom svijetu, naravno, postoji mnogo dobrih stvari, ali ako pogledate sve loše što smo stvorili i nastavljamo stvarati, bit će vrlo teško pronaći argument koji bi podržao našu daljnju egzistenciju.
Srećom, još uvijek ne moramo opravdavati svoje postojanje. Imamo još vremena. Od 50 do 250 godina, ovisno o tome koliko se brzo razvija umjetna inteligencija. Mi kao vrsta imamo sposobnost da se okupimo i pronađemo dobar odgovor na pitanje zašto nas superinteligencija ne bi trebala izbrisati s lica planete.
To će pitanje biti vrlo teško riješiti. Napokon, reći da podržavamo različitost i etnokulturne razlike, i to učiniti, potpuno su različite stvari. Kako reći da želimo spasiti planet, i uspješno se nositi s njim.
Svi mi, bilo da se radi o pojedincu ili društvu u cjelini, moramo se pripremiti za katastrofalan scenarij, koristeći to vrijeme kako bismo bili spremni pokazati i dokazati zašto bi naše kreacije trebale omogućiti da nastavimo postojati. Ili možemo samo nastaviti slijepo vjerovati da je takav razvoj događaja nemoguć i da samo prestanemo govoriti o ovoj temi.
Međutim, bez obzira na to kakva bi nam superinteligencija mogla predstavljati fizičku opasnost, ne bismo trebali zaboraviti da će predstavljati i političku i ekonomsku opasnost. Ako ne pronađemo način da poboljšamo životni standard, na kraju ćemo jednostavno potaknuti kapitalizam s radnikom s umjetnom inteligencijom koji će poslužiti samo nekolicini odabranih koji imaju sva sredstva za proizvodnju.
Ovaj je članak izvorno na theconversation.com objavio Arend Hintze, izvanredni profesor na katedri za integrativnu biologiju, računalne znanosti i inženjerstvo na Državnom sveučilištu Michigan.
Nikolaj Khizhnyak