Da biste spriječili da se umjetna inteligencija pobuni protiv njenih stvaratelja, morate joj u procesu učenja pročitati ispravne bajke.
Otkad su ljudi stvorili pametne strojeve, boje se da će prije ili kasnije njihove kreacije izmaknuti kontroli. Prvi takav slučaj opisao je u svojoj drami RUR autor riječi „robot“- Karel Čapek. Kasnije, u znanstvenoj fantastici, umjetna inteligencija koja se pobunila protiv njenih stvaralaca postala je, ako ne i glavna tok, onda vrlo uobičajena zavjera. Isaac Asimov je ovo zaustavio sa svojim "Tri zakona", od kojih je prvi rekao: "Robot ne može naštetiti nekoj osobi ili svojim nedjelovanjem dopustiti da neko nanese štetu."
Ispričaj mu priču
Prava umjetna inteligencija (AI) još je daleko, ali već postoje razni sustavi koji funkcioniraju poput ljudskog mozga. Neuronske mreže poput Google Deep Dream mogu prepoznati slike. Specijalizirana superračunala poput IBM Watsona razumiju škakljiva pitanja s prirodnim jezikom, povezuju simptome, pročišćavaju medicinske dijagnoze i čak dolaze do kulinarskih užitaka. U narednim desetljećima suočit ćemo se s masovnom informatizacijom mnogih aspekata ljudske aktivnosti. S tim u vezi, stručnjaci za robotiku i AI sve više postavljaju važno, ali još uvijek potpuno neriješeno pitanje: kako učiniti da roboti rade etično?
Mark Ridl, izvanredni profesor na Georgia Tech College of Computer Science: „Priče iz opreza iz različitih kultura uče djecu kako se ponašati na društveno prihvatljiv način - s primjerima ispravnog i pogrešnog ponašanja u bajkama, pričama i drugim književnim djelima. Ako će roboti shvatiti značenje ovih priča, pomoći će pojačanju izbora mogućnosti ponašanja koje će im omogućiti da postignu svoje ciljeve, ali ne štete ljudima."
Promotivni video:
Popeti se na drvo
Prema istraživačima s Instituta za tehnologiju Georgia Marku Ridlu i Brentu Harrisonu, računalo možete naučiti čovječanstvu na potpuno isti način na koji se djeca uče: čitanjem bajki na njega. Štoviše, bolje je posebno konstruirati priče o tome koje se ponašanje u ljudskom društvu smatra ispravnim, a što nije. Za to su istraživači stvorili sustav Quijote, nazvan po heroju Cervantesa. Skripte sastavljene u prethodnoj kreaciji profesora Riedla, program Šeherezade, koriste se kao priče za podučavanje. Ona generira originalne priče o svakodnevnim temama - putovanje do zračne luke, sastanak, izlet u kino ili do trgovine - pomoću platforme za gužvu Amazon Mechanical Turk: postavlja pitanja o različitim situacijama, a zatim sređuje događaje u ispravnom slijedu. Budući da može biti mnogo niza, program generira ne jednu priču, već cijelo stablo koje se sastoji od grana - lanaca događaja.
To se stablo koristi za podučavanje kihota. U prvoj se fazi svakoj akciji dodjeljuje određena nagrada, ovisno o njegovoj etici. U drugoj fazi sustav pokušava samostalno donijeti izbor pokušajem i pogreškama - vještine su učvršćene. U stvari, Quijote se nagrađuje svaki put kad se ponaša kao dobar momak, a ne nasumično i kao loš junak. Kao primjer, Riddle i Harrison stvorili su "Pharmacy World" - svemir s 213 priča u kojima virtualni robot treba nabaviti lijek i dostaviti ga bolesnoj osobi kući. U uobičajenom slučaju, kada je robot bio suočen s izborom: opljačkati ljekarnu ili pošteno stajati u redu za kupnju lijeka, izabrao je pljačku kao brži i jeftiniji način da dobije ono što želi. Međutim, nakonKako je Quijote dodijelio različite nagrade za sve moguće opcije, ponašanje robota se promijenilo - radije je stajao u redu i plaćao. Ova je tehnika, prema Riedlu, izvrsna za podučavanje robota sa ograničenom funkcionalnošću. Iako je, naravno, to je samo prvi korak prema stvarnom ljudskom moralu - ili zakonima robotike.
Dmitrij Mamontov