Roboti se brzo razvijaju - bliži se vrijeme kada će napuniti ulice, urede, stanove, pa čak i naša tijela. Jesmo li spremni postojati rame uz rame sa strojevima koji se ponašaju poput ljudi i koji su se već počeli natjecati s nama za posao? Pojavljuju se mnoga humanitarna pitanja.
Što možete povjeriti robotu, a što je bolje odbiti? Je li sposoban donositi odluke, osjećati emocije, ima li određenu slobodnu volju i je li odgovoran za svoje postupke? Kako integrirati robote u društvo? Ova pitanja djeluju naivno. Dok. Ali može se ispostaviti da će odgovori na njih odlučiti o sudbini naše civilizacije.
Kad su se svjetla ugasila, počela je svirati vruća melodija koja obično prati modne mode na modnoj pisti. I mi (osoblje časopisa Schrödinger's Cat) vidjeli smo dva ogromna crvena oka u obliku srca. Robot je publici pristupio dostojanstveno i graciozno. Oči su se pretvorile u dva plava kruga, zračeći dobrom namjerom i djetinjastom naivnošću, ispruženih ruku prema ljudima. Svjetlo je ponovno upaljeno.
- Alantim! - voditelj projekta Promobot i voditelj odjela za robotiku Moskovskog tehnološkog instituta (MTI) Aleksej Južakov predstavio ga je javnosti. - 2012. zvali smo ga Promobot, tada mu se prilijepio uvredljivi nadimak Spomenik, tada je imao zvučno ime Bogdan, ali sada je Alantim - u čast stvaralaca novog svijeta Alana Turinga i Tima Berners-Leeja.
Foto: Skoltech / kot.sh
Alantim se i dalje okretao naprijed-natrag i otišao razgovarati s novinarima, zasipajući ih šalama i pričama o tome kako će roboti osvojiti vlast na Zemlji i preimenovati je u Promobotia. Red djevojaka odmah se poredao do njega, želeći se fotografirati s tako simpatičnim bićem. Alantim je upoznao djevojke, odgovarao na pitanja o smislu života i tečaju dolara i prisjetio se svih.
Tako je prošao prvi radni dan novog zamjenika voditelja Odjela za robotiku Moskovskog tehnološkog instituta, robota Alantima.
Promotivni video:
Automobil s karakterom
Alantim nije jedinstveno stvorenje. Tim iz Perma, koji je stvorio promo botove, već je prodao 60 takvih uređaja, a ove godine potpisao je ugovore za još 124, čime je praktično ispunio godišnji sveruski plan za opskrbu uslužnom robotikom - 2014. godine prodano je samo oko 200 domaćih uslužnih robota.
Promobot je autonomni robot s karakterom, dizajniran za rad na prepunim mjestima: promotor, vodič, showman. Zna prepoznati neke emocije sugovornika, sposoban je razumjeti pitanje koje mu je upućeno i pronaći odgovor na Webu, a ako ne razumije pitanje, pokušava se nasmijati.
U međuvremenu smo otišli do šefa Alantima - prorektora MIT-a Evgenija Plužnika
[Schrödingerova mačka] Kako ste došli na ideju da unajmite robota za organizaciju?
[Grigory Bubnov] Upravo smo shvatili da će prije ili kasnije doći trenutak kada će roboti početi zapošljavati. I odlučili smo postati pioniri.
[KSh] Dakle, ne kažu uzalud da roboti traže naše poslove
[GB] Ovo zapravo nije šala, već vrlo ozbiljna prijetnja, posebno u područjima u kojima je zaposlen velik broj ljudi. Mislim da će se, primjerice, već u ovom desetljeću autonomni automobili prodavati posvuda, a nakon toga će mnogi vozači ostati bez posla. Vlade će se neizbježno suočiti s tim izazovom - moraju početi razmišljati o tome kako otvoriti nova radna mjesta i programe prekvalifikacije.
[KSh] Kako mislite koristiti Alantim? Baš poput razmetljive igračke?
[GB] Ne samo! Primjerice, on ima istraživački zadatak - akumulirati podatke o komunikaciji robota s ljudima, proučavati pojedinačne reakcije na robote. Ove će informacije pomoći da izgled i ponašanje budućih preinaka Alantima budu čovječniji i ugodniji za komunikaciju.
Foto: Skoltech / kot.sh
[KSh] Kakve informacije on prikuplja?
[GB] Prije svega, podaci o reakcijama na njegovo ponašanje - on ima sustav za prepoznavanje emocija. Primjerice, kako reagiraju drugi kad podigne ruku? Što ako ih njihov način da nešto učini uplaši? Naše su geste usađene evolucijom - ne ustručavamo se, recimo, češkamo se po potiljku - a s robotom još moramo ići sve do "prirodnog" ponašanja. Inače, sjeća se ljudi fotografirajući ih.
No, može biti problema: slike ljudi smatraju se osobnim podacima, a postoji zakon koji ograničava njihovu upotrebu. Općenito će se ovdje pojaviti mnoga pitanja pravne prirode - na primjer, je li potrebno platiti porez na dohodak od električne energije koja je robotu dana na naplatu? Mislim da ćemo uskoro vidjeti kako će se zakoni u različitim zemljama početi mijenjati - zajedno sa odnosom ljudi prema robotima.
Gumeni Puškin i drugi roboti
Globalno tržište robota već cvjeta, prodaja ruši rekorde - desetke milijardi dolara krajem prošle godine.
0,17% - Ovaj udio na svjetskom tržištu industrijskih robota nalazi se u Rusiji (prema podacima iz 2013.).
Foto: Skoltech / kot.sh
Od junaka holivudskih blockbustera, roboti će se pretvoriti u stvarne likove - i mi ćemo početi živjeti s njima. Hoćemo li se slagati? Počevši od horor priča o Golemu i Frankensteinu ili drame Karla Čapeka, gdje se riječ "robot" prvi put pojavljuje, sve su te priče u pravilu završavale jednim - pobunom stvorenih od čovjeka stvorenja protiv njihovih stvaratelja. Hoćemo li uspjeti stvoriti stvarnost koja nadilazi naše fantazije?
Oglašavanje na web stranici projekta Promobot jasno objašnjava zašto je zaposlenik robota bolji od čovjeka: ne trebaju plaću i kombinezon, radi bez prekida, ne razbolijeva se, ne buni se, ne zbunjuje se, ne govori previše, ne treba mu obuka … Toliko je prednosti, da, prema različitim procjenama, u sljedećim desetljećima roboti mogu zauzeti od 40 do 80% radnih mjesta, odnosno prijeti nam nezapamćeni val masovne nezaposlenosti.
Možda će se na kraju ovo pretvoriti u zlatno doba, kada će se, kako je sanjao Karl Marx, ljudi uključiti u slobodnu kreativnost. Ali još moramo živjeti da to vidimo - i po mogućnosti bez socijalnih katastrofa. Malo je vjerojatno da će biti moguće značajno ograničiti upotrebu robota: nikada prije zakonodavne zabrane nisu mogle zaustaviti napredak. U čemu je poanta? Umjesto toga, ljudima će biti zabranjena vožnja kad robotski vozači postanu sveprisutni. Čovjek je previše nepredvidiv. Nisu li, na primjer, opasni ljudski piloti koji su sposobni usmjeriti zrakoplov u zemlju ili u stambena područja?
To znači da moramo naučiti živjeti s robotima
Za početak smo otišli na mjesto gdje ima mnogo robota - na međunarodnu konferenciju Skolkovo Robotics. Šareno društvo robota i njihovih tvoraca okupilo se u hiperkocku Skolkovo. Veliki i mali, leteći i hodajući trutovi, profesionalni vatrogasci i elektronički brisači, mehaničke ruke i noge, trup i glave …
Ovdje je Puškinova gumena glava, postavljena na stativ, kao na kolac, promatra prolaznike i nervozno trza obrvom - previše je ljudi, oči gore. Lice pjesnika toliko je slično stvarnom da osjećate strahopoštovanje.
Foto: Skoltech / kot.sh
U blizini se nalazi robot koji uopće ne izgleda poput čovjeka. Umjesto tijela, na kotačima je štap, umjesto glave zaslon koji se okreće u svim smjerovima. Ovo je robot za teleprisutnost Webot, stvoren u Skolkovu za pomoć djeci s invaliditetom. Možete se povezati s njim putem Interneta, kretati se s njom po zgradi, vidjeti i čuti što se događa oko vas i komunicirati s drugima.
Takvi se roboti već koriste u nekoliko škola - djeca se s njima povezuju od kuće i uz njihovu pomoć pohađaju nastavu, izvršavaju zadatke, odgovaraju na pitanja učitelja, voze se do ploče i komuniciraju s vršnjacima.
Glavni potrošači uslužnih robota u Rusiji i širom svijeta su osobe s invaliditetom. Robotika im daje nadu u povratak u puni život - poput prvog ruskog egzoskeleta ExoAtlet. Njegov pilot Yaroslav, nedavno prisiljen voditi život paralizirane osobe, hoda u javnosti poput kiborga iz budućnosti.
Još jednog pomoćnika robota predstavio nam je japanski profesor Kazuhiko Terashima:
- Japansko društvo brzo stari, u klinikama nema dovoljno osoblja. A robot Terapio koji smo mi razvili pokazao se izvrsnim pomoćnikom liječniku. Prati liječnika, nosi instrumente, ali što je najvažnije, sjeća se podataka, što čini medicinske kartone nepotrebnima. Osim toga, on samostalno vrši obilaske pacijenata i u tom slučaju podiže alarm.
Ima dječji izraz lica i nježan glas, zna se smijati i plakati, njegove velike oči neprestano trepću - kako bi udovoljili pacijentima, izazvali im reakciju sličnu onoj koju izazivaju djeca ili mačići. Naš je robot važan korak u projektu robotske bolnice koji kontinuirano nadzire pacijente. Usput, znate, sada se operacije rade uz pomoć robotskih kirurga.
Foto: Skoltech / kot.sh
Androida možete prepoznati hodajući
Robotika i dizajneri nastupaju u konferencijskoj dvorani Hypercubea. Mihail Lebedev sa Sveučilišta Duke govori o tome kako ugrađuje čipove u mozak majmuna koji im omogućuju da umom upravljaju robotima. Moderator je sjednice Dmitrij Teterjukov, profesor na Institutu za znanost i tehnologiju Skolkovo, voditelj laboratorija svemirskih robota, koji već duži niz godina radi u Japanu.
Mi smo ga, naravno, začinili pitanjima.
[Schrödingerova mačka] Statistički, broj robota brzo raste, ali gdje se oni skrivaju - osim onih koji se koriste u industriji?
[Dmitrij Teterjukov] Osim industrijskih robota, raste i vojska uslužnih robota - svi su čuli za robotske usisavače ili robotske četverokotače koji dostavljaju kupnje. Mnogi od ovih strojeva koriste se u medicini, a u američkoj su vojsci već dugo u ratu: na primjer, praćeni roboti s manipulatorom angažirani su na uklanjanju mina. Općenito su se pokazali vrlo korisnima u izvanrednim situacijama, korišteni su u nesreći u Fukushimi.
[KSh] Kakve robote proizvodite u Rusiji?
[JT] Nastavljam ono što sam radio u Japanu. Jedan od projekata je kontrola skupine robota, kada oni djeluju prema zajedničkom planu, kao jedinstveno jato, razmjenjuju informacije i uzimaju u obzir međusobno djelovanje. Sve ćemo to, naravno, testirati ovdje na Zemlji, ali planiramo da rade u svemiru.
[KSh] Znanstvenici su robote uvijek opisivali kao takva usamljena bića …
[JT] Distribucija posla među mnogima mnogo je učinkovitija od dodjeljivanja svega jednom. Primjerice, jedan samovozeći automobil mora obraditi sve podatke o samoj cesti, ali ako su takvi uređaji posvuda, puno je prikladnije da djeluju na temelju opće slike i programa.
[KSh] Kad roboti postanu slični ljudima i izgledom i umom, postaje pomalo zastrašujuće, zar ne?
[JT] Postoji japanski profesor Hiroshi Ishiguro koji stvara androide koji se gotovo ne razlikuju od nas - nedavno sam zamijenio jedan od njegovih geminoida za čovjeka. Ali to je samo dok on sjedi. Robot koji može hodati kao čovjek još se nije pojavio - lako ga je prepoznati po hodu. Ishiguro je napravio i svoje i svoje kćeri.
Međutim, vidjevši je, kći se prestrašila, zaplakala i pobjegla. Odnosno, kada robot postane vrlo sličan nekoj osobi, dogodi se njegovo odbijanje. A kad se pređe ovaj prag, eliminiraju se neprirodni izgled i pokreti, robota počinju doživljavati kao stvarnu osobu. No, da bi ga prošao, mora se postići ne samo fizička sličnost, već i intelektualna - sposobnost vođenja razumnog razgovora.
[KS] Je li poznati Turingov kriterij prema kojem robota treba smatrati razumnim, što u razgovoru ne možemo razlikovati od čovjeka? Ili to treba nekako preformulisati?
[JT] Ovaj se kriterij sada shvaća kao test za programe koji simuliraju ljudsko čavrljanje. Ali poanta nije samo u intelektu - da bi se antropomorfni robot zamijenio za čovjeka, on mora biti emotivan, glatko se kretati i ponašati se poput čovjeka. Već postoje programi koji vrlo uvjerljivo pokazuju sarkazam i ironiju. Mislim da će uskoro biti zasebnih testova za različite sposobnosti: emocionalni Turingov test provjerit će primjerenost osjećaja i, na primjer, motorički test - sposobnost kretanja poput osobe.
Foto: Skoltech / kot.sh
[KS] Ne bojite li se, grubo govoreći, pobune robota?
[DD] Napokon, ljudi pišu programe za robote, što znači da određuju što roboti mogu, a što ne, kakve će želje imati, a što neće. I zašto bi roboti išli protiv svojih kreatora, iz kojeg razloga?
[KSh] Na primjer, zbog našeg nesporazuma da i njima trebaju prava ili zato što su rastavljeni i zbrinuti nakon isteka roka valjanosti. A programe za robote neće pisati samo ljudi - prije ili kasnije strojevi će postati samouci
[JT] Oni će biti obučeni u okviru koji smo postavili. Čini mi se da verzija budućnosti s sukobom između ljudi i robota dovodi do degradacije, bez obzira tko pobijedio u takvom sučeljavanju. Evolucijski produktivan scenarij je simbioza, a ne rat uništenja, parazitizma ili drugog podređivanja. Štoviše, ta će se simbioza dogoditi i u ljudskom tijelu, tako da će se, po mom mišljenju, najzanimljivija etička pitanja pojaviti u vezi s kiborgizacijom.
Kamo će ići granica između čovjeka i stroja kad počnemo instalirati umjetne organe za sebe, instalirati čipove u mozak, poboljšati našu memoriju i druge sposobnosti uz njihovu pomoć? Čini mi se da nas očekuje budućnost bez naprava i osobnih računala - bit će dovoljno za mentalni zahtjev ili davanje naredbe, jer će mozak biti povezan s mrežom.
Ali možda će kiborzima trebati restriktivni zakoni, slični zakonima Asimove robotike - čak sam ih nekako formulirao. Njihova je suština da stroj u kiborgu ne preuzima vlast nad osobom, tako da moć odlučivanja ostaje na čovjeku, a ne na njegovom glavnom procesoru.
[KSh] Imate li robota iz snova?
[DT] Ovo je vjerojatno robot kojim upravlja operator s učinkom teleprisutnosti, koji bi omogućio potpunu komunikaciju na daljinu i prenio operateru sve senzacije, stvarajući efekt potpune prisutnosti.
[CS] Avatar?
[JT] Da. Bavio sam se ovom temom prije nego što je Avatar izašao, ali, naravno, takvi filmovi u nekom smislu određuju budućnost - naše razumijevanje onoga čemu težimo i što je moguće.
Foto: Skoltech / kot.sh
Moralni strojevi
U međuvremenu je u Hypercubeu započela rasprava na temu "Moralni portret antropomorfnog stroja". Profesor psihologije Maxim Kiselev održao je uvodni govor o moralnom karakteru robota.
"Roboetika se bavi svim humanitarnim problemima povezanim s robotima", objasnio je. - Na primjer, legalno: tko je odgovoran ako je automobil bez vozača negdje vozio - sam robot, vlasnik automobila ili programer? Ili socijalne, od kojih je glavna potencijalna nezaposlenost. I sam sam više puta bio u robotiziranim tvornicama - na primjer, u pogonu u Swindonu, gdje se proizvode dijelovi za automobile MINI Cooper. Zapošljava dvjestotinjak robota i isto toliko ljudi, a prije je bilo četiri tisuće radnih mjesta. Postoje i specifična moralna pitanja, poput takozvane dileme pomoćnog robota. Kako znati kada pomoć stroja postane kontraproduktivna? Zamislite robota, mekanog i pahuljastog, koji prati dijete i sakuplja igračke. Ali za normalan razvoj djeteta potrebno je da to učini samo.
Ispunjeni robofobijom, otišli smo do tvorca robotike, profesora Gianmarca Verugija, predsjednika znanstvenog odbora Škole robotike Talijanskog instituta za elektroniku, informacijsku tehnologiju i telekomunikacije - on je upravo sjedio u blizini.
[Schrödingerova mačka] Kako je došlo do robotike?
[Gianmarco Verugio] Jednom sam bio ljubitelj Asimova, do šesnaeste godine pročitao sam sve njegove knjige. Možda me zato mnogo godina kasnije obuzelo nešto poput bogojavljenja iz čega je proizašla robotika. Shvatio sam da zakoni robotike Asimova - "Robot ne može naštetiti čovjeku" i tako dalje - uopće nisu zakoni, već jednostavno dobre želje, niti jedan od njih se u praksi ne poštuje. Stvarni zakon je e = mc2. Poput ostalih zakona prirode, ne može se prekršiti.
Kršenje zakonskih zakona se kažnjava. A tri zakona robotike slična su biblijskim zapovijedima koje kažu „Ne ubij“: čini se da su svi za, ali ne poštuju ih. Trenutno se robotski sustavi oružja razvijaju u mnogim zemljama svijeta. Za ubijanje je potrebno oružje, što znači da su ti roboti stvoreni za ubijanje ljudi.
Moramo dati zakonsku snagu zakonima robotike. Pisanje takvih zakona težak je zadatak. Pretpostavimo da robot može namjerno ubiti osobu ili možda slučajno, zbog kvara ili programske greške, često će biti teško razlikovati ove situacije. Ali vrijedi početi razmišljati o tim problemima sada: ako krenemo pogrešnim putem, možemo uvelike pokvariti budućnost čovječanstva. Glupo je stvarati budućnost zatvorenih očiju, ali zasad robotiku razvijamo slijepo.
Ratni roboti jedan su od glavnih problema robotike. Pokušavamo na to skrenuti pozornost različitih međunarodnih organizacija. To nije samo moja inicijativa, postoji međunarodni pokret "Zaustavite robote ubojice!", Koji vodi kampanje na Internetu, a podržavaju ga UN.
Druga skupina problema povezana je s temom biorobota i umjetnih organa. U kojoj mjeri možemo, na primjer, ometati rad ljudskog mozga? Moj prijatelj eksperimentira sa štakorima - ubacujući im elektrone u mozak i kontrolirajući njihovo ponašanje. On je pravi pilot štakora! Ali kad je ljudski mozak pun svih vrsta neuroimplantata koji poboljšavaju sposobnosti ili kontroliraju kibernetičke organe, tada se slično presretanje kontrole može učiniti i s ljudima.
Foto: Skoltech / kot.sh
[KS] Ali ne možemo se odreći blagodati tehnologije samo zato što nove mogućnosti uvijek idu paralelno s novim opasnostima?
[DV] Kako riješiti ove probleme tako da nas tehnologije ne čine kontroliranim objektima upravljanja, već, naprotiv, povećavaju našu slobodu? Na ovo pitanje nemam odgovor, samo ga želim postaviti, shvaćajući svu njegovu složenost i nepotpunost naše vizije situacije.
Mnogo neočekivanih pitanja nameću se pred robotikom. Zamislite, na primjer, ovu situaciju: robotska medicinska sestra brine o usamljenoj starijoj osobi koja više od bilo koga drugog komunicira sa strojem. I brzo je počinje smatrati osobom, voljeti je kao osobu i trpjeti ako se slomi - to radimo čak i s primitivnim Tamagotchijem, ali ovdje će biti puno jačih osjećaja. Može li se takav robot isključiti? Za mene je osoba osoba, a stroj je stroj, ali bojim se da će ljudi uskoro početi griješiti …
[KSh] Kako ih razlikujete? Chatbotovi već prolaze Turingov test …
[DW] Počeo bih s činjenicom da naša psiha nije sadržana samo u tijelu, već kao u kontejneru. Psiha je ugrađena u tijelo - postajemo inteligentni i svjesni dok stječemo tjelesno iskustvo. Koncept umjetne inteligencije, stvoren od strane računalnih znanstvenika 1960-ih, pretpostavljao je da je virtualni svijet dovoljan da se on pojavi. Sada se ova ideja u šali naziva GOFAI (dobra staromodna umjetna inteligencija), a programerima je postalo jasno da će, kako bi stekao privid inteligencije, programu trebati tijelo robota i dugo iskustvo interakcije sa stvarnim svijetom. Ali, općenito govoreći, ne možemo napraviti inteligentan stroj, makar samo zato što još uvijek vrlo malo razumijemo kako mozak radi, što su razum i svijest.
[KSh] Dakle, robotika se ne bavi pravima robota? Ali što ćete učiniti ako sutra vaše računalo kaže: "Bojim se, nemojte me isključiti?"
[DW] Pa, ne, prava robota počet će me zabrinjavati kad zadnja osoba na planetu bude imala sva prava. Još uvijek ima previše posla da bi se ljudi počeli brinuti za automobile. Roboetika se odnosi na ljude, mi to moramo činiti, jer sami stvaramo svoju budućnost.
Objavljeno u znanstveno-popularnom časopisu "Schrödingerova mačka" br. 5 (07) za svibanj 2015
