Mikhail Burtsev, voditelj laboratorija za neuronske sustave i duboko učenje na Moskovskom institutu za fiziku i tehnologiju, govori o tome je li moguće stvoriti punopravni računalni analog ljudskog uma i objašnjava zašto ga znanstvenici razvijaju i kako ga se može zaštititi od napada trolova.
Krajem srpnja znanstvenici s MIPT-a pokrenuli su međunarodno natjecanje za "govorne" sustave umjetne inteligencije koji mogu oponašati živu osobu i pozvali sve koji su željeli s njima komunicirati i procijeniti dijaloge koji su iz toga proizašli. Koristeći pomoć volontera, znanstvenici se nadaju da će u sljedeće tri godine stvoriti glasovnog asistenta koji može komunicirati s osobom gotovo jednako dobro kao i živi sugovornik.
Natjecanje su suorganizirali znanstvenici sa sveučilišta Montreal, McGill i Carnegie Mellon. Možete sudjelovati u testiranju sustava dijaloga slijedeći poveznicu.
Zapravo, te ideje danas nisu izmišljene - moderni glasovni asistenti Googlea, Applea, Amazona i drugih IT tvrtki ukorijenjeni su u dubokoj prošlosti, na samom početku računalne ere. Prvi takav stroj za razgovor, nazvan ELIZA, stvoren je 1966. godine i zapravo je bio šala, parodija na psihoterapeuta koji daje beskorisne savjete pacijentu.
U sljedećim godinama i desetljećima programeri su stvarali sve složenije i "žive" sustave za komunikaciju s računalom. Najnapredniji od ovih sustava može prepoznati raspoloženje vlasnika, sjetiti se njegovih starih želja i preferencija te mu riješiti neke rutinske i kućanske zadatke, naručiti hranu ili robu u trgovini ili igrati ulogu operatera u call centrima.
Mihaile, prošlo je gotovo 50 godina od stvaranja ELIZE. Što se uopće promijenilo tijekom ovog vremena i može li se, u principu, očekivati da će u budućnosti znanstvenici moći stvoriti takav sustav koji ljudi ne mogu razlikovati od živog sugovornika?
- Mislim da će u bliskoj budućnosti biti moguće stvoriti tehnologiju govorne inteligencije koja će omogućiti stroju da se približi razini ljudskog dijaloga. Na ovom zadatku radimo u okviru projekta iPavlov, koji je dio Nacionalne tehnološke inicijative.
Korisniku treba biti ugodno komunicirati s automatskim sustavom dijaloga kao i sa živom osobom. To će omogućiti stvaranje informacijskih sustava koji će moći bolje razumjeti što osoba želi od nje i odgovoriti joj prirodnim jezikom.
Promotivni video:
Intelektualna inteligencija može se koristiti za automatizaciju mnogih glasovnih i tekstualnih sučelja, uključujući glasnike poput Telegrama. Glasnici se, kako pokazuju statistike, danas koriste aktivnije od društvenih mreža, a vrlo velika količina informacija prolazi kroz kanale tekstualne komunikacije.
Na primjer, prikladni su za upotrebu u prijevozu, a dodavanje interaktivnog pomoćnika - chat bota - omogućit će korisnicima ne samo međusobnu komunikaciju, već i primanje potrebnih informacija, kupnju i obavljanje mnogih drugih stvari. To će dovesti do činjenice da će neposredni glasnici i glasovni pomoćnici postupno zamijeniti uobičajene web stranice i aplikacije, a također će igrati ulogu internetskih savjetnika i stručnjaka call centra.
S obzirom na prisutnost Applea, Googlea i Amazona na ovom tržištu, može li se Rusija ovdje natjecati? Postoji li neka specifičnost u ruskom jeziku koja bi mogla ometati potencijalne konkurente ruskih tvrtki i znanstvenika?
- Naravno, ruski jezik je složeniji, a neke od metoda koje se danas koriste u razvoju sustava dijaloga i glasovnih asistenata u svijetu ne mogu se primijeniti bez usavršavanja i značajnih preinaka koje bi im omogućile rad s bogatijom gramatikom.
S druge strane, osnovne algoritme koji se koriste u radu Sirija, Cortane, Googlea i ostalih digitalnih asistenata nitko ne skriva - oni su nam dostupni barem na razini istraživanja i koncepata. Istraživački radovi i programski kod često su javno dostupni - u principu se mogu prilagoditi ruskom jeziku.
Mikhail Burtsev, voditelj laboratorija za neuronske sustave i duboko učenje, MIPT
Štoviše, nema puno pokušaja da se to provede na "industrijskoj" razini. Jedini veliki projekt vodi Yandex koji razvija pomoćnika za projekt Alice.
U našem projektu pokušavamo stvoriti alate koji bi pojednostavili i ubrzali stvaranje takvih "industrijskih" sustava dijaloga dizajniranih za razne svrhe. No razvoj univerzalnog glasovnog asistenta sposobnog za rješavanje bilo kojeg problema izuzetno je težak zadatak čak i za velike tvrtke.
S druge strane, automatiziranje malog poduzeća koje će koristiti specijalizirani sustav dijaloga puno je jednostavnije provesti. Nadamo se da će alati koje ćemo stvoriti pomoći poduzetnicima i programerima da riješe takve probleme dovoljno brzo, bez ikakvog dubokog znanja i bez ulaganja super napora za to.
Mnogi znanstvenici, poput Rogera Penrosea ili Stuarta Hameroffa, vjeruju da je ljudski um kvantne prirode i nemoguće je u načelu izgraditi njegov analogni stroj. Slažete li se s njima ili ne?
- Po mom mišljenju, ako pogledate ono što danas znamo o strukturi mozga i prirodi ljudske svijesti, zasad nemamo temeljnih prepreka za reprodukciju njegovog rada pomoću računala.
Penrose i Hameroff imaju niz hipoteza za koje vjeruju da objašnjavaju zašto se to ne može učiniti. Do sada neurofiziolozi nisu pronašli nijedan eksperimentalni dokaz da su ove hipoteze točne, a naša trenutna baza znanja govori u prilog suprotnom.
Druga je stvar što vremenski okvir kada će takav stroj biti stvoren i dalje nije u potpunosti definiran. Čini mi se da bi se to moglo dogoditi za barem 50 ili čak 100 godina.
Hoće li za to trebati temeljno nove tehnologije i računala koja su po principima rada bliža neuronima nego digitalnoj logici?
- Ako vjerujemo da se ljudska inteligencija temelji na nekom obliku računanja, tada bilo koji univerzalni računalni sustav ekvivalentan Turingovom stroju može, u teoriji, oponašati rad ljudskog mozga.
Druga je stvar što ovaj stroj može raditi vrlo sporo, što će ga s praktičnog gledišta učiniti beskorisnim. Danas je teško pogoditi koje su nam tehnologije za izgradnju računala ovdje potrebne.
Koje druge zadatke mogu riješiti digitalni asistenti, osim stvari koje rade danas? Mogu li se koristiti za dešifriranje tekstova na mrtvim jezicima ili šifriranja poput Voynichovog rukopisa?
- Trenutno, koliko znam, nitko nije pokušao koristiti neuronske mreže za otkrivanje tajni mrtvih jezika i dešifriranje tekstova, ali čini mi se da će to netko pokušati učiniti u bliskoj budućnosti. Nas pak takve stvari još nisu zanimale.
"Pomoćnik" je zapravo vrlo širok pojam koji može sadržavati mnogo vrlo različitih stvari. Uzmemo li, na primjer, istu ELIZU, virtualnu „psihoterapeutkinju“, postavlja se pitanje: je li ona asistent ili nije?
Sustavi dijaloga mogu se koristiti ne samo za rješavanje praktičnih problema, već i za zabavu ljudi ili održavanje njihovog raspoloženja. Ovdje je zapravo pitanje što podrazumijevamo pod pojmom osobnog asistenta i koliko je širok ili uzak. U najširem smislu, takvi sustavi mogu riješiti sva pitanja vezana uz komunikaciju, iako s različitim stupnjem uspjeha.
Sugovornička sučelja, osim izravne komunikacije s ljudima, mogu se koristiti i za podučavanje strojeva brzom pronalaženju zajedničkog jezika i prenošenju podataka iz jednog sustava u drugi.
To će zaobići problem uspostavljanja veza i prijenosa podataka između postojećih i stvorenih usluga, jer oni međusobno neće trebati znati API specifikacije. Moći će razmjenjivati podatke koristeći se prirodnim jezicima ili vlastitim umjetnim jezikom koji će izmisliti strojevi ili ljudi u takve svrhe.
Grubo rečeno, čak i međusobno nepoznati sustavi moći će se složiti koristeći zajednički jezik komunikacije za njih, a ne fiksna pravila za razmjenu informacija. Ako nešto ne razumiju, mogu se međusobno pitati o nepoznatim stvarima, što će cjelokupnu infrastrukturu za pružanje usluga i usluga na Internetu učiniti nevjerojatno fleksibilnom i omogućit će joj brzu integraciju novih usluga bez pomoći ljudi.
S tim u vezi postavlja se pitanje - tko bi trebao biti odgovoran za preporuke "psihoterapeuta" ELIZE, računalnih liječnika i ostalih glasovnih asistenata, čiji savjeti mogu uvelike utjecati na dobrobit i zdravlje osobe?
- To je vrlo teško pitanje, budući da danas ne postoje jasni kriteriji koji bi nam pomogli razumjeti kako postupiti u takvim slučajevima. Mnoge internetske usluge i usluge koje korisnicima daju preporuke počinju raditi tek nakon što se korisnik složi s uvjetima pružanja usluge i posljedicama koje mogu nastati kao rezultat rada s njom.
Čini mi se da bi se rad chat botova i glasovnih pomoćnika - barem u ranoj fazi njihovog postojanja - mogao regulirati na sličan način. Na primjer, ako bot jednostavno pretražuje i analizira informacije, djelujući na sličan način kao i tražilica, tada se na njega mogu primijeniti ista pravila. U slučaju da će dati medicinski ili pravni savjet, oblik odgovornosti trebao bi biti drugačiji.
Na primjer, takvi bi sustavi trebali jasno obavijestiti korisnika o posljedicama izbora između umjetne inteligencije i običnog liječnika. Osoba će imati izbor - vjerovati liječniku koji će, na primjer, pogriješiti u 10% slučajeva, ili se kladiti na aparat koji daje pogrešan odgovor u 3% slučajeva. U prvom će slučaju za pogrešku biti odgovoran liječnik, a u drugom sam korisnik.
Prošle godine Microsoft je lansirao chatbot Tay. AI, koji je morao isključiti doslovno dan kasnije zbog činjenice da su korisnici mreže "tinejdžericu" pretvorili u pravog rasistu. Je li moguće zaštititi takve sustave dijaloga od trolova i zezancija?
- Čini mi se da se možete obraniti, ali vrijedi li to učiniti ovisi o namjeni sustava. Jasno je da ako sustav ne bi trebao davati nikakve posebne primjedbe - nepristojne ili ekstremističke, tada možemo filtrirati njegove odgovore. To se filtriranje može dogoditi ili u fazi osposobljavanja sustava ili već tijekom generiranja odgovora.
Inače, sličan zadatak procjene kvalitete dijaloga riješili su timovi u okviru znanstvenog školskog hackathona DeepHack Turing, koji se održao na MIPT-u prije nekoliko tjedana. Njegovi sudionici razvili su algoritme koji bi mogli na osnovu nagovještaja u dijalogu predvidjeti kakvu će ocjenu osoba dati sustavu dijaloga.
Sljedeći korak u razvoju ovog pristupa je stvaranje programa koji bi procijenio prihvatljivost fraza ili pouzdanost izvora koji se koriste u generiranju odgovora na korisničke upite. Čini mi se da bi to pomoglo u rješavanju ovog problema.
