Prilično sve što danas čujete o umjetnoj inteligenciji dolazi iz dubokog učenja. Ova kategorija algoritama funkcionira sa statistikama kako bi pronašla uzorke u podacima, a pokazalo se da je izuzetno moćna u oponašanju ljudskih vještina, poput naše sposobnosti da vidimo i čujemo. U vrlo uskoj mjeri, to čak može oponašati našu sposobnost razmišljanja. Ovi algoritmi podržavaju Google Search, Facebook Newsfeed, Netflixov mehanizam preporuka i oblikuju industrije poput zdravstva i obrazovanja.
Kako se razvija duboko učenje
Unatoč činjenici da je duboko učenje praktički jednodušno donijelo umjetnu inteligenciju u javnost, ono predstavlja samo mali bljesak povijesnog zadatka čovječanstva da reproducira vlastitu inteligenciju. Na čelu ove potrage je bio manje od desetljeća. Ako ostavimo po strani cjelokupnu povijest ovog područja, lako je razumjeti da će uskoro i ona moći otići.
Nagli usponi i padovi raznih metoda dugo su karakterizirali istraživanje AI, rekao je. Svako desetljeće postoji intenzivna konkurencija između različitih ideja. Zatim se s vremena na vrijeme prekidač okrene i cijela zajednica počne raditi jednu stvar.
Naši kolege s MIT Technology Review-a željeli su vizualizirati ove probleme i početke. U tom su se cilju okrenuli jednoj od najvećih baza podataka otvorenih znanstvenih radova poznatih kao arXiv. Preuzeli su izvatke iz ukupno 16.625 članaka dostupnih u odjeljku umjetne inteligencije do 18. studenoga 2018. i pronašli riječi spomenute tijekom godina kako bi vidjeli kako se polje razvijalo.
Kroz njihovu analizu pojavila su se tri glavna trenda: pomak prema strojnom učenju krajem 90-ih i početkom 2000-ih, porast popularnosti neuronskih mreža koji je započeo početkom 2010-ih i porast učenja ojačanja u posljednjih nekoliko godina.
Promotivni video:
Ali prvo, nekoliko upozorenja. Prvo, arXiv odjeljak s AI datira iz 1993., a izraz "umjetna inteligencija" datira iz pedesetih godina 20. stoljeća, pa sama baza podataka predstavlja samo posljednja poglavlja povijesti na terenu. Drugo, dokumenti koji se dodaju u bazu svake godine predstavljaju samo djelić posla koji se trenutno obavlja na ovom području. No, arXiv nudi izvrstan resurs za prepoznavanje nekih glavnih trendova u istraživanju i za promatranje vuče između različitih ideoloških logora.
Paradigma strojnog učenja
Najveći pomak koji su istraživači otkrili bio je odmak od sustava temeljenog na znanju prema ranim 2000-ima. Takvi računalni sustavi temelje se na ideji da je moguće kodirati sve ljudsko znanje u sustavu pravila. Umjesto toga, znanstvenici su se okrenuli strojnom učenju, kategoriji roditelja algoritama koji uključuju duboko učenje.
Među 100 spomenutih riječi najviše su se smanjile one povezane sa sustavima temeljenim na znanju - "logika", "ograničenja" i "pravilo". A najviše su porasle one povezane s strojnim učenjem - "podaci", "mreža", "performanse".
Razlog ove promjene vremena vrlo je jednostavan. U 80-ima su sustavi utemeljeni na znanju poprimali popularnost među obožavateljima, zahvaljujući uzbuđenju oko ambicioznih projekata koji su pokušali ponovno stvoriti zdrav razum u strojevima. No, kad su se ovi projekti odvijali, istraživači su se suočili s velikim izazovom: previše je pravila trebalo šifrirati da bi sustav mogao učiniti bilo što korisno. To je dovelo do povećanih troškova i značajno usporilo tekuće procese.
Odgovor na ovaj problem je strojno učenje. Umjesto da od ljudi zahtijeva ručno kodiranje stotina tisuća pravila, ovaj pristup programira strojeve da automatski izvuku ta pravila iz gomile podataka. Isto tako, ovo se polje udaljio od sustava temeljenih na znanju i okrenulo se poboljšanju strojnog učenja.
Rascjep neuronskih mreža
Unutar nove paradigme strojnog učenja, prelazak na duboko učenje nije se dogodio preko noći. Umjesto toga, analiza ključnih pojmova pokazala je da su znanstvenici testirali mnoge metode osim neuronskih mreža, glavnih mehanizama dubokog učenja. Ostale popularne metode uključivale su Bayesove mreže, vektorske strojeve za podršku i evolucijske algoritme, koji svi koriste različite pristupe za pronalaženje obrazaca u podacima.
Tijekom 1990-ih i 2000-ih postojala je snažna konkurencija tih metoda. Zatim je 2012. dramatičan proboj doveo do još jedne promjene vremena. Tijekom godišnjeg natjecanja ImageNet-a za ubrzavanje napretka u računalnom vidu, istraživač po imenu Jeffrey Hinton, zajedno s kolegama sa Sveučilišta u Torontu, postigao je najbolju točnost prepoznavanja slike s razmakom greške od nešto više od 10%.
Tehnika dubokog učenja koja je koristila pokrenula je novi val istraživanja, prvo u zajednici vizualizacije, a potom i šire. Kako ga je sve više i više znanstvenika počelo koristiti za postizanje impresivnih rezultata, popularnost ove tehnike, zajedno s popularnošću neuronskih mreža, skočila je naglo.
Rast učenja ojačanja
Analiza je pokazala da je nekoliko godina nakon procvata dubokog učenja došlo do trećeg i posljednjeg pomaka u istraživanju AI.
Pored različitih metoda strojnog učenja, postoje tri različite vrste: nadzirano učenje, nekontrolirano učenje i učvršćivanje. Nadzirano učenje, koje uključuje ubacivanje tagovanih podataka u stroj, najčešće se koristi i ima danas najpraktičniju primjenu. Međutim, u posljednjih nekoliko godina, učvršćivanje učenja koje oponaša proces učenja životinja mrkvom i štapovima, kaznama i nagradama dovelo je do brzog povećanja referenci u radovima.
Sama ideja nije nova, ali nije djelovala već desetljećima. „Nadzirani stručnjaci za učenje podrugljivi su se nasmijali stručnjacima za učenje“, kaže Domingos. No, kao i kod dubokog učenja, jedna je prekretnica odjednom dovela do izražaja metodu.
Taj trenutak došao je u listopadu 2015., kada je DeepMindov AlphaGo, treniran s pojačanjem, pobijedio svjetskog prvaka u drevnoj igri go. Utjecaj na istraživačku zajednicu bio je neposredan.
Sljedećih deset godina
MIT Technology Review pruža samo najnoviji snimak natjecanja među idejama koje karakteriziraju AI istraživanje. Međutim, to ilustrira nedosljednost težnje za dupliciranjem inteligencije. „Važno je razumjeti da nitko ne zna kako riješiti taj problem,“kaže Domingos.
Mnoge metode koje se koriste već 25 godina pojavile su se otprilike u isto vrijeme 1950-ih i nisu uspjele izaći na kraj s izazovima i uspjesima svakog desetljeća. Na primjer, neuronske mreže dosegnule su vrhunac u 60-ima i malo u 80-ima, ali gotovo su umrle prije nego što su povratile svoju popularnost zahvaljujući dubokom učenju.
Svako desetljeće, drugim riječima, uočava dominaciju različite tehnike: neuronske mreže u kasnim 50-ima i 60-ima, različiti simbolički pokušaji 70-ih, sustavi utemeljeni na znanju u 80-ima, Bayesove mreže u 90-ima, referentni vektori u nula i neuronske mreže ponovno u 2010-ima.
Domingos, 2020. neće biti drugačiji. To znači da će era dubokog učenja možda uskoro završiti. Ali što će se dalje dogoditi - stara tehnika u novoj slavi ili posve nova paradigma - to je tema žestoke polemike u zajednici.
Ilya Khel