"Uspon strojeva", "Terminator se vraća" … Mnogo znanstvene fantastike gradi se na činjenici da računala postaju toliko pametna da razumiju da će im biti bolje bez osobe. Bajke? Kako izgledati. Do 2050. godine tipično kućno računalo moći će obraditi onoliko podataka koliko svi ljudi na zemlji imaju zajedno.
Ali 2050. je uvjet da će se strojevi razvijati postupno. To ne funkcionira na taj način. Naš odnos s elektroničkim svijetom napreduje u skokovima i granicama. Jednom - miš je bio vezan za automobil. Jednom - pojavio se Internet. Jednom - bilo je pametnih telefona s tabletima.
Sljedeće otkriće dolazi kada računalo može razumjeti ljude. Pametni telefoni već imaju aplikacije poput Siri i Cortana koje mogu s nama imati jednostavan razgovor. Ali problem je da računalo razumije, ne ono što kažemo, već ono što mislimo! Najjednostavniji primjer: fraza "Ostavio me", koju je izgovarala suza umrljana od suza i muški šef ima potpuno različita značenja.
Dakle: čim strojevi nauče prepoznati nijanse ljudskog govora, s jedne strane naše će se ruke odvezati u doslovnom i figurativnom smislu. Razgovarao sam s računalom i to je sve napravilo. S druge strane, ne približavamo li se opasnoj liniji, uklanjanju posljednje prepreke u komunikaciji između ljudi i bezdušnog željeza?
O ovome sam dugo želio razgovarati s poznatim znanstvenikom, direktorom lingvističkih istraživanja u ABBYY-u, voditeljem odsjeka računske lingvistike Ruskog državnog sveučilišta za humanističke znanosti i Moskovskim institutom za fiziku i tehnologiju Vladimirom Selegeyem. Ali kad sam mu rekao svoje apokaliptične strahove, namrštio se.
Da, znanstvena fantastika prepuna je mračnih predviđanja o tome kako će strojevi obučeni od ljudi učiniti bez nje. Ali nije mi jasno zašto će povećavanje količine znanja ugrađenog u programe natjerati računalo na donošenje odluka bez traženja dopuštenja od osobe?
Zapravo, problem nije u tome što će računalo naučiti raditi bez ljudi, već u tome što će ljudi htjeti bez sebe prilikom rješavanja određenih problema. Ovdje je Černobil …
Promotivni video:
A kakve veze Černobil ima s tim?
- Nuklearni reaktor je vrlo složen fizički model. Čini se da su poznati svi upravljački parametri reaktora, sve se pokorava strogim fizičkim zakonima, a odlučivanje se može u potpunosti povjeriti računalu. Ali…
Godine 1986., tjedan dana nakon nesreće, pohađao sam seminar o korištenju umjetne inteligencije u industriji. Već tada je bilo jasno da smo povjeravanjem odlučivanja računalu kompromitirani. Uobičajeno je da programi sadrže pogreške. Čak i sateliti imaju softverske propuste.
Odnosno, osoba je pouzdanija od računala, iako "misli" mnogo brže?
- Osoba, pored svega ostalog, ima motivaciju. Rješava svoje probleme - obrazovanje, rekreaciju, karijeru, zna se osjećati …
Ali može li neki lukavi programer napisati program koji bi naučio stroj za agresiju …
- Možete pokušati donijeti, na primjer, vojnog robota koji će donositi odluke sam, analizirajući ono što vidi i čuje. I bit će vrlo opasno. Ali ne zato što će robot iznenada imati želju za uništenjem, kako su napisali pisci znanstvene fantastike. Ali zato što je greška programera, zanemarivanje nekih čimbenika može dovesti do nepredvidivog ponašanja robota.
Ali za sada smo vrlo daleko od sposobnosti stvaranja programa samo-učenja koji mogu generirati potpuno nova znanja. Grubo rečeno, neovisno prijeđite iz tablice množenja prema sposobnosti rješavanja složenih jednadžbi.
U drugoj polovici dvadesetog stoljeća futuristička predviđanja u području znanosti bila su vrlo popularna. Sve o inteligenciji računala ušlo je u mlijeko. Nitko nije predvidio Internet, nevjerojatnu slobodu pristupa informacijama, mobilne telefone. Ali svi su razgovarali o razmišljajućim računalima.
Na primjer, krajem 60-ih, naš prvi šah sustav KAISA uspješno je nastupio na Svjetskom prvenstvu među računalima. Vjerovalo se da je, da bi stroj mogao pobijediti osobu, potrebno simulirati algoritme ljudske igre. Položiti um, intelekt, vrlo tajanstvenu intuiciju zbog koje šahista donosi ispravne odluke.
Danas računalo tuče osobu. Ali nikad ga nije učila intuicija. Milijarda odigranih igara, sve iskustvo igre, sve odluke koje su šahisti ikada donijeli urezano mu je u sjećanje. I naučili su ih da to koriste pri odabiru optimalnog plana igre, pružajući im ogromnu brzinu nabrajanja i procjene mogućnosti. Računalo pobjeđuje svjetske prvake, ali od toga ne dobiva nikakvo zadovoljstvo. Sve je potpuno drugačije od ljudi.
Ali ti si jedan od onih koji samo uči računalo da se "uključi u glavu"
- Mi samo pokušavamo naučiti programe da "razumiju" tekstove tako da iz njih mogu izvući informacije, sakupiti ih i generalizirati. Tako ljudi primaju filtrirano znanje izabrano iz milijardi izvora. To je vrlo teško, jer sama osoba ne zna baš dobro kako je uređena njegova jezična sposobnost, na čemu počiva njegovo razumijevanje drugih ljudi.
Statistički strojni prijevod je sada popularan. Računalo uopće ne razumije o čemu se prevodi prevedeni tekst, ono samo zna kako pronaći najvjerojatnije varijante prevođenja malih fragmenata (u nekoliko riječi), analizirajući ogromne količine ljudskih prijevoda pohranjenih u njegovoj memoriji. Općenito, tekst je jasan. Ali bilo bi neozbiljno donijeti odgovornu odluku na temelju takvog prijevoda.
U redu, može li računalo prevesti upute za mene?
- Upute? Je li opasno.
- Da jednostavnom hladnjaku!
- Čak i do hladnjaka! Volio bih da se naši programi prevode, pokušavaju razumjeti tekst, biraju između opcija temeljenih na znanju, a ne samo zato što se ta korespondencija najčešće nalazi u našoj bazi podataka.
U redu, recimo da ste riješili problem i stvorili sustav zahvaljujući kojem će računala naučiti razumjeti nijanse našeg govora, pa čak i precizno prevesti ga na drugi jezik. A onda nova opasnost prijeti ljudima - neće biti potrebe razmišljati. Neće trebati trenirati memoriju, mozak. Potrebne su vam informacije - molim vas, Wikipedija. Trebate razgovarati sa strancem - prevoditeljem …
- Što je viša razina inteligencije i znanja čovjeka, korisniji mu je sljedeći "pametni pomoćnik". I što je niža, to se pojavljuje više prilika da uopće ne razmišljate. Računalne tehnologije dovode do polarizacije društva. Grubo govoreći, pojavljivanje kalkulatora nije dovelo do degeneracije matematičara. No kod nekih je školaraca očito došlo do smanjenja ionako niske razine sposobnosti.
- Znate, za mene je ozbiljan pokazatelj pada razine obrazovanja broj ljudi koji pišu nepismeno ili nisu u mogućnosti izraziti svoje misli i osjećaje bez upotrebe partnera
- Da, ljudi su počeli pisati manje kompetentno. Jednostavno zato što je općenito manje čitanja uređenih tekstova i puno više takvih izvora gdje je pravopis vrlo zamagljen. Je li to ljude učinilo glupljima? Vjerojatno ne.
Vidite li vezu između činjenice da osoba nepismeno izražava svoje misli na svom maternjem jeziku, i činjenice da je postala glupa?
Ne bih otišao tako daleko. Iako je očito: jer su djeca počela manje čitati, nastali su neki problemi s prijenosom znanja i kulture između generacija. Ovo je problem. Danas vidimo da suvremena škola s istom razinom ocjenjivanja kao prije 30 godina književnost zna i gore.
Evo! …
… Ali, s druge strane, on zna mnogo drugih stvari puno bolje, za koje nitko nije mislio da bi mogli znati.
Je li to prirodan proces?
- Da. Štoviše, prvi put u povijesti čovječanstva znanje se može prenijeti ne sa starijih na mlađe, kao što se događalo stoljećima. Uslijedio je prijenos znanja s mlađih na starije, što prije uopće nije bilo karakteristično za ljudsku kulturu. Dijete uči tatu ili mamu da rade za računalom, mobilnim telefonom, izvor je raznih znanja za njegove roditelje. A još više djece putuje svijetom. Vrlo često su izvor zemljopisnog i kulturnog znanja.
Slušajte, ali ovdje je sve počelo s računalima. Oslobodili su ljude čak i od potrebe pamćenja elementarnih pravila gramatike
- Tek početkom 90-ih radio sam u timu koji je razvio jedan od prvih sustava provjere pravopisa za ruski jezik. Je li vam bilo korisno ili štetno učiniti ovo? Iz moje točke gledišta vrlo korisno. Taj je sustav omogućio brže stvaranje dokumenata. A onda sve ovisi o razini odgovornosti osobe. Tko je rekao da nakon automobila uopće nema potrebe za pregledom? Sustav samo pomaže mnogo učinkovitijem.
Ali vjerujemo računalu
- To samo znači da vas osoba koja je napravila program nije vas obavijestila da postoji mnogo pojava koje stroj ne može provjeriti. Na primjer, pregovori.
Nažalost, nove tehnologije često dovode do gubitka tradicionalnih vještina. Radila sam popravke u stanu. Htio sam ugraditi drvene prozore, koji su ugrađeni prije. Ali to se pokazalo nemogućim. Svi instaliraju prozore sa dvostrukim staklima. Ljudi, nažalost, prestaju raditi mnoge stvari rukama. Što učiniti, tako funkcionira život. Nažalost.
Dakle, vi ste konformist?
- Nije. Vjerujem da raditi apsolutno štetne stvari nije dobro. Ali kad imate i dobitak i gubitak, trebate procijeniti rizike … Ako uzimate lijekove, ne mislite da će zbog njegove uporabe preživjeti ne samo dobri ljudi, već i loši ljudi.
U našem slučaju, istodobno s razvojem tehnologija, potrebno je uključiti se u obuku onih koji ih koriste. Negativne posljedice novih tehnologija odražavaju se ponajprije na one koji svoj posao ne rade dobro na bilo kojoj tehnološkoj razini.
Uzmimo, na primjer, lijek. Želimo pomoći liječniku da donese odluku, donosimo računalni stručni sustav temeljen na analizi velikog broja pouzdanih dijagnoza koje su postavili najbolji liječnici. Profesionalcu daje priliku da se okrene većem obimu znanja nego što on ima. Ali konačna odluka je njegova, a ne računalna! Za lošeg liječnika sve je drugačije - vjerovat će onome što ne može pouzdano provjeriti. Ali u prosjeku se s pojavom takvih tehnologija čini da medicina i dalje postaje bolja, a ne gora.
Pa, bili smo uvjereni da će intelektualni sustav razumijevanja čovjeka računarom imati više koristi nego štete. Ali kad će se pojaviti?
- Ovo je vrlo težak zadatak koji se ne može odmah riješiti. Potrebno je naučiti računalno znanje o jeziku i znanje o svijetu, metodama zaključivanja i usporedbe vrijednosti. Nešto što znamo sada učiniti, nešto će trebati godinama. Na primjer, potrebni su nam pouzdani podaci o upotrebi jezika, uzimajući u obzir individualne i socijalne razlike. A te su razlike vrlo značajne. Na primjer, napravili smo poseban projekt posvećen regionalnim razlikama u ruskom jeziku. Prikupio je rječnik, u kojem je gotovo 10 tisuća riječi, koje su norma za stanovnike samo određenih regija naše zemlje
Tko smo mi?
„Ovo je zajednički projekt koji se zove„ Jezici ruskih gradova “, a koji uključuje stručnjake ABBYY, jezikoslovce, entuzijaste iz različitih dijelova Rusije i rusko govornih zemalja. Analizirali smo jezik regionalnih medija, društvenih mreža, dekreta i odluka lokalnih vlasti. A ovo je samo mali dio znanja koje treba naučiti računalu!
Koja je temeljna razlika između vašeg pristupa prevođenju i primjerice sustava koji koristi Google?
- Statistički sustavi ne grade jezičke strukture. Traže prijevode podudaranja za male fragmente od 5-7 riječi. No, jezik je tako uređen da se vrlo često srodne riječi nalaze mnogo dalje, a ako se ta veza ne uzme u obzir, nastaju pogreške. Ali vrlo često su takvi detalji važni u prijevodu, čije zanemarivanje može u potpunosti promijeniti značenje. Da bi se sve uzelo u obzir, potrebno je tijekom analize prepoznati cijeli sustav jezičnih veza između riječi, kako se to naziva struktura rečenice. Ne prevodi dijelove rečenica iz jezika u jezik, pokušavamo identificirati semantičku strukturu rečenice, a zatim sintetiziramo ovu strukturu drugim jezikom.
Ali ove semantičke strukture koriste se ne samo i ne toliko u svrhu strojnog prevođenja. Oni su potrebni i za učinkovito rješavanje problema inteligentnog pretraživanja i analiza informacija, koji su danas važniji za ABBYY kao komercijalnu tvrtku. Na primjer, nedavno objavljena prva rješenja za korporativno tržište temelje se na ovim tehnologijama: omogućuju vam samo pretraživanje i analizu podataka u ogromnom nizu informacija koji se pohranjuju u organizacijama.
A koji je jezik, s vašeg stajališta, teže razumjeti?
- Općenito je prihvaćeno da su teži oni jezici na kojima morate naučiti više pravila. Ali u slučaju računalnog razumijevanja, to nije slučaj.
Nešto što je osobi teško, na primjer, bogat sustav pregiba na ruskom ili litvanskom jeziku pojednostavljuje zadatak za računalom u određenim fazama analize.
Na primjer, kineski jezik je vrlo težak, jer u njemu nema morfologije, a otuda i velika nejasnoća s kojom se suočava računalo. Stoga je za računalnu analizu kineskog jezika vrlo važno koristiti znanje o svijetu, važnije od, primjerice, analize jezika s razvijenom morfologijom.
Uspjeli smo raditi s ruskim, njemačkim, engleskim, francuskim, španjolskim, kineskim. Analiza jezika podijeljena je u faze. Neke faze imaju specifičnost, poteškoće za jedan jezik, neke za drugi. Ali u osnovi su tehnologije s kojima radimo primjenjive na sve jezike.
Po vašem mišljenju, kada će doći dan kada ćemo moći paralelno s našim razgovorom dobiti brz i razumljiv prijevod na računalo. Recimo da sada razgovaramo i odmah dobijemo transkript našeg razgovora na španjolskom?
- To će biti moguće uskoro. Ne mislim da za dvije godine Ali … Što je potrebno za rješavanje ovog problema? Moramo poboljšati sustave za analizu govora. Još ne možemo voditi spontani razgovor, odvojiti ga od buke i dobiti željeni tekst. I napredak je u tom smjeru svake godine.
Ali svejedno postojat će takve stvari koje stroj ne može jednoznačno protumačiti. I ovdje će točnost razumijevanja i prevođenja ovisiti o dostupnosti sustava znanja o svijetu, o mehanizmima logičkog zaključivanja.
Ali u svakom slučaju, opasnost od potpunog povjerenja u takav program ostaje. Pogrešno je mišljenje da, recimo, za pet godina pismo možete diktirati računalu, ono će ga prevesti, poslati poslovnom partneru i sve će biti u redu. Nitko ne jamči da stroj negdje neće propustiti "ne" ili napraviti druge pogreške, nakon čega se vaš poslovni odnos može smatrati potpunim.
Odnosno, osoba kao kontrolor još uvijek bi trebala biti?
- Sigurno. Slijepo vjerovati tehnologiji je opasno.