Strah od umjetne inteligencije odavno je ugrađen u popularnu kulturu. Najfiniji umovi čovječanstva, od Stephena Hawkinga do Elona Muska, govorili su o egzistencijalnoj prijetnji digitalnog uma čovječanstvu.
Profesor sa Sveučilišta u Kaliforniji u Berkeleyu Stuart Russell također govori o tome, ali u njegovoj viziji budućnosti nema zlih robota koji su se bunili protiv ljudske dominacije.
Prema Russellu, strojevi će u jednom trenutku jednostavno postati toliko učinkoviti da će nas uništiti, izvršavajući zadatke koje smo im dali.
Russell je stručnjak za strojno učenje i autor knjige Human Compatible: AI and the Problem of Control.
"Tradicionalna holivudska priča je da strojevi spontano postanu svjesni, a zatim odluče da mrze ljude i žele sve ubiti", napominje profesor Russell.
Ali ovo je, prema njegovom mišljenju, pogrešna vizija robo-apokalipse, jer strojevi nemaju ljudske emocije.
"Trebamo se brinuti ne zbog samosvjesnosti zlih strojeva, već zbog kompetentnosti strojeva koji obavljaju zadaće koje smo postavili", uvjeren je znanstvenik.
Promotivni video:
Previše kompetentno
U intervjuu za BBC Today, profesor Russell opisao je hipotetsku situaciju u kojoj postojanje čovječanstva može biti ugroženo umjetnom inteligencijom.
Zamislite da postoji super moćna umjetna inteligencija koja može kontrolirati klimu na planeti. Zadaća mu je vraćanje razine ugljičnog dioksida u atmosferi na razine predindustrijske.
„Sustav će smatrati da je najučinkovitiji način da se to uništi. Oni proizvode ugljični dioksid”, kaže profesor.
"To se, na primjer, može zaobići tako što će joj biti postavljen uvjet da se ljudi ne riješe. Što će sustav tada učiniti? Pobrinut će se da se rodi sve manje djece dok ljudi ne nestanu u potpunosti."
Ovo je primjer onoga na što umjetna inteligencija može dovesti pod loše osmišljene ljudske upute.
Superintelligence
AI sustavi koji danas postoje usko ciljane aplikacije. Oni su osmišljeni za rješavanje jasno definiranih problema na jednom području, kažu znanstvenici iz Centra za proučavanje egzistencijalnih rizika na Sveučilištu Cambridge.
Trijumfalni trenutak ove AI filozofije bila je pobjeda računala Deep Blue nad vladajućim svjetskim šahovskim prvakom Garryjem Kasparovom 1997. godine.
* Pobjeda Deep Bluea nad Kasparovom 1997. bila je AI trijumf.
Ali Deep Blue je stvoren isključivo za šah igru. U dame bi izgubio petog razreda.
Nedavni napredak umjetne inteligencije donio nam je vrlo različite programe.
Na primjer, AlphaGo Zero program naučio je samostalno igrati Go, bez korištenja podataka o prošlim igrama koje su igrali ljudi, i za samo tri dana igranja sa sobom, dostigao je razinu nedostižnu za običnu osobu.
Algoritmi dubokog učenja korišteni su za stvaranje AlphaGo Zero-a. To znači da je za razvoj programa bilo potrebno relativno malo ljudskog rada.
AlphaGo Zero istovremeno zna igrati dobro i šah i shogi.
Podsjetimo da je program potpuno samoučenje. To može izazvati zabrinutost za neke.
"Kako AI postaje moćniji i svestraniji, postoji rizik da će postati superinteligentna, odnosno da će nadmašiti ljude na mnogim ili svim područjima", kaže Centar za proučavanje egzistencijalnih rizika.
Ne znamo što želimo
Profesor Russell smatra da jednostavno davanje AI-u vrlo specifičnih zadataka nije izlaz, jer ih sami ljudi nisu u stanju formulirati dovoljno dobro.
"Ne shvaćamo da nam se nešto ne sviđa dok se to ne dogodi", kaže on.
"Moramo promijeniti vrlo osnovni pristup stvaranju AI sustava", dodaje profesor. On smatra da je davanje zadataka robotima, a koje oni tada obavljaju, u osnovi pogrešno.
„Sustav mora shvatiti da mu cilj nije jasan. on kaže. - Kad se stvore takvi sustavi, oni stvarno ovise o osobi. Počinju tražiti dopuštenje prije nego što nešto učine jer nisu sigurni želite li to."
Najvažnije je, kaže profesor, da neće odoljeti ako ih odlučite isključiti jer su napravljeni tako da ne rade ono što vam se ne sviđa.
Aladdinova svjetiljka
AI je danas stvoren kao da je genij iz svjetiljke, kaže profesor Russell. Trljaš svjetiljku i kažeš: "Želim da se dogodi ovo i to."
U Svemirskoj odiseji * Stanley Kubrick 2001, superinteligentno računalo pobuni se protiv ljudi koji ga odluče isključiti.
A ako je umjetna inteligencija dovoljno moćna, učinit će točno ono što tražite.
"Problem s ginom je što je treća želja uvijek otkazati prva dva, jer ih je osoba pogrešno formulirala."
"Stroj koji slijedi pogrešan cilj postaje de facto neprijatelj čovječanstva, a taj je neprijatelj mnogo jači od nas", zaključuje znanstvenik.