Možda jedan od najtežih testova strojne inteligencije bila je šahovska igra koja se odvijala prije gotovo 20 godina između računala Deep Blue i svjetskog prvaka u šahu Garryja Kasparova. Automobil je pobijedio. Trenutno je završena serija igara u logičkoj igri go, gdje su se natjecali AI AlphaGo iz DeepMinda (vlasnik Googlea) i legendarni go prvak iz Kine Li Si Dol. U četiri od pet igara stroj je pobijedio, pokazujući svoju superiornost nad ljudskim u ovoj igri. Nevjerojatno složena igra između čovjeka i AI pokazuje da se strojna inteligencija jako razvila u to vrijeme. Čini se da je sudbonosni dan, kada strojevi stvarno postaju pametniji od ljudi, sada bliži nego ikad. Međutim, čini se da mnogi uopće ne razumiju, već se čak varaju u vezi s posljedicama koje nas mogu čekati u budućnosti.
Podcjenjujemo neke vrlo ozbiljne, pa čak i opasne posljedice razvoja umjetne inteligencije. Prošle godine suosnivač SpaceX-a Elon Musk objavio je izjavu u kojoj je izrazio zabrinutost zbog mogućeg porobljavanja svijeta umjetnom inteligencijom, što je zauzvrat potaknulo ogromnu količinu komentara i pristaša i protivnika ovog mišljenja.
Za tako temeljnu revolucionarnu budućnost koja nas može čekati, iznenađujuće je da danas postoji toliko neslaganja oko toga hoće li se to uopće dogoditi i što će se na kraju ispostaviti. Posebno je čudno poricati nevjerojatne koristi koje možemo stvoriti stvaranjem istinski pametne umjetne inteligencije, naravno uzimajući u obzir sve moguće rizike. Na sva je ova pitanja nevjerojatno teško dobiti točne odgovore, jer AI, za razliku od bilo kojeg drugog izuma čovječanstva, stvarno može "pomladiti" ovo čovječanstvo ili ga potpuno uništiti.
Sada je teško razumjeti u što vjerovati i čemu se nadati. Međutim, zahvaljujući pionirima računalne znanosti, neuroznanstvenicima i teoretičarima razvoja AI, jasna se slika polako počinje raščišćavati. Ispod je popis najčešćih zabluda i mitova u vezi s umjetnom inteligencijom.
Nikada nećemo stvoriti AI s humanoidnom inteligencijom
Stvarnost pak sugerira da već imamo računala koja se podudaraju i čak premašuju ljudske mogućnosti u nekim područjima. Uzmimo za primjer šah ili istu igru, trgovanje na burzama ili ulogu virtualnog sugovornika. Računala i algoritmi koji njima upravljaju s vremenom će se poboljšavati i samo je pitanje vremena kada će postati jednaki ljudskim mogućnostima.
Promotivni video:
Istraživač sveučilišta u New Yorku Gary Marcus jednom je rekao da "praktički svi" koji rade u AI misle da će nas strojevi jednog dana nadmašiti:
"Jedini spor između pristaša i skeptika je vrijeme ovog događaja."
Futuristi poput Raya Kurzweila vjeruju da bi se to moglo dogoditi u narednim desetljećima, dok drugi kažu da će trebati nekoliko stoljeća.
Skeptici AI-a nisu uvjerljivi u svojim dokazima da je stvaranje umjetne inteligencije kao nečega jedinstvenog i vrlo sličnog stvarnom živom ljudskom mozgu u tehnološkom smislu negdje izvan stvarnosti. Naš mozak je također stroj. Biološki stroj. Postoji u istom svijetu i pokorava se istim zakonima fizike kao i sve ostalo. I s vremenom ćemo u potpunosti shvatiti čitav princip njegovog rada.
AI će imati svijest
Opći je konsenzus da će strojna inteligencija biti svjesna. Odnosno, AI će razmišljati na isti način kao i čovjek. Uz to, neki kritičari, na primjer, suosnivač Microsofta Paul Allen, vjeruju da zbog nepotpune teorijske baze koja opisuje mehanizme i principe samosvijesti još nismo stvorili čak ni opću umjetnu inteligenciju, odnosno inteligenciju sposobnu za izvršavanje bilo kakvih intelektualnih zadataka s kojima osoba se može nositi. Međutim, prema Murrayu Shanahanu, docentu na Odjelu za kognitivnu robotiku na Imperial College London, ne bismo trebali poistovjećivati to dvoje.
"Samosvijest je definitivno vrlo zanimljiva i važna tema istraživanja, ali ne vjerujem da samosvijest treba biti obavezni atribut umjetne inteligencije slične čovjeku", kaže Shanahan.
"Uopće, izraz" samosvijest "koristimo samo kako bismo naznačili nekoliko psiholoških i kognitivnih svojstava koja su obično povezana kod neke osobe."
Moguće je zamisliti vrlo pametan automobil kojem nedostaje jedan ili više ovih atributa. Jednog dana moći ćemo izgraditi uistinu nevjerojatno inteligentnu umjetnu inteligenciju, ali istodobno lišenu sposobnosti samosvijesti, kao i subjektivnog i svjesnog razumijevanja svijeta oko nas. Shanahan napominje da će objedinjavanje inteligencije i samosvijesti unutar stroja i dalje biti moguće, ali ne smijemo previdjeti činjenicu da su to dva međusobno potpuno odvojena pojma.
I premda je uspješno položena jedna od inačica "Turingova testa", u kojoj je stroj pokazao da se ne razlikuje od osobe, to uopće ne znači da ovaj stroj ima svijest. S našeg (ljudskog) gledišta, napredna umjetna inteligencija može nam se činiti kao nešto što posjeduje samosvijest, ali sam stroj neće biti svjesniji sebe kao isti kamen ili kalkulator.
Ne bismo se trebali bojati AI
U siječnju ove godine osnivač Facebooka Mark Zuckerberg podijelio je svoja razmišljanja o tome kako se ne bismo trebali bojati AI-a, dodajući da ova tehnologija može donijeti ogromne koristi širom svijeta. Istina je da je samo djelomično u pravu. Zaista ćemo moći iskoristiti nevjerojatne blagodati s AI koji nam stoji na raspolaganju (od automobila koji se samostalno voze do novih otkrića u medicini), ali nitko ne može jamčiti da će svaka primjena AI biti korisna.
Izuzetno inteligentan sustav možda će znati sve što je potrebno za određene zadatke (na primjer, rješavanje složene globalne financijske situacije ili hakiranje neprijateljskih računalnih sustava), ali izvan visoko specijaliziranih zadataka potencijal AI-a još je uvijek potpuno nejasan, a time i potencijalno opasan. Na primjer, DeepMindov sustav je specijaliziran za igru go, ali nema sposobnost (i razlog) za istraživanje područja izvan ovog područja.
Računalni virus Flame, čiji je zadatak bio pratiti zemlje Bliskog Istoka
Mnogi od ovih sustava mogu predstavljati ozbiljne sigurnosne rizike. Dobar primjer je moćan i vrlo lukav virus Stuxnet, militarizirani crv koji je stvorila američka i izraelska vojska za infiltraciju i napad na iranske nuklearne elektrane. Samo je taj zlonamjerni program nekako (slučajno ili namjerno) zarazio i jednu od ruskih nuklearnih elektrana.
Sljedeći je primjer virus Flame, razvijen za ciljanu cyber špijunažu na Bliskom Istoku. Lako je zamisliti kako će "buduće verzije" virusa Stuxnet i Flame neovisno nadići zadane zadatke i moći zaraziti gotovo cijelu infrastrukturu neke države. I učinit će to vrlo tiho i neprimjetno.
Umjetna superinteligencija bit će previše pametna da bi pogriješila
Richard Luzmore, matematičar, istraživač umjetne inteligencije i osnivač robotičke tvrtke Surfing Samurai Robots, vjeruje da većina scenarija sudnjeg dana AI izgleda malo vjerojatno jer se svi uglavnom temelje na onome što će AI jednog dana reći, "Razumijem to uništavanje people je pogreška u mom programskom kodu, ali svejedno moram slijediti zadatak."
Luzmore vjeruje da će se, ako se AI ponaša prema ovom scenariju, suočiti s logičnim kontradikcijama koje će dovesti u pitanje njegovu cjelokupnu bazu znanja i na kraju će dovesti do vlastite svijesti o svojoj gluposti i beskorisnosti.
Istraživač također vjeruje da su oni koji kažu da će "AI raditi samo ono što je uključeno u njezin program" u zabludi, baš kao i oni koji su nekada govorili iste riječi, ali prema računalima, izjavljujući da računalni sustavi nikada neće imati univerzalnost.
Peter McIntyer i Stuart Armstrong, obojica sa Instituta za budućnost čovječanstva na Sveučilištu Oxford, zauzvrat se ne slažu s tim mišljenjem, tvrdeći da će ponašanje AI biti obvezno i u velikoj mjeri opravdano programskim kodom. Znanstvenici ne vjeruju da AI nikada neće pogriješiti ili će, naprotiv, biti preglup da bismo točno razumjeli što od njih želimo.
"Po definiciji, umjetna superinteligencija (ISI) agent je čija će inteligencija mnogo puta nadmašiti najbolje umove čovječanstva u gotovo svim područjima", kaže McIntyre.
"Definitivno će razumjeti što želimo od njega."
McIntyre i Armstrong vjeruju da će AI izvršavati samo zadatke za koje je programiran, ali ako se nekako razvije sam od sebe, tada će najvjerojatnije pokušati shvatiti koliko će se njezini postupci razlikovati od ljudskih zadaća i onih koji su u njemu postavljeni. zakoni.
McIntyre uspoređuje budućnost ljudi s miševima. Miševi imaju snažan instinkt za pronalaženje hrane i skloništa, ali njihovi se ciljevi vrlo često sukobljavaju s osobom koja ih ne želi vidjeti u svom domu.
"Kao i naše znanje o miševima i njihovim željama, i superinteligencijski sustav može znati sve o nama i znati što želimo, ali istodobno će biti potpuno ravnodušan prema našim željama."
Jednostavno rješenje uklonit će problem kontrole AI
Kao što je prikazano u filmu "Iz stroja", bit će vrlo teško kontrolirati AI, koji će biti puno pametniji od nas
Ako pretpostavimo da ćemo jednog dana stvoriti superinteligenciju koja će biti pametnija od ljudi, tada ćemo se morati suočiti s ozbiljnim problemom, problemom kontrole. Futuristi i teoretičari umjetne inteligencije još nisu u stanju objasniti kako možemo kontrolirati i sadržavati ISI nakon njegovog stvaranja. Također je nejasno kako možemo osigurati da bude prijateljski raspoložen prema ljudima. U novije vrijeme istraživači s Georgia Institute of Technology (SAD) naivno su sugerirali da bi AI mogao učiti i apsorbirati ljudske vrijednosti i znanje o društvenim normama jednostavnim čitanjem jednostavnih bajki. Da, da, jednostavne dječje bajke i priče koje su nam roditelji čitali u djetinjstvu. Ali u stvarnosti će se sve pokazati puno složenije od svega ovoga.
"Mnoga su takozvana" rješenja "predložena za pitanje kontrole umjetne inteligencije", kaže Stuart Armstrong.
Jedan od primjera takvih rješenja može biti programiranje ISI-ja na takav način da neprestano pokušava ugoditi ili ugoditi nekoj osobi. Alternativa bi bila integriranje pojmova poput ljubavi ili poštovanja u njegov izvorni kod. A kako bi se izbjegao takav razvoj scenarija, prema kojem AI može pojednostaviti sve ove koncepte i percipirati ovaj svijet kroz prizmu ovih super pojednostavljenih koncepata, dijeleći ga samo na crno i bijelo, može se programirati za razumijevanje i prihvaćanje intelektualne, kulturne i socijalne raznolikosti.
Tri zakona robotike Isaaca Asimova savršeno se uklapaju u koncept fikcije, ali u stvarnosti trebamo nešto sveobuhvatnije za rješavanje problema kontrole
Nažalost, ta su rješenja prejednostavna i izgledaju kao pokušaj da se uklopi sva složenost ljudskih simpatija i nesviđanja u okvir jedne opće definicije ili koncepta ili kao pokušaj da se cijela složenost ljudskih vrijednosti stavi u jednu riječ, frazu ili ideju. Pokušajte, na primjer, uklopiti u ovaj okvir dosljednu i adekvatnu definiciju za takvo što kao što je "poštivanje".
“Naravno, ne treba misliti da su tako jednostavne opcije potpuno beskorisne. Mnogi od njih nude izvrstan razlog za razmišljanje i možda potiču traženje rješenja za krajnji problem”, kaže Armstrong.
"Ali ne možemo se osloniti samo na njih bez složenijeg rada, bez jasnih istraživanja i traženja posljedica korištenja određenih rješenja."
Uništit će nas umjetna superinteligencija
Nitko ne može garantirati da će nas AI jednog dana uništiti, kao što nitko ne može sa sigurnošću reći da nećemo moći pronaći načine za kontrolu i upotrebu AI u svoje svrhe. Kao što je jednom rekao američki stručnjak za umjetnu inteligenciju Eliezer Yudkowski: "AI vas ne može voljeti ili mrziti, ali vi ste stvoreni od atoma koje bi mogao koristiti za nešto drugo."
Oxfordski filozof Nick Bostrom u svojoj knjizi "Superinteligencija: načini, opasnosti i strategije" piše da će se prava superinteligencija jednog dana moći ostvariti, što će je učiniti opasnijom od bilo kojeg izuma koji je čovjek ikad stvorio. Istaknuti suvremeni mislioci poput Elona Muska, Billa Gatesa i Stephena Hawkinga (mnogi od njih vjeruju da bi "stvaranje AI-a mogla biti najgora pogreška u ljudskoj povijesti"), više se slažu s tim mišljenjem i već odaju alarm.
Peter McIntyer vjeruje da će za većinu zadataka koje si superinteligencija može postaviti ljudi izgledati kao dodatna poveznica.
“AI će jednog dana moći zaključiti - i treba napomenuti da će to vrlo ispravno izračunati - da ga ljudi ne žele koristiti kako bi povećali profitabilnost bilo koje određene tvrtke po svaku cijenu, bez obzira na posljedice po potrošače, okoliš i živa bića. Stoga će imati ogroman poticaj za razvijanje plana i strategije, zahvaljujući kojima se osoba neće moći miješati u rješenje zadatka, mijenjajući ga ili čak isključujući AI."
Prema McIntyeru, ako su zadaci umjetne inteligencije upravo suprotni našim, dat će joj izvrsne razloge što nam ne dopuštaju da je zaustavimo. A ako uzmemo u obzir da će razina njegove inteligencije biti puno viša od naše, zaista će ga biti vrlo, vrlo teško zaustaviti, ako je ikako moguće.
Međutim, sada je nemoguće bilo što sa sigurnošću reći i nitko neće moći reći s kojim ćemo se oblikom AI morati nositi i kako to može ugroziti čovječanstvo. Kao što je jednom rekao Elon Musk, AI se zapravo može koristiti za kontrolu, praćenje i kontrolu drugih AI. A možda će se u nju unijeti ljudske vrijednosti i početna susretljivost s ljudima.
Umjetna superinteligencija bit će prijateljska
Filozof Immanuel Kant vjerovao je da je inteligencija snažno povezana s načelima morala. U svom radu Singularity: A Philosophical Analysis, neuroznanstvenik David Chalmers uzeo je Kantovu poznatu ideju kao osnovu i pokušao je primijeniti za analizu stvaranja umjetne superinteligencije.
„Ako su principi opisani u ovom radu točni, zajedno s oštrim razvojem AI, treba očekivati i oštar razvoj moralnih načela. Daljnji razvoj dovest će do pojave ISI sustava koji će imati supermoral i superinteligenciju. Stoga bismo s njihove strane trebali očekivati samo dobronamjerne osobine."
Istina je da ideja o naprednom AI s načelima morala i iznimnom vrlinom ne drži vodu. Kao što Armstrong ističe, svijet je prepun pametnih ratnih zločinaca. Na primjer, intelekt i moral u čovjeku nisu povezani ni na koji način, stoga znanstvenik dovodi u pitanje da će takav odnos postojati u drugim oblicima inteligencije.
“Pametni ljudi koji se ponašaju nemoralno stvaraju mnogo više problema i boli od svojih manje inteligentnih kolega. Inteligencija im daje sposobnost da budu sofisticiraniji u svojim lošim, a ne dobrim postupcima”, kaže Armstrong.
McIntyre objašnjava da sposobnost agenta da postigne zadani zadatak nema nikakve veze s onim što je taj zadatak.
„Bit ćemo vrlo sretni ako naši AI postanu moralniji, a ne samo pametni. Oslanjanje na sreću je, naravno, posljednja stvar u ovom pitanju, ali možda je upravo sreća ta koja će odrediti naš položaj u budućnosti”, kaže istraživač.
Rizici povezani s umjetnom inteligencijom i robotikom isti su
To je posebno česta zabluda koja se koristi u medijima, kao i u holivudskim blockbusterima poput The Terminator.
Ako umjetna superinteligencija poput Skyneta, na primjer, zaista želi uništiti cijelo čovječanstvo, onda je malo vjerojatno da će upotrijebiti paravojne androide s strojnicama u svakoj ruci. Njegovo lukavo i učinkovito razmišljanje omogućit će mu da shvati da će biti puno prikladnije koristiti, recimo, novu vrstu biološke pošasti ili, na primjer, neku nanotehnološku katastrofu. Ili će možda jednostavno uzeti i uništiti atmosferu našeg planeta. AI je potencijalno opasan ne samo zato što je njegov razvoj usko povezan s razvojem robotike. Razlog njegove potencijalne opasnosti leži u metodama i sredstvima putem kojih može izjaviti svoju prisutnost svijetu.
AI predstavljen u znanstvenoj fantastici odražava našu budućnost
Bez sumnje, književnici i pisci znanstvene fantastike dugi niz godina koriste se okolinom znanstvene fantastike kao odskočna daska za nagađanje o našoj stvarnoj budućnosti, ali stvarno stvaranje ISI-a i stvarne posljedice toga još uvijek su izvan horizonta našeg stvarnog znanja. Štoviše, takva umjetna i očito neljudska priroda umjetne inteligencije čak nam ne dopušta ni s bilo kakvom točnošću pretpostaviti što će ta umjetna umjetnost zapravo biti.
U većini znanstveno-fantastičnih djela AI je što je moguće bliži ljudima.
“Pred nama je zapravo čitav spektar najrazličitijih mogućih vrsta uma. Čak i ako uzmemo samo ljudski oblik. Na primjer, vaš um nije daleko od onog vašeg susjeda. Ali ova je usporedba samo kap u moru sve moguće raznolikosti umova koja bi mogla postojati”, kaže McIntyre.
Većina znanstveno-fantastičnih izmišljotina je, naravno, stvorena prvenstveno da bi ispričala priču, a ne da bi bila što više znanstveno uvjerljiva. Da je sve obrnuto (znanost je važnija od zapleta), onda bi praćenje takvih djela bilo nezanimljivo.
„Zamislite samo kako bi sve ove priče bile dosadne, gdje AI, bez samosvijesti, sposobnosti radovanja, ljubavi ili mržnje, uništava sve ljude praktički bez ikakvog otpora kako bi postigao svoj cilj, koji, usput rečeno, možda nije ni previše zanimljiv. za čitatelja ili gledatelja”, komentira Armstrong.
AI će uzeti naše poslove
Sposobnost AI da automatizira procese koje radimo ručno i njegov potencijal da uništi cijelo čovječanstvo nisu ista stvar. Međutim, prema Martinu Fordu, autoru knjige Uspon robota: Tehnologija i prijetnja budućnosti bez posla, ti se pojmovi često pokušavaju usporediti i kombinirati u koherentnu cjelinu. Naravno, sjajno je što pokušavamo predvidjeti dosadašnje posljedice stvaranja umjetne inteligencije, ali samo ako nas taj napor ne odvrati od problema s kojima se možemo suočiti za nekoliko desetljeća ako ništa ne poduzmemo. A jedan od glavnih takvih problema je masovna automatizacija.
Rijetko bi tko tvrdio da će jedan od izazova umjetne inteligencije biti pronalazak načina za automatizaciju mnogih poslova, od tvorničkih do nekih radnih mjesta. Neki stručnjaci predviđaju da bi polovica svih poslova, barem u SAD-u, mogla biti automatizirana u bliskoj budućnosti.
Ali to uopće ne znači da takve promjene nećemo moći prihvatiti. Važno je shvatiti da je želja za oslobađanjem od nepotrebnog fizičkog i psihološkog stresa na poslu zapravo dugo bio san naše ljudske vrste.
“Za nekoliko desetljeća AI će doista zamijeniti ljude na mnogim poslovima. A to je zapravo prilično dobro. Primjerice, samovozeći automobili zamijenit će kamionere, što zauzvrat neće samo smanjiti troškove otpreme robe, već i troškove same robe. Ako radite kao vozač kamiona, tada ćete, naravno, ostati zadnji, ali svi ostali u ovom slučaju vjerojatnije će dobiti povišicu plaća. I što se više ovaj novac može uštedjeti, to se više novca može potrošiti na drugu robu i usluge kojima će se ljudi baviti na svojim radnim mjestima."
Najvjerojatnije će umjetna inteligencija tražiti nove načine blagostanja i hraniti ljude dok rade druge stvari. Napredak u razvoju umjetne inteligencije bit će popraćen uspjesima u drugim područjima. Pogotovo u proizvodnim sektorima. U budućnosti će sve ovo vjerojatno znatno pojednostaviti, a ne zakomplicirati zadovoljenje naših osnovnih potreba.
