Stephen Hawking nastavlja "križarski rat" protiv umjetne inteligencije (AI).
Tijekom dugoočekivane kampanje Pitaj me sve o Redditu napisao je da bi rad na izradi sigurnosnog protokola AI trebao biti učinjen sada, a ne u dalekoj budućnosti.
"Naš cilj ne bi trebao biti stvaranje apstraktne umjetne inteligencije, već stvaranje korisne inteligencije." Proći će desetljeća da se smisli kako to učiniti, pa krenimo s istraživanjem ovog pitanja sada, a ne noć prije prve napredni AI”.
Hawking koristi slavu da podrži AI pokret sigurnosti od 2014. godine, kada je zajedno s drugim istraživačima napisao uvodnik u kojem upozorava na egzistencijalnu prijetnju koju napredni strojevi predstavljaju čovječanstvu.
Druge ugledne tehničke ličnosti, Elon Musk i Steve Wozniak, pridružili su se Hawkingu. Prije toga, sva trojica potpisala su otvoreno pismo u kojem pozivaju na zabranu autonomnog oružja ili borbenih robota.
Očekivanja da će čovječanstvo uskoro stvoriti umjetnu inteligenciju postoje od 50-ih godina i još se nisu opravdala. Međutim, većina znanstvenika s AI vjeruje da će se strojevi jednaki inteligenciji ljudi pojaviti u ovom stoljeću.
Foto: ANDREW COWIE / AFP
Promotivni video:
Hawking upozorava da prikazivanje umjetne inteligencije u filmovima znanstvene fantastike iskrivljava stvarnu opasnost od strojeva. Filmovi poput Terminatora prikazuju demonske robote ubojice koji žele uništiti čovječanstvo iz razloga kojih nije imala stvarna umjetna inteligencija. Oni također olakšavaju ublažavanje potencijalnog rizika od AI (poput neradbe kiborga).
„Prava prijetnja AI nije da je zlo, već da je vrlo sposobna. Umjetna superinteligencija vrlo je dobra u izvršavanju svojih zadataka.
Ako se njegovi zadaci ne poklapaju s našim, imat ćemo problema, - napisao je Hawking, - jedva mrzite mrave, ali ako ste zaduženi za projekt zelene energije, a područje na kojem se nalazi mravinjak treba potopiti, mravi nisu sretni. Ne dopustimo čovječanstvu da se nađe u položaju ovih mrava."
Nick Bostrom, filozof iz AI, mašta o scenarijima kraja svijeta kada program počne raditi u pogrešnom smjeru. Na primjer, umjetna inteligencija ima zadatak razviti plan zaštite okoliša, a kako bi se riješio problem zaštite okoliša, on odlučuje uništiti čovječanstvo.
Elon Musk već je izdvojio 10 milijuna dolara za sigurnosna istraživanja AI kako bi spriječio da se destruktivna umjetna inteligencija poput Skyneta pojavi u Terminatoru. Ali Hawking želi da ljudi promijene cjelokupnu percepciju AI.
"Molim vas, recite svojim učenicima da razmišljaju ne samo o tome kako stvoriti AI, već i kako osigurati da se on koristi u korisne svrhe," rekao je Hawking učitelju koji predaje o umjetnoj inteligenciji. „Pojava AI koja nadilazi ljude bilo najbolji ili najgori događaj u ljudskoj povijesti. Stoga je važno da sve ide kako treba “.
