Prošlo je 50 godina od kako je Isaac Asimov smislio svoja tri zakona o robotizaciji - skup pravila kojih se mora pridržavati bilo koji samopoštovajući robot. Iako je u početku bio samo književni uređaj, tri zakona postala su izvorni recept za izbjegavanje "robotokalipse". Srećom, postoje stručnjaci koji traže sigurno jesu li Azimova jamstva izdržala test vremena. Nažalost, svi kažu ne.
Za početak, podsjetimo se na ta tri zakona:
Robot ne može naštetiti nekoj osobi ili svojim djelovanjem dopustiti da joj netko nanese štetu.
Robot mora poštivati sve naredbe koje je dao čovjek, osim kada su ti nalozi suprotni Prvom zakonu.
Robot mora voditi računa o svojoj sigurnosti u mjeri u kojoj ne proturječi Prvom i Drugom zakonu.
Kasnije je Azimov dodao četvrti, odnosno nulti zakon, koji je prethodio ostalim u pogledu prioriteta:
Promotivni video:
0. Robot ne može naštetiti čovjeku, osim ako ne dokaže da će u konačnici biti koristan za cijelo čovječanstvo.
U maštovskom svemiru Asimov gotovo su svi roboti morali slijediti ove zakone. To nisu bili samo prijedlozi ili smjernice - zakoni su ugrađeni u softver. Pored toga, ta se pravila ne mogu zaobići, prepisivati ili revidirati.
Kao što je sam Asimov pokazao, nesavršenosti, rupe i nejasnoće u tim zakonima često su doveli do čudnog i nelogičnog ponašanja robota. Zakoni su bili previše nejasni i često nisu uspjeli definirati i razlikovati „ljude“od „robota“. Osim toga, roboti bi mogli nesvjesno kršiti zakone ako im ne bi bile dostupne potpune informacije. Također, pretjerano lukavi robot ili umjetna inteligencija morali su biti pod pritiskom da ne reprogramiraju njegovu jezgru.
Godina je 2014., a velik dio uobičajenog od našeg života do maštarija prošlog stoljeća mogao bi se činiti iskrenom fantazijom. Mnogi su smatrali da su Asimovi zakoni trebali ostati kao književni uređaj. Ali sam Azimov je 1981. napomenuo da njegovi zakoni mogu djelovati. Računajte! naznačio je sljedeće:
„Kad me netko pita kako bi bilo da su moja tri zakona robotike zapravo korištena za definiranje ponašanja robota, odgovor je spreman. Pod uvjetom, naravno, da su roboti dovoljno fleksibilni i svestrani da pokazuju različita ponašanja. Moj je odgovor da, tri zakona su jedini način na koji ljudi mogu komunicirati s robotima - ili bilo čim drugim.
Gotovo trideset godina kasnije približili smo se stvarnosti u kojoj ćemo imati robote - ili preciznije, umjetnu inteligenciju koja ih kontrolira - dovoljno fleksibilnu i svestranu za različite tokove ponašanja. Ostaje samo pitanje vremena: kada stroj nadmaši čovjeka u svim aspektima, od fizičke snage do snage mašte.
Zastrašujuća stvar je što praktički nema mogućnosti za pogrešku. Ako je umjetna superinteligencija loše programirana ili ravnodušna prema ljudima, to će dovesti do katastrofe. Moramo se pobrinuti da je umjetna inteligencija sigurna ako želimo preživjeti njezinu pojavu."
Odgovorite na pitanje "mogu li Azimova tri zakona pomoći?" Preuzela su ga dva teoretičara umjetne inteligencije: Ben Herzel (Aidyia Holdings) i Louis Helm, zamjenik direktora Instituta za strojnu inteligenciju (MIRI) i izvršni urednik časopisa Rockstar Research. Nakon razgovora s njima, postalo je jasno da se Asimovi zakoni općenito ne mogu nositi sa zadatkom koji im je dodijeljen, a ako trebamo stvoriti siguran AI, morat ćemo razviti nešto potpuno drugo.
Asimova budućnost?
Razgovor s Herzel i Helmom započeo je onim što Asimov nije pogriješio, predviđajući budućnost i gdje griješi.
"Mislim da će vrsta robota za koje je predviđen Asimov biti moguća u ne tako dalekoj budućnosti", odgovara Herzel. - Međutim, pisac je u većini svojih izmišljenih svjetova pretpostavio da će humanoidni roboti biti vrhunac robotike i inženjeringa umjetne inteligencije. To je malo vjerojatno. Vrlo brzo, nakon što dosegnu status Azimovih robota, postat će dostupna umjetna superinteligencija i super roboti."
Tako će tipični svijet budućnosti u Asimovim pričama o robotima, prema Herzel-u, biti sličan onome u kojem danas živimo, ali s inteligentnim robotima koji hodaju ulicama.
"Malo je vjerojatno da će se to dogoditi, a ako se dogodi, neće se dugo odgađati."
Za Helma se čini da su roboti potpuno različiti.
„Glavno pitanje, koje će, prema mom mišljenju, biti najvažnije za čovječanstvo, ostaje nije moralna regulacija gigantskog broja poluinteligentnih humanoida, već u konačnici razvoj naprednih oblika umjetne inteligencije (u bilo kojem tijelu). Ovaj razvoj superinteligencije filter je kroz koji na kraju mora proći čovječanstvo. Zbog toga je izrada sigurnosne strategije za ovaj prijelaz toliko važna. Čini mi se potpuno čudno da će roboti, androidi ili "emulacije" postojati deset godina ili malo više dok se čovječanstvo ne suoči sa stvarnim problemom razvoja etike strojeva za superinteligenciju."
Dobar početak?
Uzimajući u obzir da su tri Asimova zakona robotike bila prvi iskren pokušaj rješavanja vrlo ozbiljnog problema - problema sigurnog ponašanja strojeva s umjetnom superinteligencijom - vrijedno je potražiti one trenutke u kojima zakoni i dalje mogu biti učinkoviti (ili barem nadahnjujući).
"Da budem iskren, ne pronalazim nikakvu inspiraciju u ova tri zakona robotike", kaže Helm. - Suština etike strojeva je da oni ne zadovoljavaju osnove etike strojeva. Možda su tri zakona robotike nadaleko poznata, ali u stvarnosti ih je beskorisno koristiti kao osnovu za programiranje."
„Iz nekog je razloga sustav dobre etike - nazvan deontologija - postao nepouzdan temelj za etiku. Postoji određeni broj filozofa koji pokušavaju popraviti probleme deontologije, ali uglavnom su isti ljudi koji traže "inteligentni dizajn" i "božansku intervenciju". Nitko ih ne shvata ozbiljno."
Nedostaci Asimovih tri zakona robotike svode se na sljedeće:
Savjetodavne prirode
Na temelju zastarjele etičke teorije (deontologija)
Nemojte ni raditi na fikciji
Herzel se slaže:
„Svrha tri zakona bila je da ih prekrše na zanimljiv način; zato su njihove priče posebno zabavne. Stoga tri zakona mogu ostati samo moralni primjer kako to ne učiniti. Ako ih uzmemo kao osnovu, neizbježno će se u njima nalaziti rupe “.
Herzel vjeruje da se u stvarnosti ti zakoni neće raditi, jer su izrazi s njihovim sudjelovanjem dvosmisleni i još uvijek su predmet tumačenja - što znači da su izuzetno ovisni o onima koji čine prijevode.
Predrasuda protiv robota?
Drugi aspekt (i potencijalni nedostatak) Tri zakona u prividnom šovinizmu je pretpostavka da roboti trebaju ostati, unatoč svojoj nadmoćnoj snazi, podložni ljudskim, ljudskim potrebama i prioritetima.
„Azimovo društvo budućnosti sastoji se u potpunosti od šovinista: ljudi imaju puno više prava nego roboti. Tri zakona robotike stvorena su radi održavanja upravo takvog društvenog poretka."
Helm na ovaj problem gleda malo drugačije, tvrdeći da ćemo se, ako se nađemo u takvoj situaciji, sam po sebi pokazati da smo otišli predaleko.
„Mislim da bi bilo nerazumno osmisliti sustav umjetne inteligencije ili samosvjesnog robota. A za razliku od filmova ili knjiga u kojima tvorci umjetne inteligencije "slučajno" dolaze do inteligentnih strojeva, ne vjerujem da se to može dogoditi u stvarnom životu. Ovo će vam trebati previše truda i znanja. I većina dizajnera AI su etično pametni ljudi, pa će izbjeći stvaranje onoga što filozofi nazivaju „moralno značajnim bićima“. Pogotovo kada lako mogu stvoriti napredni stroj koji nema etičke sklonosti."
Helm nije zabrinut zbog potrebe razvijanja asimetričnih zakona kojima će se upravljati vrijednošću robota nad ljudima, tvrdeći (i nadajući se) da će se budući stvaratelji umjetne inteligencije oslanjati na neka etička ograničenja.
"Nekako mislim da su ljudi stvoreni od atoma, pa u teoriji inženjer može stvoriti sintetički oblik života ili robota s moralnim smislom. Htio bih pomisliti da to nitko neće učiniti. Mislim da i većina ljudi. Ali neizbježno će se naći budala koja želi biti poznata kao pionirka, čak i ako je neetična i glupa."
Tri zakona robotike 2.0?
S obzirom na očite nedostatke Asimovih tri zakona robotike, io9 resurs je postavio pitanje: mogu li ih ispraviti ili poboljšati? U stvari, mnogi pisci znanstvene fantastike pokušali su ovo mnogo puta, mijenjajući to tijekom godina.
"Ne", kaže Helm. "Za tri zakona nema zakrpa."
Osim kontradiktorne prirode, zakoni su i kontradiktorni.
"Zagovornik sam pristupa etičnosti strojeva koji su kooperativniji, dosljedniji i normativniji, što znači da se mogu oporaviti od nesporazuma ili ispravljati pogrešno programiranje."
Herzel odjekuje Helmove tvrdnje.
“Definiranje skupa etičkih pravila kao jezgre strojne etike bit će beznadno ako se stroj temelji na fleksibilnoj općoj umjetnoj inteligenciji. Ako je zamišljen kao intuitivan, fleksibilan, prilagodljiv ili etički - u tom će kontekstu etička pravila biti korisna sustavu samo kao gruba smjernica za primjenu vlastite etičke intuicije. Ali u ovom slučaju zapovijedi neće postati temelj etičkog sustava, već samo aspekt. To se može vidjeti na ljudskim primjerima - etički principi koje proučavamo djeluju, ali ne kao smjernice, oni samo guraju našu intuiciju i etičke nagone. Mi smo praktički neovisni o etičkim načelima."
Kako stvoriti sigurnu umjetnu inteligenciju?
S obzirom na neprimjerenost pravnog pristupa, možete pitati Gertzela i Helma o modernim pristupima problemu "sigurnog AI".
"Vrlo malo istraživača opće umjetne inteligencije vjeruje da je moguće stvoriti potpuno siguran sustav", kaže Herzel. "Ali to ne smeta većini, jer se u ovom životu uopće ne može zajamčiti ništa."
Herzel vjeruje da nakon što stvorimo opći sustav umjetne inteligencije ili njegov zametak, možemo provesti istraživanja i eksperimente koji će nam reći puno više o etici AI-a nego što znamo.
"Nadamo se da ćemo na ovaj način moći formulirati dobre teorije o etici umjetne inteligencije koje će nam omogućiti dublje ulazak u ovu temu. Ali sada je prilično teško teoretizirati o etici AI-ja, budući da nemamo samo dobre teorije, uopće nemamo teorije."
"A ljudima koji su gledali previše terminatora, proces stvaranja umjetne inteligencije može se činiti zastrašujućim, jer oni propuštaju riječ" primitivni "u ovom kontekstu. Međutim, najradikalnije promjene dogodile su se na ovaj način."
"Kad je skupina inteligentnih špiljarina izmislila jezik, nisu očekivali razvoj čvrste formalne teorije jezika koja bi mogla pomoći predvidjeti buduće promjene uzrokovane pojavom jezika u društvu."
Prije nego što razrađujete sljedeći „tri zakona“kao tehnički problem, morate napraviti puno istraživanja. I ovdje se slažu Helm i Herzel.
„Moj kolega s MIRI-ja Luc Muelhauser ovako je rezimirao naše obrazloženje. Kazao je da se problemi često kreću od filozofije do matematike, a zatim i do inženjerstva. Filozofija se često postavlja ispravna pitanja, ali na nepraktičan način. Nitko ne može sa sigurnošću reći je li došlo do napretka u rješavanju problema. Ako važne filozofske probleme razuma, identifikacije i vrijednosti možemo preformulirati u precizne formule s kojima se matematičar može nositi, tada se može izgraditi neki model. Jednog lijepog dana doći će do inženjeringa."
Helm smatra ovaj problem teškim za znanost i filozofiju, ali napredak je moguć.
„Skeptičan sam da će filozofija moći riješiti problem koji se bori već više od 3000 godina. Ali ni mi ne možemo podnijeti i početi izrađivati matematičke modele pitanja koja tehnički nisu prisutna. Još nam treba puno teoretskog, pa čak i praktičnog razvoja."
