Ideja da će umjetna inteligencija neizbježno dovesti do scenarija u kojem se strojevi pobune protiv ljudi prilično je popularna. Umjetna superinteligencija čini se najvećom mogućom prijetnjom, a fantastične priče prema kojima nam neće biti potrebni u svijetu u vlasništvu tehnologije nikada nisu izgubile na popularnosti.
Je li to neizbježno?
Književni i kinematografski prikaz inteligentnih računalnih sustava iz 1960-ih pomogao je oblikovati i sažeti naša očekivanja za budućnost dok krećemo na put stvaranja strojne inteligencije koja nadilazi ljudsku inteligenciju. AI je očito već nadmašio ljude u određenim specifičnim zadacima koji zahtijevaju složeno računanje, ali još uvijek zaostaje u brojnim drugim mogućnostima. Kako istovremeno povećati snagu ovog oštrog alata i sačuvati svoj ekonomski položaj nad njim.
Kako umjetna inteligencija već igra i nastavit će igrati veliku ulogu u našoj budućnosti, neophodno je istražiti naše mogućnosti koegzistencije s ovim složenim tehnologijama.
Kevin Abosch, osnivač Kwikdeska, tvrtke za obradu podataka i umjetnu inteligenciju, podijelio je svoja razmišljanja o tome. Smatra da bi umjetna inteligencija trebala biti brza, neupadljiva, pouzdana, pismena i etična. Da, etično.
Etički okvir
Promotivni video:
Koncept umjetne neuronske mreže po uzoru na biološku neurološku mrežu nije ništa novo. Jedinice računske snage, nazvane neuroni, povezuju se jedna s drugom i tvore mrežu. Svaki neuron primjenjuje sofisticirani algoritam učenja na ulaz, prije prijenosa podataka na druge neurone, sve dok se neuron na izlazu ne aktivira i ne otvori mogućnost za čitanje. Ekspertski sustavi oslanjaju se na ljude da ih "podučavaju", sadi sjeme znanja. Logički motori traže podudaranja, donose odluke, postavljaju if-this-then-then pravila u bazu znanja. U tom se procesu u znanje dodaju nova znanja. Čista neuronska mreža koja uči u procesu stjecanja nelinearnog iskustva, nema problem s tim da znanje ponese stručnjak. Hibridne mreže su se dokazalekoji poboljšavaju mogućnosti učenja strojeva.
Pogledajmo sada etička pitanja takvih sustava. Dalje od prve osobe.
"Loš kod" nasuprot dobrom kodu
Autor koristi riječi kako bi urotio čitatelja u izmišljeni svijet, i to čini na različite načine, ali sjajni autori to čine vrlo graciozno. Softverski inženjer piše retke koda koji olakšavaju obradu i kretanje podataka. I on na različite načine može birati između više opcija, ali graciozni koderi su proizvođači informatike. Koder koji napreduje usredotočen je na to kako da što bolje i bolje kapsulirate kratkim i urednim kodom. Suvišni kod svodi se na minimum. Sjajan kod također čuva prozor otvoren za buduće dodatke. Drugi inženjeri mogu dodati kod sa svojstvenom elegancijom, a proizvod se razvija neprimjetno.
Bilo koji umjetni proizvod temelji se na namjeri. Stvari koje su napravili ljudi zasićene su namjerama i u jednoj ili drugoj su mjeri nositelji same naravi stvaratelja. Nekim je ljudima teško zamisliti neživi objekt ove prirode. Ali mnogi bi se složili s tim. Energija namjera postoji tisućama godina, ujedinjuje, dijeli, ujedinjuje, preobražava društvo. Ni snagu jezika ne treba podcjenjivati. Ne zaboravite da su kodni redovi napisani na određenom programskom jeziku. Tako sam uvjeren da je kod koji postaje softver koji se koristi na računalima ili mobilnim uređajima vrlo "živ".
Bez razmatranja mudrosti i duhovnosti u kontekstu informatike i potencijalnih posljedica umjetne inteligencije, još uvijek možemo promatrati statički kôd kao cjelinu s potencijalom "činiti dobro" ili "činiti zlo". Ti se rezultati samo nalaze u procesu upotrebe aplikacija od strane ljudi. Jasni izbori koje ljudi donose utječu na prirodu aplikacije. Može ih se promatrati u lokalnom sustavu, određujući pozitivan ili negativan utjecaj na taj sustav, ili na temelju skupa unaprijed definiranih standarda. Međutim, kao što novinar ne može biti 100% nepristran u procesu pisanja članka, tako inženjer voljno ili nesvjesno dodaje kodu prirodu svojih namjera. Neki bi mogli tvrditi da je pisanje koda logičan proces, a stvarna logika ne ostavlja prostora prirodi.
Ali siguran sam da je onog trenutka kada stvorite pravilo, blok koda ili cijeli kod, sve prožet elementom ljudske prirode. Svakim dodatnim pravilom prodor vrste se produbljuje. Što je kôd složeniji, to je više ove prirode. Otuda se postavlja pitanje: "Može li priroda koda biti dobra ili zla?"
Očito je virus koji je razvio haker koji zlonamjerno probija obranu vašeg računala i pustoši u vašem životu zasićen zlom prirodom. Ali što je s virusom stvorenim od strane dobrih ljudi da bi se infiltrirali u računala terorističke organizacije kako bi spriječili terorističke napade? Kakva je njegova priroda? Tehnički bi mogao biti identičan svom zloglasnom kolegi, samo korišten u "dobre" svrhe. Znači njegova je priroda ljubazna? Ovo je cijeli etički paradoks zlonamjernog softvera. Ali to nismo mogli zanemariti, razmišljajući o kodu "zla".
Po mom mišljenju, postoji kôd koji svojstveno gravitira „zlu“i postoji kôd koji je svojstveno pristran prema dobroj volji. To je važnije u kontekstu izvanmrežnih računala.
Na Kwikdesku razvijamo AI okvir i protokol zasnovan na hibridnom dizajnu stručnog sustava / neuronske mreže, koji najviše sliči biološkom modelu. Neuroni se manifestiraju kao I / O moduli i virtualni uređaji (u određenom smislu, autonomni agensi) povezani "aksonima", sigurnim, razdvojenim kanalima šifriranih podataka. Ti se podaci dešifriraju prilikom ulaska u neuron i nakon što se određeni procesi šifriraju prije nego što se pošalju sljedećem neuronu. Prije nego što neuroni mogu komunicirati jedni s drugima pomoću aksona, mora se odvijati razmjena ključeva između sudionika i kanala.
Smatram da u takvim mrežama treba ugraditi sigurnost i odvojenost od najniže razine. Nadgradnje odražavaju kvalitete njihovih najmanjih sastavnih dijelova, pa će sve što je manje od sigurnih građevnih blokova rezultirati nesigurnim radom cijele linije. Iz tog razloga, podaci se moraju lokalno zaštititi i dešifrirati kada se lokalno prenose.
Provedba i jamstva
Kvaliteta našeg života zajedno sa strojevima koji su sve pametniji i pametniji je zabrinjavajuće i apsolutno sam uvjeren da moramo poduzeti mjere kako bismo osigurali zdravu budućnost generacijama koje dolaze. Prijetnje pametnim strojevima potencijalno su različite, ali ih je moguće raščlaniti u sljedeće kategorije:
Rezervacija. Na radnim mjestima ljudi će biti zamijenjeni strojevima. Taj pomak traje već desetljećima i samo će se ubrzati. Potrebno je odgovarajuće obrazovanje kako bi se ljudi pripremili za budućnost u kojoj će stotine milijuna tradicionalnih poslova jednostavno prestati postojati. Komplicirano je.
Sigurnost. Mi se u potpunosti oslonimo na strojeve i nastavit ćemo se oslanjati. Dok sve više vjerujemo strojevima dok prelazimo iz sigurnog područja u potencijalno opasno područje, možda ćemo se suočiti s rizikom pogreške stroja ili zlonamjernog koda. Razmislite, primjerice, o prijevozu.
Zdravlje. Osobni dijagnostički uređaji i mrežni medicinski podaci. AI će se nastaviti razvijati u preventivnoj medicini i prenapučenoj analizi genetskih podataka. Opet, moramo biti sigurni da se ti strojevi neće uključiti u zlonamjernu subverziju ili da će nam na bilo koji način naštetiti.
Sudbina. AI predviđa sa sve većom točnošću kamo ćete krenuti i što ćete raditi. Kako se ovo područje razvija, znat će koje odluke donosimo, kamo idemo sljedeći tjedan, koje ćemo proizvode kupiti ili čak kada umremo. Želimo li da drugi imaju pristup tim podacima?
Znanje. Strojevi de facto gomilaju znanje. Ali ako znanje steknu brže nego što ga ljudi mogu testirati, kako možemo vjerovati u njegovu cjelovitost?
Zaključno želim napomenuti da je oprezan i odgovoran pristup AI za ublažavanje potencijalnih nevolja u tehnološkoj eksploziji supernove. Ili ćemo ukrotiti potencijal AI i molit ćemo ga da čovječanstvu donese samo najbolje, ili ćemo izgorjeti u njegovom potencijalu, koji će odražavati ono najgore u nama.
Ilya Khel