Kako računala donose čudne odluke
Umjetna inteligencija razvija se tako brzo da mnogi počinju osjećati anksioznost: ako će uskoro moći iskusiti emocije i donijeti svoje odluke. Bilo da je riječ o robotu, autonomnom vozilu ili donositelju odluka u poslovanju i znanosti: umjetna inteligencija prodire u sva područja našeg života i društva. Strojni mozgovi smatraju se logičnim, nerazumnim i nepristranim, ali praksa pokazuje da oni ne odlučuju uvijek sve otvoreno.
Umjetna inteligencija neophodna je tamo gdje je važno prepoznati uzorke u velikoj količini podataka i donositi odluke na temelju njih. Ali u budućnosti bi se sustavi umjetne inteligencije mogli koristiti i u područjima u kojima su naše dobrobit, pa čak i naš život, izravno ovisni o zaključcima - u medicini, u odabiru poslova, davanju kredita i pravdi.
Koliko objektivno i moralno ispravno donosi umjetna inteligencija odluku? Možemo li doista vjerovati strojnom mozgu za donošenje tako potencijalno važnih odluka?
Umjetna inteligencija koristi se na svim područjima
Čak se i sada adaptivni algoritmi koriste u mnogim područjima našeg svakodnevnog života. Postoje digitalni pomoćnici za razumijevanje glasovnih naredbi i pitanja. Na Internetu web botovi pomažu u održavanju i kontroliranju web stranica tako da ih je teško razlikovati od ljudi. Čak i kada se otkriju lažne vijesti i manipulacije slikama, uključeni su sustavi umjetne inteligencije.
Promotivni video:
AI sustavi također rade svoj posao u industriji, poslu, pa čak i vladi. Optimiziraju i kontroliraju proizvodne procese, reguliraju logistiku kontejnerskih luka i velikih skladišta ili vode računovodstvene evidencije. Osiguravajuće kuće i banke već imaju prve inteligentne programe za provjeru podnesenih zahtjeva ili donošenje odluka o isplatama. U Ikei, Deutsche Telekomu i mnogim drugim tvrtkama, UNICEF-u ili knjižnicama, virtualni asistenti uključeni su u službu za korisnike.
Velika količina podataka obrađenih za trening
Sve je to moguće zahvaljujući sposobnosti AI sustava da brzo analiziraju ogromne količine podataka, prepoznaju obrasce i korelacije. Na primjer, algoritam uči na bezbroj fotografija kućnih ljubimaca s podudarnim imenima. Nakon razdoblja treninga, sustav može odabrati potpuno nove fotografije željenih vrsta. Prepoznaje razlike samostalno.
Mnogi drugi AI sustavi koriste tekst kao osnovu za učenje. Oni ocjenjuju kontekst u kojem riječ stoji i proučavaju njeno semantičko značenje, kao i odnos sa sličnim riječima ili sinonimima. Ti semantički odnosi prevode programe u matematičke izraze i tako uče čak i složene semantičke kontekste.
Na primjer, zahvaljujući ovoj sposobnosti, umjetna inteligencija može, na primjer, procijeniti medicinske podatke i medicinske podatke i iz njih zaključiti karakteristike kliničkih slika. Na temelju tih rezultata, AI sustavi se već koriste kao dijagnostička pomagala, oni mogu prepoznati različite vrste raka, znakove Alzheimerove bolesti, samoubilačka stanja i opasne razine šećera kod dijabetesa.
No, koliko god zvučalo atraktivno, sve više i više AI ima veliku manu. Što dulje umjetna inteligencija prodire u gotovo sve sfere našeg društva, to su veće potencijalne posljedice njegovih odluka. Financijska ili profesionalna budućnost osobe, ili čak njezin život, ovisi o njegovoj prosudbi.
AI rješenja koja mogu koštati života
Na primjer, ako AI pogrešno dijagnosticira medicinu bez ikakvog ispitivanja, pacijent može proći krivo liječenje ili čak umrijeti. Vojska koristi autonomni sustav oružja koji donosi pogrešne odluke. Na primjer, AI ne može razlikovati prijatelja koji bježe od neprijatelja, nevinog umrlog.
AI algoritmi se već koriste na sudovima u Sjedinjenim Državama. Predviđaju vjerojatnost povratka kaznenih djela za počinitelje prekršaja na sudu. Njihova procjena često utječe na odluku suda i, prema tome, na kaznu osuđene osobe.
Ako se AI odluči na kredite
Isto tako, odluka u financijama i osiguranju može utjecati na to hoće li osoba dobiti zajam ili ne. Ovi se sustavi obično obučavaju koristeći baze podataka.
I ovdje AI traži obrasce: koji ljudi obično otplaćuju zajmove, a koji ne? On razvija svoje postupke procjene i donosi odgovarajuće odluke. To posebno znači da ljudi s pogrešnim prebivalištem ili zanimanjem neće primati zajmove, bez obzira koliko su spremni platiti, usprkos tim okolnostima.
Uz takvu raspodjelu odgovornosti s računalima, osoba će biti samo pomoćnik za izvršavanje odluka cyber mozgova. I to se već događa.
Tko je odgovoran za pogreške?
Drugi problem u razvoju AI: što su složeniji principi odlučivanja, teže je ljudima da ih razumiju. Postavlja se i pitanje tko je odgovoran za pogreške.
Slučajevi nesreća tijekom vožnje automobila na autopilotu postali su učestaliji: tko je kriv za to što neke situacije nisu spremljene u memoriji ili AI izvodi pogrešne zaključke. Ili možda donosi svoje zaključke? Takvih primjera već ima.
Botovi za igru su tijekom igre razvili svoja pravila
Za ovu studiju, istraživači su dozvolili 100 pametnih robota da međusobno komuniciraju u koncesijskoj igri. Svatko od njih mora odlučiti hoće li donirati nešto nekome iz svog tima ili nekom sudioniku u igri izvana.
Iznenađujuće, s vremenom se botovi sve više i više isključuju iz vanjskih skupina i doniraju samo članovima svog tima.
Razlog za to: pametni su roboti prilagodili svoju strategiju igre, kopiraju ponašanje drugova koji su prikupili najviše novca i bili najuspješniji. Tako su se pojavile grupe botova koji su se ponašali na isti način i dosljedno isključivali nepovezane sudionike igre. Stalno stvarajući nešto što izračunava, analizira i donosi odluke brže od njega, čovječanstvo će jednog dana izgubiti kontrolu nad svojim stvaranjem, čije postupke neće moći pratiti.
Prema znanstvenicima, to je očito: umjetnoj inteligenciji nisu potrebni umjetni podaci da bi bili pristrani, dovoljno je imati druge strojeve oko sebe. Jer čak i to može stvoriti grupni um koji je poznat iz ljudskih zajednica. Stoga, koristeći AI, ljudi bi odluku trebali prepustiti sebi.
Vasilik Svetlana