Umjetna inteligencija već može predvidjeti budućnost. Policija ga koristi za izradu karte koja pokazuje kada i gdje se može dogoditi zločin. Liječnici ga koriste za predviđanje kada pacijent može imati moždani ili srčani udar. Znanstvenici čak pokušavaju dati AI maštu kako bi mogla predvidjeti neočekivane događaje.
Mnoge odluke u našem životu zahtijevaju dobra predviđanja, a agenti AI gotovo su uvijek bolji od njih. Ipak, za sve ove tehnološke pomake, još uvijek nam nedostaje povjerenja u predviđanja koja pruža umjetna inteligencija. Ljudi se nisu navikli oslanjati na AI i radije vjeruju ljudskim stručnjacima, čak i ako ti stručnjaci griješe.
Ako želimo da umjetna inteligencija koristi ljudima, moramo je naučiti vjerovati. Da bismo to učinili, moramo razumjeti zašto ljudi toliko ustraju u odbijanju vjerovanja u AI.
Vjerujte dr. Robotu
IBM-ov pokušaj da onkolozima (Watson za onkologiju) predstavi superračunalni program nije uspio. AI se obvezala pružiti visokokvalitetne preporuke za liječenje 12 karcinoma, što čini 80% svjetskih slučajeva. Do danas je više od 14 000 pacijenata dobilo preporuke temeljene na njegovim izračunima.
No, kada su se liječnici prvi put susreli s Watsonom, našli su se u prilično teškoj situaciji. S jedne strane, ako je Watson pružao smjernice liječenja koje se podudaraju s njihovim vlastitim mišljenjima, medicinska struka nije vidjela veliku vrijednost u preporukama AI. Superračunalo im je jednostavno govorilo ono što su već znali, a ove preporuke nisu promijenile stvarni tretman. To je liječnicima možda dalo mir i povjerenje u njihove vlastite odluke. Ali IBM tek treba dokazati da Watson zapravo povećava stopu preživljavanja od raka.
Promotivni video:
S druge strane, ako je Watson davao preporuke koje su u suprotnosti sa stručnim mišljenjem, liječnici su zaključili da je Watson nesposoban. A stroj nije mogao objasniti zašto bi njegovo liječenje funkcioniralo jer su algoritmi strojnog učenja bili previše složeni da bi ih ljudi mogli razumjeti. Sukladno tome, to je dovelo do još više nepovjerenja, a mnogi su liječnici jednostavno ignorirali preporuke o umjetnoj inteligenciji, oslanjajući se na vlastito iskustvo.
Kao rezultat toga, glavni medicinski partner IBM Watson, MD Anderson Cancer Center, nedavno je najavio da otkazuje program. Danska bolnica također je rekla da napušta program nakon što je otkrila da se onkolozi nisu slagali s Watsonom u dva od tri navrata.
Problem Watsonove onkologije bio je u tome što mu liječnici jednostavno nisu vjerovali. Povjerenje ljudi često ovisi o našem razumijevanju kako drugi ljudi misle i našem vlastitom iskustvu, što gradi povjerenje u njihovo mišljenje. To stvara psihološki osjećaj sigurnosti. S druge strane, AI je relativno nov i ljudima nerazumljiv. Odluke donosi na temelju sofisticiranog sustava analize kako bi identificirao potencijalne skrivene obrasce i slabe signale iz velike količine podataka.
Čak i ako se to može objasniti tehničkim izrazima, postupak donošenja AI-a obično je previše složen da bi ga većina ljudi mogla razumjeti. Interakcija s nečim što ne razumijemo može izazvati tjeskobu i stvoriti osjećaj gubitka kontrole. Mnogi ljudi jednostavno ne razumiju kako i s čime funkcionira AI, jer se to događa negdje iza zaslona, u pozadini.
Iz istog su razloga svjesniji slučajeva kada AI nije u pravu: pomislite na Googleov algoritam koji ljude u boji klasificira kao gorile; Microsoftov chatbot koji je nacisti postao za manje od jednog dana; Teslino vozilo u režimu autopilota što je rezultiralo fatalnom nesrećom. Ovi nesretni primjeri privukli su nesrazmjernu pozornost medija, ističući dnevni red da se ne možemo osloniti na tehnologiju. Strojno učenje nije 100% pouzdano, dijelom i zato što ga ljudi dizajniraju.
Raskol u društvu?
Osjećaji koje izaziva umjetna inteligencija duboko ulaze u prirodu ljudskog bića. Znanstvenici su nedavno proveli eksperiment u kojem su anketirali ljude koji su gledali filmove o umjetnoj inteligenciji (fantaziji) na temu automatizacije u svakodnevnom životu. Pokazalo se da bez obzira na to je li AI prikazan na pozitivan ili negativan način, jednostavno gledanje filmske predstave naše tehnološke budućnosti polarizira stavove sudionika. Optimisti postaju još optimističniji, a skeptici se još više zatvaraju.
To sugerira da su ljudi pristrani prema AI na temelju vlastitog obrazloženja, duboko ukorijenjene tendencije pristranosti potvrde: tendencije traženja ili tumačenja informacija na takav način da potvrđuju već postojeće koncepte. Kako se AI sve više pojavljuje u medijima, to može pridonijeti dubokim podjelama u društvu, rascjepu između onih koji koriste AI i onih koji ga odbacuju. Prevladavajuća skupina ljudi može dobiti veliku prednost ili hendikep.
Tri načina izlaska iz krize povjerenja u AI
Srećom, imamo nekoliko razmišljanja o tome kako se nositi s povjerenjem u AI. Samo iskustvo s umjetnom inteligencijom može dramatično poboljšati stavove ljudi prema ovoj tehnologiji. Također postoje dokazi da što se češće služite određenim tehnologijama (poput Interneta), to im više vjerujete.
Drugo rješenje moglo bi biti otvoriti crnu kutiju algoritama strojnog učenja i učiniti ih transparentnijima. Tvrtke poput Googlea, Airbnb-a i Twittera već objavljuju izvješća o transparentnosti o vladinim upitima i otkrivanjima. Ovakva praksa u sustavima AI pomoći će ljudima da steknu potrebno razumijevanje kako algoritmi donose odluke.
Istraživanja pokazuju da će uključivanje ljudi u donošenje odluka o umjetnoj inteligenciji također povećati povjerenje i omogućiti AI-u učenje iz ljudskog iskustva. Studija je pokazala da su se ljudi koji su dobili priliku malo modificirati algoritam osjećali zadovoljnijima rezultatima njegovog rada, najvjerojatnije zbog osjećaja superiornosti i sposobnosti utjecaja na buduće ishode.
Ne trebamo razumjeti zamršeni unutarnji rad AI sustava, ali ako ljudima pružite makar malo informacija i kontrolu nad načinom na koji se ti sustavi provode, imat će više samopouzdanja i želje za prihvaćanjem AI u njihovom svakodnevnom životu.
Ilja Khel
