Znanstvenici i programeri prestali su razumijevati kako umjetna inteligencija donosi odluke. Taj je problem najavilo nekoliko stručnjaka na glavnoj AI konferenciji - Neuronski informacijski sustavi za obradu informacija - održanoj u Long Beachu (Kalifornija).
Stručnjaci s kojima je razgovarao Quartz kažu da trebaju djelovati prije nego što sustav postane previše složen.
"Ne želimo donijeti odluke o AI zdravo za gotovo bez razumijevanja njihove logike", kaže Jason Yosinski iz Ubera. "Da bi društvo prihvatilo modele strojnog učenja, moramo znati kako AI dolazi do određenih zaključaka."
Problem koji mnogi stručnjaci nazivaju "crnom kutijom" doista je ozbiljan. Dosadašnje iskustvo pokazalo je da AI ima tendenciju donošenja pristranih odluka i povlačenja analogija tamo gdje ne bi trebalo. Kako se danas neuronske mreže postupno infiltriraju u provođenje zakona, zdravstveni sustav, znanstvena istraživanja i algoritmi koji određuju ono što vidite na svom Facebook newsfeedu, pogreška AI može biti vrlo skupa.
Kao primjer, Kiri Wagstaff, stručnjak za AI iz laboratorija Jet Propolusion (NASA), navodi misiju na Mars. Uređaji se nalaze na 200 milijuna milja od Zemlje i koštaju stotine milijuna dolara, tako da su bilo kakve pogreške u radu AI jednostavno neprihvatljive.
Ljudi moraju znati što AI radi i zašto. U suprotnom, kako mu vjerovati da kontrolira skupu opremu?”Kaže Wagstaff.
Trenutno znanstvenik radi na algoritmu koji sortira slike snimljene različitim NASA-inim svemirskim brodovima. Budući da je broj slika u milijunima, računalo vam omogućuje da sortirate i istaknete one najzanimljivije bez trošenja ogromne količine vremena na ovaj postupak. Međutim, problem leži u činjenici da često samo AI zna zašto su neke slike koje odabere neuobičajene.
Dakle, zaključuje Wagstaff, ako postoji greška unutar ovog algoritma, jednog dana će mu možda nedostajati vrlo važne informacije.
Promotivni video:
"U osnovi, računalo vam daje sliku i kaže:" Gle, ovo je zanimljivo. " Ali ne možete uvijek razumjeti zašto je to zanimljivo: zbog boje, oblika predmeta ili njihovog položaja u prostoru - to vjerojatno ne znate”, kaže znanstvenik.
Hannah Wallach, viša istraživačica Microsofta, slaže se s zaključcima svojih kolega.
Kako strojno učenje postaje sve rasprostranjenije i ulozi se povećavaju, na te sustave više ne možemo gledati kao na crne kutije. Moramo razumjeti što se događa unutar njih i što oni rade “, rekao je istraživač.
Znanstvenici srećom pokušavaju pronaći metode za razumijevanje logike umjetne inteligencije. Tako je Google-ov istraživač Mitra Raghu predstavio izvještaj koji opisuje postupak praćenja djelovanja pojedinih "neurona" neuronske mreže. Analizirajući milijune operacija, uspjela je shvatiti koji se od umjetnih "neurona" usredotočio na zablude, i isključiti ih. To dokazuje da prevođenje rada neuronskih mreža u oblik dostupan ljudskom razumijevanju nije tako nemoguć zadatak.
Druga je mogućnost rješavanja problema redovito testiranje vještina razvijenih umjetnom inteligencijom.
„To je kao da učitelji traže od djece da prepričaju vlastitim riječima ono što su razumjeli iz učiteljevog objašnjenja“, kaže Wagstaff.
U skladu s tim, važnost razumijevanja unutrašnjosti algoritma nije samo u sprečavanju da hipotetički rover padne s Marsovske stijene; uvidjevši što je kvar, možete poboljšati postojeće sustave još bolje.
"Ako vaš sustav ne radi i ne znate zašto, vrlo je teško učiniti nešto", kaže Yosinski. "Ako znate što se dogodilo, onda se situacija uvijek može ispraviti."
Korišteni materijali s web stranice hightech.fm