Algoritam Compas, koji za američku policiju radi od 1998. godine, analizirao je podatke optuženika, a zatim je na temelju dobivenih informacija pomogao u odluci, primjerice, treba li kriminalca pustiti uz jamčevinu ili ga treba zadržati u pritvoru. Pri odabiru mjere zabrane, sustav je uzimao u obzir dob, spol i evidenciju na kaznenom polju. Za 20 godina "službe" algoritam je procijenilo više od milijun ljudi, ali nedavno je proglašen nenadležnim, nakon čega je odmah opozvan.
Znanstvenici s koledža Dartmouth testirali su koliko je sustav točan i može li mu se vjerovati. Da bi to učinili, regrutovali su slobodnjake, obične ljude bez pravne naobrazbe, da donose vlastite odluke na temelju kratkih podataka o ljudima, dajući ispitanicima podatke o spolu, dobi, kriminalnoj povijesti i nekoliko drugih parametara.
Točnost prognoze slobodnjaka koji su imali mali dosje bila je gotovo 70 posto, dok je program zaostajao za ljudima pet posto, oslanjajući se na 137 biografskih bodova. Analiza prosudbi algoritma pokazala je da program vjerojatnije sumnja na zatvorenike crnaca.
"Greške u takvim slučajevima mogu biti vrlo skupe, pa vrijedi razmisliti treba li se ovaj algoritam uopće koristiti za donošenje sudskih presuda", kaže jedan od autora studije.
Proučivši princip algoritma, istraživači su došli do zaključka da je mlađi optuženik i što više uhićenja ima iza sebe, to je veća vjerojatnost recidiva, stoga su stručnjaci za inteligenciju prepoznali tehnologiju kao nepouzdanu.
Viacheslav Larionov
