Nova studija pokazala je da ispoljavanje predrasuda prema drugima ne zahtijeva posebnu inteligenciju i može se lako razvijati u umjetno inteligentnim strojevima.
Psiholozi i stručnjaci za informacijsku tehnologiju sa Sveučilišta u Cardiffu i MIT-a pokazali su da skupine autonomnih strojeva mogu pokazati pristranosti jednostavnim definiranjem takvog ponašanja, kopiranjem i međusobnim podučavanjem.
Može se činiti da su predrasude čisto ljudski fenomen, koji zahtijeva ljudsku inteligenciju za oblikovanje mišljenja ili stereotipa o osobi ili grupi. Iako su neke vrste računalnih algoritama već pokazale pristranosti kao što su rasizam i seksizam utemeljen na proučavanju javnih zapisa i drugih podataka koje stvara čovjek, novi rad pokazuje sposobnost AI da samostalno razvija grupe s predrasudama.
Istraživanje je objavljeno u časopisu Scientific Reports. Temelji se na računalnim simulacijama kako pristrani virtualni agenti mogu formirati grupe i međusobno komunicirati. Tijekom simulacije svaki pojedinac odlučuje hoće li pomoći nekome iz svoje skupine ili nekog drugog, ovisno o ugledu te osobe, kao i o vlastitoj strategiji, koja uključuje njihovu razinu predrasuda prema strancima. Nakon provođenja tisuća simulacija, svaki pojedinac uči nove strategije kopiranjem drugih - bilo da su članovi vlastite grupe ili čitave "populacije".
Relativna kumulativna učestalost svojstava agenata prema razini predrasuda / Roger M. Whitaker.
„Nakon što smo izveli ove simulacije tisućama i tisućama puta zaredom, počeli smo shvaćati kako se pristranost razvija i koji su uvjeti potrebni za njegovanje ili sprječavanje“, izjavio je koautor studije, profesor Roger Whitaker s Instituta za istraživanje kriminala i sigurnosti i Škole računarskih znanosti i računarskih znanosti na Sveučilištu Cardiff. „Naše simulacije pokazuju da je pristranost snažna sila prirode, a evolucijom se može potaknuti u virtualnom stanovništvu da našteti široj povezanosti s drugima. Zaštita od predrasudarskih skupina može nenamjerno dovesti do formiranja drugih skupina s predrasudama, izazivajući veću podjelu stanovništva. Takve raširene predrasude teško je poništiti."
Podaci istraživanja uključuju i pojedince koji povećavaju razinu pristranosti preferirajući kopiranje onih koji dobivaju najbolje kratkoročne rezultate, što zauzvrat znači da takve odluke ne zahtijevaju posebno posebne sposobnosti.
"Sasvim je vjerovatno da će autonomni strojevi, sposobni identificirati se s diskriminacijom i kopirati druge, u budućnosti biti podložni pojavama predrasuda koje vidimo u društvu", nastavlja profesor Whitaker. „Mnoga razvojna dostignuća koja danas vidimo uključuju autonomiju i samokontrolu, odnosno na ponašanje uređaja utječu i oni oko njih. Nedavni primjeri uključuju prijevoz i Internet stvari. Naše istraživanje pruža teoretski uvid u to gdje se simulirani agensi povremeno obraćaju drugima radi resursa."
Promotivni video:
Istraživači su također otkrili da je pod određenim uvjetima, uključujući prisutnost podijeljenih podpopulacija istog društva, pristranost teže pojačati.
„S velikim brojem potpupulacija, nepristrani grupni sindikati mogu surađivati bez da ih se iskoristi. To umanjuje i njihov manjinski status, istovremeno smanjujući njihovu podložnost uspostavljanju pristrasnosti. Međutim, to također zahtijeva okolnosti u kojima su agenti povoljniji prema interakcijama izvan svoje skupine, zaključio je profesor Whitaker.
Vladimir Guillen