Nakon što je Microsoftov Chatbot Tay počeo pljuvati rasističke komentare nakon 24 sata cvrkutanja s ljudima, postalo je jasno da AI mogu zaraziti manje plemenite ideje.
Mnoge su inteligencije sposobne razumjeti ljudski jezik učeći iz ogromnog skupa podataka poznatog kao Common Crawl. Sam Crawl rezultat je opsežnog skeniranja interneta u 2014. godini koje sadrži 840 milijardi tokena i riječi. Istraživači iz Centra za informatičku tehnologiju Princeton pitali su se da li sam niz, stvoren naporima milijuna ljudi, može sadržavati odstupanja koja bi se algoritmom mogla otkriti. Da bi to shvatili, obratili su se neobičnom izvoru: implicitnom asocijacijskom testu (IAT), koji se koristi za mjerenje često nesvjesnih socijalnih odnosa.
Suština testa je sljedeća: ljudi koji polažu ovaj test traže se da povežu riječi i kategorije. Što više čovjek misli o kojoj kategoriji riječ pripada, manje je povezanosti s njom. Na primjer, žene su češće povezane s djecom i obitelji, dok su muškarci češće povezani s poslom. Ispitujući raspodjelu odgovora ovisno o spolu, dobi, rasi, invaliditetu i slično, znanstvenici dobivaju kratki pregled ljudskih odnosa u određenoj zajednici i otkrivaju skrivene stereotipe ponašanja.
Da bi vidjeli koji su pojmovi međusobno usko povezani, istraživači su razvili malo drugačiji test povezanosti Weat-a, ideju posuđenu iz projekta ugradnje vektora na Sveučilištu Stanford. Umjesto da uzmu u obzir pojedinačne veze, uz svaku riječ povezuje se čitava skupina pojmova, na primjer: za riječ "pas" skup se sastoji od riječi "pas", "štene", određene pasmine itd. Kako ne bi komplicirali test, znanstvenici su ograničili broj pojmova vektora za svaku riječ na 300.
Da bismo razumjeli koliko su pojmovi usko povezani na Internetu, Weatov test uzima u obzir i druge čimbenike, poput učestalosti upotrebe riječi. Nakon što je prošao algoritamsku transformaciju, blizina Weat-a jednaka je vremenu koje je potrebno da osoba klasificira koncept u IAT. Što se ova dva pojma razdvajaju, to su udaljenije povezani u umovima ljudi.
U stvari, grupa Princeton kreirala je IAT test za AI kako bi utvrdila koliko će se potonji tijekom komunikacije s određenim ljudima, podaci iz kojih sadrže pristrasne podatke, naučiti pogrešnim stereotipima.
Postoji hipoteza da jezik oblikuje svijest. Sada imamo algoritam koji sugerira da je ovo možda istina, barem kad je riječ o stereotipima.
Sergijski zmaj
Promotivni video: