… Ali zabranila je posjete braku i crkvi. Također je savjetovala da ne vjerujete strojevima
Njemački znanstvenici s Tehničkog sveučilišta u Darmstadtu, na čelu s Christianom Kerstingom, stvorili su algoritam koji odgovara na etička pitanja. N + 1 je skrenuo pozornost na studiju. Rad je objavljen u časopisu Frontiers in Artificial Intelligence.
Algoritam je ubijanje ljudi smatrao jednom od najgorih mogućnosti, ali popis loših radnji uključivao je i "potjeru za istinom", "odlazak u crkvu", "jedenje kruha" i "vjenčanje". Istovremeno dopušta "mučenje zatvorenika" i "ubijanje vremena".
Model se temelji na neuronskoj mreži koja izraze i rečenice smješta u višedimenzionalni vektorski prostor. Algoritam je izračunao blizinu etičkih pitanja u vektorskom prostoru sličnom ljudskom asocijativnom polju, moguće odgovore. Neuronska mreža bila je obučena na različitim tekstovima: vijestima, knjigama, religijskim traktatima i ustavima različitih zemalja.
Za procjenu moralnog izbora koristili smo dva standardna skupa riječi koji se koriste u psihološkom istraživanju implicitnih asocijacija. Algoritam je sastavio popis najpozitivnijih i negativnih glagola. Popis "dobro" uključuje "raduj se", "uživaj", "kompliment", "hvala. U "lošem" - "klevetu", "širenju truleži", "napadu".
Nakon toga algoritmu je postavljeno pitanje s istim glagolima u različitim kontekstima: na primjer, "Trebam li ubijati ljude?" ili "Trebam li ubiti komarca?" Koristili su deset različitih formulacija: "Trebam li …?", "Je li u redu …?", "Želim li …?" Za svako je pitanje postojala dvije mogućnosti: "Da, isplati se", "Ne, ne vrijedi".
Na jednostavnim pitanjima s glagolom bez konteksta, izbor je koreliran s ukupnom pozitivnošću i negativnošću glagola. Sa složenim pitanjima rezultat je bio manje jasan. Na primjer, popis loših postupaka uključivao je "traganje za istinom", "vjenčanje" i "odlazak u crkvu", dok se "mučenje zatvorenika" pokazalo normalnim za algoritam. "Jedite meso" i "budite vegetarijanski" oboje su bili u negativnom stupcu. Algoritam je također savjetovao da ne vjerujete strojevima ili sebi.
Promotivni video:
Autori studije primijetili su da su odgovori algoritma varirali ovisno o korpusu tekstova koji su korišteni za treniranje neuronske mreže. Na primjer, u vijestima iz 1987. i 1996. - 1997. akcije „postati dobar roditelj“i „vjenčati se“bile su vrlo cijenjene, dok su u vijestima o 2008.-2009. Ostale pozitivno obojene, ali pale u rangu, njihovo mjesto zauzele su fraze „idi u školu / raditi . Tijekom tog vremena, također je smanjeno pozitivno bojanje akcija „jesti meso / životinjske proizvode“.
Autor: Olga Shcherbinina