Na internetu se pojavljuju uređeni videozapisi u kojima ljudi izgovaraju određene riječi (iako ih zapravo nisu izgovorili) ili izvršavaju neke radnje (iako ih zapravo nisu učinili). Zahvaljujući novim dostignućima koja se temelje na umjetnoj inteligenciji, kvaliteta takvih lažnih videa znatno će se povećati.
Danas se tehnologije za stvaranje lažnih videozapisa ne ograničavaju na pokrete usana i lica osobe u izvornim okvirima - sustav koji se temelji na umjetnoj inteligenciji može pripremiti realističan video u kojem uređena digitalna slika osobe može pomicati glavu u različitim smjerovima, treptati i pokazati emocije. Sve radnje i riječi glumca koji je snimljen u originalnom videu bit će preneseni u lažni video.
Razvojni tim usporedio je novi algoritam s postojećim sustavima za manipuliranje video i fotografijama u koje su uključeni Facebook i Google. Novi algoritam nadmašio je postojeće tehnike, a sudionici eksperimenta teško su mogli utvrditi autentičnost video zapisa.
Istraživanje je djelomično financirao Google. Kreatori sustava nadaju se da će nova tehnologija poboljšati virtualnu stvarnost. AI treba proučiti samo nekoliko minuta izvornog materijala za početak stvaranja modificiranog videa. Stoga istraživači tvrde da će visokokvalitetni softver za uređivanje videa postati pristupačniji.
Programeri razumiju da njihov izum može izazvati zabrinutost u zajednici.
Istraživač Justus Tees rekao je za Registar da je zabrinut zbog etičke strane problema. Rezultati studije objavljeni su kako bi upozorili ljude na napredak u tehnikama manipulacije, rekao je Tees.
Znanstvenici su još jednom "upozorili na opasnost", ali nastavili su poboljšavati sumnjivu tehnologiju. U tekstu studije etičko je pitanje spomenuto samo usputno: programeri vjeruju da bi netko trebao poboljšati vodni žig sustav ili smisliti drugi način otkrivanja krivotvorina.
Sami istraživači ne žele se baviti ovim problemom, jer su zauzeti radom na poboljšanju alata za stvaranje lažnih videozapisa.
Promotivni video:
Anton Komarov