Zamislite da bi jednog dana neko čudo od djeteta izumio tehnologiju koja omogućava ljudima ili materijalnim predmetima da prolaze kroz zidove i na Internetu objavio upute kako jeftino izraditi takav čudotvorni stroj od uobičajeno dostupnih kućanskih materijala. Kako bi se svijet promijenio?
Mnoge će industrije vjerojatno postati znatno produktivnije. Mogućnost hoda kroz zidove, umjesto da moraju koristiti vrata, olakšala bi ljudima kretanje po uredima, premještanje robe u skladišta i izvršavanje bezbrojnih svakodnevnih kućanskih poslova. Međutim, negativne posljedice mogle bi nadmašiti pozitivne. Držanje dragocjenosti pod ključem izgubilo bi svaki smisao. Svatko je lako mogao ući u skladište, ući u bankovni sef ili kuću.
Većina metoda koje koristimo za zaštitu privatnog vlasništva uključuju zidove na ovaj ili onaj način, pa bi svi oni preko noći bili beskorisni. Lopovi će djelovati nekažnjeno dok društvo ne iznađe alternativne načine za sprečavanje takvih zločina. Rezultat takvog razvoja događaja mogao bi biti ekonomski kolaps ili socijalni kaos.
Navedeno ilustrira opće načelo: tehnološke inovacije nisu uvijek korisne za društvo, barem u kratkom roku. Tehnologije su sposobne stvoriti negativne eksternalije, eksternalije. Ovaj ekonomski pojam znači štetu nanesenu trećim osobama ili stranama. Ako ove negativne eksternalije nadmašuju korisnost same tehnologije, izum zapravo svijet pogoršava, a ne poboljšava, barem na neko vrijeme.
Strojno učenje, posebno varijacija poznata kao duboko učenje, vjerojatno je najtopliji tehnološki proboj na planetu. Omogućuje računala za obavljanje mnogih zadataka koje su prije mogli raditi samo ljudi: prepoznavanje slika, vožnja automobila, trgovina dionicama i još mnogo toga. To je kod nekih stvorilo anksioznost da strojno učenje može ljude učiniti nepotrebnima i beskorisnima na radnom mjestu. I to je zapravo moguće, ali puno je ozbiljnija opasnost od strojnog učenja koje do sada nije dobivalo dovoljno pažnje. Poanta je u tome da ako su strojevi sposobni učiti, onda mogu naučiti lagati.
Ljudi danas mogu krivotvoriti slike poput fotografija, ali ovo je naporan i složen proces. A krivotvorenje glasa ili video slike općenito je izvan mogućnosti obične osobe. No, uskoro će, zahvaljujući strojnom učenju, vjerojatno biti moguće lako stvoriti vjerojatne lažne video slike nečijeg lica i stvoriti dojam da osoba govori svojim glasom. Već postoji tehnologija za sinkronizaciju pokreta usana koja čovjeku može doslovno staviti bilo koju riječ u usta. Ovo je samo vrh sante leda. Uskoro će 12-godišnjaci moći stvoriti fotorealistične i vjerodostojno lažne slike političara, velikih poduzetnika, njihove rodbine ili prijatelja u svojim spavaćim sobama u svojim spavaćim sobama, govoreći sve što mogu zamisliti.
To samo po sebi izaziva očito zlostavljanje. Političke podvale, takozvane "lažne vijesti" ili "punjenje informacija", širit će se poput požara. Naravno, prijevara će se otkriti što je prije moguće - niti jedna digitalna tehnologija ne može biti toliko dobra da druga tehnologija neće moći otkriti lažnjak. Ali to će se dogoditi tek nakon što je štetna ideja već prodrla u svijest ljudi koji u nju vjeruju. Zamislite savršeno izmišljeni lažni videozapis predsjedničkih kandidata koji viču rasne psovke ili priznaju teška kaznena djela.
Međutim, ovo je tek početak. Zamislite potencijal za manipulaciju dionicama. Pretpostavimo da je netko cirkulirao lažni video u kojem izvršni direktor Tesle Elon Musk priznaje da Teslini automobili nisu sigurni. Videozapis će se proširiti internetom, a dionice tvrtke propast će. Ubrzo nakon otkrivanja lažnog, cijena će im se oporaviti, međutim, za to vrijeme manipulatori će moći zaraditi ogroman novac igrajući kako bi smanjili dionice Tesle.
Promotivni video:
A ovo je daleko od najekstremnijeg scenarija. Zamislite takvog šaljivdžiju koji stvara realan lažni videozapis predsjednika Donalda Trumpa koji je izjavio da predstoji udar na sjevernokorejske ciljeve, a zatim postavlja taj video tamo gdje ga mogu vidjeti Sjevernokorejci. Kakve su šanse da će sjevernokorejsko vodstvo shvatiti da je to lažnica prije nego što se mora odlučiti za početak rata?
Oni koji takve ekstremne scenarije smatraju alarmantima, razumno će istaknuti da se može otkriti bilo koji lažni podatak, jer će se za njihovo otkrivanje koristiti iste tehnologije strojnog učenja kao i za stvaranje. Ali to ne znači da nismo u opasnosti da se nađemo u svijetu prepunom sveprisutnih krivotvorina. Jednom kad laži postanu dovoljno vjerodostojni da ih ljudi ne mogu sami otkriti, zauvijek ćemo izgubiti povjerenje u ono što vidimo i čujemo. Umjesto da vjerujemo vlastitim osjetilima, bit ćemo prisiljeni osloniti se na algoritme koji se koriste za otkrivanje krivotvorina i provjeru autentičnosti podataka. Tijekom evolucije naučili smo vjerovati vlastitim osjećajima,a prijenos tih funkcija na strojnu inteligenciju može biti previše drastičan za većinu ljudi.
Ovo bi mogle biti loše vijesti za gospodarstvo. Poslovne i trgovačke mreže grade se na povjerenju i komunikaciji. Ako jednog dana strojno učenje baci beskrajnu oluju iluzija i lažira u sferu javnih informacija, zidovi stvoreni evolucijom kako bi se stvarnost razlikovala od fikcije srušit će se. U ovom slučaju, razina povjerenja u društvo može brzo pasti, što se neće usporiti kako bi negativno utjecalo na globalnu dobrobit čovječanstva.
Iz tog bi razloga vlada vjerojatno trebala poduzeti neke korake kako bi osigurala da digitalno krivotvorenje bude strogo kažnjeno. Nažalost, trenutna uprava vjerojatno neće poduzeti takav korak iz ljubavi prema uskostranačkim vijestima. A vlade poput Rusije vjerojatno će biti još manje sklone suzbijanju ove prakse. U konačnici, kombinacija lošeg upravljanja i moćnih novih tehnologija predstavlja daleko veću prijetnju ljudskom društvu od samih tehnologija.
Autor Noah Smith - kolumnist vijesti Bloomberg
Igor Abramov
