Službeno je započela kampanja za predsjedničke izbore u Sjedinjenim Državama, što zauzvrat znači obilje čudnih i podmukle načine na koji tehnologija iskrivljuje politiku. Jedna od najvećih prijetnji su umjetne ličnosti koje se strastveno uključuju u političke sporove. S jedne strane, tehnologija generiranja teksta koja se temelji na umjetnoj inteligenciji razvija se brže nego ikad, s druge strane chatboti na društvenim mrežama gotovo su dostigli savršenstvo. Ti računalno generirani "ljudi" uskoro će ugušiti stvarne ljudske rasprave na webu.
Softver za generiranje teksta dovoljno je dobro razvijen da može zavarati gotovo svakoga. Računalo je izvrsno za pisanje vijesti, posebno o sportu i financijama, savjetovanju klijenata na stranicama ulaganja, pisanju uvjerljivih članaka o drugim temama vijesti (iako postoje ograničenja).
Istovremeno, već postoje algoritmi koji mogu stvarati sadržaj koji se ne može razlikovati od postova običnih korisnika. Tijekom 2017. godine, FCC je održao javnu raspravu o svojim planovima za zaustavljanje neutralnosti mreže. Na ovu temu primljeno je vrtoglavih 22 milijuna komentara. Mnogi od njih - možda i polovina - bili su lažni, a napadači su koristili ukradene osobne podatke. Neki su komentari bili nepristojni, 1,3 milijuna je generirano iz istog predloška - neke su riječi promijenjene u njima kako bi poruke bile jedinstvene.
I tehnologije u ovom području aktivno se razvijaju. U svom eksperimentu, istraživač s Harvarda Max Weiss koristio je softver za generiranje teksta kako bi stvorio 1.000 komentara kao odgovor na vladinu inicijativu Medicaid. Svi su ti komentari bili jedinstveni i izgledali su kao da su ih napisali stvarni ljudi koji podržavaju određeni politički položaj. Uspjeli su prevariti administratore Medicaid.gov misleći da su to istinski strahovi stvarnih ljudi. Tijekom svog istraživanja Weiss je nakon toga otkrio da su komentari lažni i tražio da ih se ukloni. Ali druga osoba ili skupina uljeza koja slijedi ovaj put vjerojatno neće biti tako visoko moralna.
Chatboti su predstavljeni u raspravama na društvenim mrežama dugi niz godina. Prema jednoj procjeni, botovi su objavili oko petinu svih tviteraša o predsjedničkim izborima 2016. godine, a otprilike trećinu glasova za Brexit iste godine. U izvješću sa Sveučilišta Oxford prošle godine, istraživači su pronašli dokaze da se botovi koriste za širenje propagande u 50 zemalja. U pravilu, to su bili jednostavni programi bezumno ponavljajući parole: na primjer, četvrt milijuna prosaudijskih tvita "Svi vjerujemo u Mohammeda bin Salmana" nakon atentata na Jamala Khashoggija 2018. godine. Pronaći bolje robote mnogo je teže. A mjerenje učinkovitosti ovih botova je teško. Svi oni iskrivljuju javno mnijenje i vjeru u dobro argumentiranu političku raspravu. Zapravo,svi smo usred novog društvenog eksperimenta.
Tijekom godina, algoritmički su roboti razvili čitave osobnosti. Imaju lažna imena, lažne biografije i lažne fotografije, ponekad računalno generirane. Umjesto da beskonačno izgovaraju propagandu, oni objavljuju poruke samo povremeno. Istraživači mogu otkriti da su roboti, a ne ljudi na temelju obrazaca objavljivanja objava, ali bot tehnologija se stalno poboljšava, nadmašujući pokušaje praćenja. Botovi budućnosti bit će bolje prikriveni u društvene skupine ljudi, a propaganda će biti suptilno utkana u tweetove o temama vezanim za te društvene skupine.
Uskoro će Simsi kojima upravlja program moći pisati personalizirana pisma u novine, u premijere izabranim dužnosnicima, davati personalizirane komentare za procese donošenja javnih pravila i inteligentno razgovarati o političkim pitanjima na društvenim medijima. Oni će moći komentirati postove na društvenim mrežama, vijestima i sl. Stvarat će se trajni likovi koji će se činiti stvarnima čak i onima koji ih proučavaju. Moći će se predstaviti na društvenim medijima i slati personalizirane tekstove. Umnoživat će se u milijunima i svakodnevno će poslati milijarde poruka, dugih i kratkih. Zajedno, oni mogu ugušiti bilo kakvu pravu raspravu na Internetu. Ne samo na društvenim medijima, već i gdje god ima komentara.
Možda će te likove kontrolirati strani uljezi. Možda će to biti unutarnje političke skupine. Možda će to biti i sami kandidati. Najvjerojatnije će ga svi koristiti. Najvažnija lekcija izbora 2016. o dezinformacijama nije objavljivanje dezinformacija; ali dezinformiraju ljude jeftino i lako. Budući tehnološki napredak učinit će sve ovo još pristupačnijim.
Promotivni video:
Naša će budućnost biti nasilna politička rasprava u kojoj će se botovi uglavnom svađati s drugim. To nije ono što zamišljamo kad hvalimo tržište ideja ili bilo koji demokratski politički proces. Da bi demokracija ispravno funkcionirala, potrebne su dvije stvari: informiranje i zastupljenost. Umjetni likovi pogađaju obje stvari.
Rješenje problema još nije očito. Možemo pokušati regulirati upotrebu botova - predloženi kalifornijski zakon zahtijeva da se botovi identificiraju - ali to je učinkovito samo protiv zakonitih kampanja utjecaja poput oglasa. Skriveni utjecaj bit će mnogo teže detektirati. Najočitija obrana je razvoj i standardizacija boljih metoda provjere autentičnosti. Ako su društvene mreže sigurne da iza svakog računa stoji stvarna osoba, moći će ukloniti lažne osobe. Ali lažni računi se već redovito stvaraju koristeći podatke stvarnih ljudi bez njihovog znanja ili pristanka. Nemamo sustav provjere autentičnosti koji štiti privatnost i može dosegnuti milijarde korisnika.
Možemo se samo nadati da će naša sposobnost identificiranja umjetnih ličnosti dostići našu sposobnost da ih prikrijemo. Ali za sada su napadači uvijek jedan korak ispred.
Na kraju dana, sve odluke moraju biti netehničke. Moramo priznati ograničenja političke rasprave na Internetu i opet prioritet komunicirati licem u lice. Teže je automatizirati i znamo da su ljudi s kojima razgovaramo stvarni ljudi. No, za sada se ovaj kulturni pomak čini kao potpuno nerealno rješenje, a pokušaji dezinformacije rašireni su u cijelom svijetu i provode se u više od 70 zemalja. To je normalan način propagande u zemljama s autoritarnim režimima i on postaje način vođenja političke kampanje.
Umjetni likovi su budućnost propagande. I dok mogu biti neučinkoviti u dovođenju rasprave na određeni nazivnik, lako ih mogu u potpunosti ugušiti.
BRUCE SCHNEIER je znanstvena novakinja i predavačica na Harvard Kennedy School.