Znanstvenici sa Sveučilišta u Chicagu (SAD) proveli su istraživanje tijekom kojeg su pokazali kako se umjetna inteligencija može koristiti za pisanje složenih lažnih kritika. Takve se recenzije modernim metodama ne mogu razlikovati od stvarnih, a nesumnjivi ih čitatelji smatraju vrlo pouzdanima.
Recenzije restorana generirane su korištenjem ponavljajućih neuronskih mreža (tehnika dubokog učenja) koje su prethodno obučavane na tisućama recenzija iz stvarnog života dostupnih na mreži.
Prema istraživačima, generirane recenzije gotovo se nisu mogle razlikovati od stvarnih. Dakle, autori rada pokazali su da korisnici ne samo da nisu prepoznali lažne recenzije, već su ih smatrali korisnima poput stvarnih koje su napisali ljudi.
Ovo posljednje je vjerojatno najalarmantnije. Budući da to u osnovi znači da recenzije koje je napisao AI ispunjavaju svoju glavnu funkciju - oni namjerno utječu na mišljenje ljudi.
Primjećuje se da se u takvim recenzijama (pomoću softvera) rijetko nalazio plagijarizam. To je zbog činjenice da ih je AI generirao prema karakteru, umjesto da je čupao riječi iz stvarnih recenzija.
Danas postoji prilično velika podzemna industrija u kojoj ljudi pišu lažne kritike (za novac). Međutim, kako je primijetio profesor sa Sveučilišta u Chicagu Ben Y. Zhao u intervjuu za Business Insider, uvođenje AI-a može ga potkopati. Znanstvenik kaže da još ne zna za upotrebu takvih algoritama u ovoj industriji. Ali ne postoji jamstvo da netko neće smisliti nešto slično i da to neće iskoristiti za osobnu korist.
Istodobno, istraživači pišu da odgovori neuronske mreže još uvijek nisu bili idealni. Pokazalo se da algoritam koristi manji skup znakova - a to nije bilo teško vidjeti. Međutim, prema autorima rada, buduće će neuronske mreže možda biti još složenije, pa će u skladu s tim povratne informacije koje generiraju biti teže otkriti.
Zhao napominje da se ne radi samo o lažnim recenzijama restorana: takve tehnologije mogu općenito poljuljati naša uvjerenja o tome što je stvarno, a što nije.
Promotivni video:
Tekst studije možete pronaći ovdje.
