Istraživači s Massachusetts Institute of Technology (MIT) razvili su tehniku za trik analiziranje umjetne inteligencije (AI), izvijestio je Wired, 23. veljače.
Istraživači su primijetili da mala promjena fraze, razumljiva čovjeku, može prevariti AI. Razvili su algoritam za zamjenu riječi sinonimima i trik teksta prepoznavanja AI. Nuha je u tome što sam algoritam koji napada napada koristi AI za odabir sinonima.
Primjerice, fraza "Likovi, izbačeni u nemoguće zamišljenim situacijama, potpuno su se odvratili od stvarnosti." ("Likovi odigrani u nevjerojatno zamišljenim situacijama potpuno su u dodiru sa stvarnošću") što je negativan pregled filma.
Ako riječi u njemu zamijenimo sinonimima, tada je fraza "Likovi, izbačeni u nevjerojatno zamišljene okolnosti, u potpunosti udaljeni od stvarnosti" ("Likovi odigrani u nevjerojatno vještim okolnostima potpuno su odijeljeni od stvarnosti"), tada AI smatra recenziju pozitivnom.
Druge vrste AI sustava također se mogu prevariti; u ovom su slučaju ranjivosti uglavnom pokazane u sustavima za prepoznavanje slike i govora.
Istraživači su primijetili da takva suptilna izobličenja podataka mogu prevariti AI i biti korištena za napad na sustave, koji postaju značajni kako se AI širi u područjima financija, zdravstva i drugih.