Poznati britanski fizičar Stephen Hawking u članku nadahnutom znanstvenofantastičnim filmom "Transcendencija" u kojem glumi Johnnyja Deppa, rekao je da podcjenjivanje prijetnje umjetnom inteligencijom može biti najveća greška u ljudskoj povijesti.
U članku čiji je autor autor profesor Stuart Russell sa Kalifornijskog sveučilišta u Berkeleyu i profesori fizike Max Tegmark i Frank Wilczek s MIT-a, Hawking ukazuje na napredak u umjetnoj inteligenciji, primjećujući samostalne automobile, Sirijev glasovni asistent i superračunalo. pobjednik čovjeka u igri kviza Jeopardy TV.
„Sva ta dostignuća blijede u pozadini onoga što nas očekuje u narednim desetljećima. Uspješno stvaranje umjetne inteligencije bit će najveći događaj u ljudskoj povijesti. Nažalost, može se pokazati da je posljednji, ako ne naučimo izbjegavati rizike , citira Hawkinga britanski list The Independent.
Profesori pišu da se u budućnosti može dogoditi da nitko i ništa ne mogu zaustaviti strojeve neljudske inteligencije od samo-poboljšanja. A to će pokrenuti proces takozvane tehnološke jedinstvenosti, što znači izuzetno brz tehnološki razvoj. U filmu s Deppovim sudjelovanjem u tom se smislu koristi riječ "transcendencija".
Zamislite da takva tehnologija nadilazi ljude i pokreće financijska tržišta, znanstvena istraživanja, ljude i razvoj oružja izvan našeg razumijevanja. Ako kratkoročni učinak umjetne inteligencije ovisi o tome tko je kontrolira, tada dugoročni učinak ovisi o tome može li se uopće kontrolirati.
Teško je reći kakve posljedice umjetna inteligencija može imati na ljude. Hawking vjeruje da je malo ozbiljnih istraživanja posvećenih tim pitanjima izvan takvih neprofitnih organizacija kao što su Cambridgeov centar za istraživanje egzistencijalnog rizika, Institut za budućnost čovječanstva i istraživački instituti za strojnu inteligenciju i budući život.
Prema njegovim riječima, svatko od nas trebao bi se zapitati što sada možemo učiniti kako bismo izbjegli najgori scenarij budućnosti.