U listopadu je Pekinški tehnološki institut, jedna od vodećih vojnih istraživačkih institucija u zemlji, odabrao 31 tinejdžera od više od 5000 podnositelja zahtjeva. Prema kineskim vlastima, ti će mladi razviti oružje nove generacije opremljeno umjetnom inteligencijom (AI) - to može uključivati mikroskopske robote, računalne viruse, podmornice, bespilotne letelice, tenkove.
Ovakvi planovi snažan su podsjetnik na smjer u kojem će se odvijati glavna utrka oružja. Povećanje računalne snage i poboljšanje programa s algoritmima samo-učenja stvaraju nove mogućnosti i za rat i za vladu.
Consultancy PwC procjenjuje da bi doprinos sustava koji pokreću AI globalnoj ekonomiji mogao dostići 15,7 bilijuna dolara do 2030. godine, a Kina i Sjedinjene Države vjerojatno će biti vodeći igrači. Međutim, najveća briga vlada predstavlja potencijalne vojne implikacije. S jedne strane postoji strah od zaostajanja, s druge strane strahuje da neprovjerene tehnologije mogu donijeti nove opasnosti.
Dužnosnici Pentagona zatražili su od Vijeća za inovacije u obrani, zbirke visokih dužnosnika Silicijske doline koji pružaju tehničke savjete američkoj vojsci, da razviju niz etičkih smjernica za korištenje AI u ratu. Prošlog mjeseca Francuska i Kanada najavile su stvaranje međunarodne stručne skupine koja bi raspravljala o sličnim pitanjima. Do sada su zapadne države bile mišljenja da vitalne odluke u sukobu uvijek moraju donositi ljudi, a računala i algoritmi jednostavno olakšavaju njihovu provedbu. Međutim, neke zemlje - posebno Rusija i Kina - razmatraju drugačiji put.
Prošle je godine Rusija izvijestila da je udvostručila ulaganja u AI. Ranije ovog mjeseca objavljeno je da će Moskva do sredine 2019. objaviti novi nacionalni plan strategije AI, koji ruski dužnosnici smatraju ključnim za dominiranje u kibernetskom prostoru i informacijskim operacijama. Smatra se da već navodne ruske "farme trolova" koriste automatizirane feedove društvenih medija za promicanje dezinformacija.
Stručnjaci tvrde da izgradnja naprednog AI sustava zahtijeva pravu računalnu snagu, dovoljno podataka o obuci i sposobne izvođače. Kao najmoćnije autoritarne države na svijetu, Rusija i Kina imaju slične sposobnosti i namjeravaju koristiti AI kako za održavanje vladinih položaja na svom teritoriju, tako i za poraz neprijatelja izvan njega.
Peking se već koristi masovnim automatiziranim nadzorom, uključujući softver za prepoznavanje lica, kako bi ugušio neslaganja, posebno na sjeverozapadu muslimana Uyghur. Vjerojatno će takvi sustavi postati snažniji kako tehnologija poboljšava. Kad je u pitanju nadzor komunikacija svojih građana, Kina (poput Rusije) ima mnogo manje sumnji i regulatornih mehanizama od zapadnih država.
Zapadne demokracije, a posebno Amerika, tradicionalno su bile sposobnije od diktatura u korištenju novih tehnologija. Međutim, kad je došlo do AI, napori Washingtona da premosti jaz između Silicijske doline i vojske suočili su se s brojnim izazovima. U lipnju su Googleovi zaposlenici prisilili tvrtku na odustajanje od obnove ugovora s Pentagonom. Mnogi znanstvenici nerado rade na obrambenim projektima iz straha da će na kraju stvoriti nekontrolirane robote ubojice.
Promotivni video:
Međutim, SAD i njihovi saveznici razvijaju vlastito autonomno oružje. Na primjer, Microsoft je u listopadu tiho objavio da namjerava prodati Pentagonu sve napredne AI sustave koji su potrebni za "stvaranje jake obrane". Rukovoditelji američkih zrakoplovnih snaga kažu da će njihov klasificirani budući udarni avion dugog dometa, dizajniran da zamijeni tajni bombarder B-2, moći djelovati sa ili bez posade. Zapadna vojska sve više ulaže u samovozeće kamione i druga vozila za opskrbu, nastojeći im dodijeliti više "prljavih, dosadnih i opasnih" zadataka na bojnom polju, ne riskirajući ljudske živote.
Trebalo bi upotrijebiti "rojeve" dronova, kada se brojne bespilotne letjelice kontroliraju. Kada je u pitanju borba protiv bespilotne letelice nasuprot dronovima, zapadni čelnici nemaju problema s dopuštanjem bespilotnim sustavima da donose vlastite odluke. Ali ako su ljudi uključeni u borbe, politika Ministarstva obrane SAD-a zahtijeva da ljudi donose odluke. Međutim, takva kontrola može postati i teža, pogotovo ako automatizirani neprijateljski sustavi donose odluke mnogo brže od ljudi.
Očekuje se da će se početkom 2020. godine velike kineske bespilotne podmornice koje mogu nositi oružje naći u svjetskim oceanima. Njihova meta bit će neprijateljske snage u spornim područjima kao što je Južnokinesko more. Takvi brodovi mogu prijeći velike udaljenosti, a da ih ne primijete dugo vremena. Trenutno kineski znanstvenici tvrde da će ljudi odlučiti o napadu, ali možda to nije sasvim istina. Pentagon je prošlog siječnja izvijestio da Rusija također gradi velike bespilotne nuklearne podmornice, možda sposobne nositi nuklearno oružje.
Osim toga, i Moskva i Peking favoriziraju se bespilotnim robotiziranim tenkovima, a Rusija već testira najnovija zbivanja u Siriji. Takvi sustavi mogu značajno komplicirati zapadne zapovjednike u donošenju odluka o određivanju ciljeva na bojnom polju zbog nedostatka razumijevanja jesu li ljudi u borbenoj opremi. Pogreške mogu dovesti do početka sukoba ili njegovog oštrog pogoršanja.
Navodno su za navedeni program Pekinškog tehnološkog instituta odabrani oni tinejdžeri koji su izrazili "spremnost za bitku". Ovakva prioritizacija može biti vrlo opasna s obzirom na to da je tehnologija nedovoljno testirana i destruktivna.
Natalia Golovakha