Autor je zabrinut zbog rastuće uloge roba u ratovanju. Od 1991. godine, od zaljevskog rata, pomažu generalima. I sada je stvoren "robot ubojica" - stroj koji samostalno donosi odluku o uništavanju neprijatelja, ako je to u skladu s općom politikom "kontrolnog centra".
Programer za umjetnu inteligenciju DeepMind najavio je novost - bot zvan AlphaStar, koji će igrati popularnu internetsku strategiju Starcraft-2 na grandmaster razini.
Ovo nije prvi put da je jedan bojnik tukao ljude u strateškim ratnim igrama. Godine 1981. program nazvan Eurisko, koji je razvio jedan od pionira umjetne inteligencije, Doug Lenat, osvojio je US Traveller Championship, vrlo složenu stratešku ratnu igru u kojoj igrač mora dovršiti vlastitu flotu i boriti se protiv neprijateljske flote. Eurisko je na kraju dobio titulu počasnog admirala. 1982. godine promijenjena su pravila turnira u pokušaju da se osujeti računalo. No Eurisko je pobijedio sve dvije godine zaredom. Nakon što su sponzori obećali otkazati turnir ako računalo ponovno pobijedi, Lenat se povukao.
DeepMind PR želi da vjerujete da je StarCraft "nastao konsenzusom kao sljedeći veliki izazov (u PC igrama)" i da je "izazov za AI programere već više od 15 godina."
Na posljednjem Starcraft prvenstvu podnesene su samo 4 prijave iz akademskih ili industrijskih istraživačkih laboratorija. Ostalih devet robota napisali su sami pojedinci, a ne kao dio glavnog toka istraživanja umjetne inteligencije (AI).
U stvari, broj autora (42) članka DeepMind, objavljenog 31. listopada u časopisu Nature, znatno premašuje broj ljudi koji rade na Starcraft botovima u ostatku svijeta. Ne želim zasjeniti uspjeh ove inženjerske suradnje, ali ako uložite dovoljno resursa u rješavanje problema, uspjeh je zagarantiran.
Za razliku od nedavnih pobjeda u računalnom šahu, AlphaStar nije treniran igrajući protiv sebe. To je naučio oponašajući najbolje epizode iz gotovo milijun igara koje su odigrali najbolji ljudski igrači. Prije toga, AlphaStar pretrpio je neporeciv poraz u 19 od 20 borbi, igrajući se sa stvarnim ljudima na StarCraft serveru igara. AlphaStar je igrao anonimno kako bi spriječio ljude da iskoriste slabosti koje su se mogle naći u prethodnim igrama.
Prošlog prosinca AlphaStar je pobijedio jednog od najboljih svjetskih profesionalnih igrača - Grzegorza MaNa Komincza. Ali ovo je bila verzija AlphaStara s refleksima koji su bili znatno brži od ljudskih, a također i s neograničenim vidom igrališta (za razliku od ljudskih igrača koji vide samo jedan njegov dio). To se teško može nazvati ravnopravnim igralištem.
Promotivni video:
Međutim, StarCraft ima neke značajke koje AlphaStar čine impresivan razvoj, ako ne i pravi proboj. Za razliku od šaha ili istočne igre go (strateška igra koja koristi ploču s poljem 361 - red.), Igrači StarCrafta nesavršeno razumiju stanje stvari u igri, ali broj mogućih akcija u njoj je mnogo veći. A borba sa StarCraftom događa se u stvarnom vremenu, ali zahtijeva dugoročno planiranje.
Ratovi robota
Postavlja se pitanje - hoćemo li vidjeti u budućnosti kako roboti ne samo sudjeluju u ratovima, već ih i planiraju? U stvari se i jedno i drugo već događa.
Unatoč mnogim upozorenjima istraživača umjetne inteligencije (poput mene), osnivača tvrtki za robotiku, nobelovca i crkvenih vođa, već je stvoreno potpuno autonomno oružje poznato kao "ubojica robot" i uskoro će se koristiti.
2020. Turska će na granicu sa Sirijom rasporediti dronove kamikaze. Ove će bespilotne letjelice koristiti računalni vid za prepoznavanje, praćenje i ubijanje ljudi bez ljudske intervencije.
Ovo je strašan razvoj događaja. Računala nemaju moralnu sposobnost donošenja moralno uravnotežene odluke o tome tko će živjeti, a tko umrijeti. Nedostaje im empatije ili samilosti. Roboti ubojice promijenit će samu prirodu sukoba na gore.
Što je s "robotskim generalima"? Računala su desetljećima pomagala generalima da planiraju rat. Početkom 1990-ih, tijekom operacije Pustinjska oluja tijekom Zaljevskog rata, alati umjetne inteligencije korišteni su za planiranje izgradnje na Bliskom Istoku prije sukoba. Američki general rekao mi je ubrzo nakon toga da je ušteden novac jednak zbroju svega što je prije bilo utrošeno na razvoj AI.
Generali također koriste računala za razvoj multivarijantnih vojnih strategija koje bi mogle iznenada biti potrebne. Ali sve odluke o bojnom polju ne ostavljamo u rukama jednog vojnika, stoga prebacivanje svu odgovornost s generalova mozga na računalni procesor ide predaleko.
Stroj ne može biti odgovoran za svoje odluke. Odgovorni su samo ljudi. A to je kamen temeljac međunarodnog humanitarnog prava. Međutim, generali će se sve više oslanjati na računalnu podršku u svojim odlukama da se probiju kroz ratnu maglu i bave se ogromnom količinom informacija koje dolaze s fronte.
Ako to rezultira manjim brojem civilnih žrtava, manje prijateljskom paljbom i većim poštovanjem međunarodnog humanitarnog prava, trebali bismo pozdraviti takvu računalnu pomoć. Ali konačnu odluku mora donijeti čovjek, a ne stroj.
Evo još jednog konačnog pitanja o kojem treba razmišljati. Ako tehnološke tvrtke poput Googlea zaista ne žele da se plašimo strojnog ustanka, zašto grade botove za pobjedu u virtualnim ratovima, umjesto da se fokusiraju na nešto mirnije poput mirnih elektroničkih igara? Uz dužno poštovanje ljubitelja sporta, moramo priznati da su ulozi na neratnim igrama znatno niži.
Toby Walsh profesor je umjetne inteligencije na Sveučilištu New South Wales i istraživačkoj zajednici Data61.