Poglavlje iz knjige koju je objavio Politehnički muzej
Čovjek i robot - gdje je granica između njih i koje opasnosti donosi naša blizina? Na temelju osobnog iskustva, brojnih intervjua i podataka iz najnovijeg istraživanja, najcjenjeniji znanstvenik na tom polju, David Mindell, nudi pozadinski pogled na najinovativnije aplikacije robotike. Indicaror. Ru objavio poglavlje iz svoje knjige Ustanak strojeva otkazano! Mitovi o robotizaciji “.
Ljudski - daljinski - autonomni
Duboko u noć, visoko iznad Atlantskog oceana, na ogromnom otvorenom prostoru između Brazila i Afrike, letjeti putnički avion bio je uhvaćen u lošem vremenu. Zamrznuti led začepio je male cijevi u nosu zrakoplova, što je utvrdilo njegovu brzinu i prenijelo podatke računalima koji upravljaju letjelicom. Računala su mogla nastaviti leteti bez tih podataka, ali program ugrađen u njih nije omogućio takvo usklađivanje. Automatski sustav "fly-by-wire" odustao je i isključio se, prenoseći kontrolu na ljude - pilote koji sjede u pilotskoj kabini zrakoplova: Pierre-Cedric Bonin, 32, i David Robert, 37. Bonin i Robert, opušteni i pomalo umorni, iznenađeni su kad su iznenada otkrili da će morati ručno letjeti ogromnim avionom na velikoj nadmorskoj visini, čak i noću. A u povoljnijim uvjetima bio bi težak zadatak s kojim se piloti u posljednje vrijeme ne suočavaju. Zapovjednik posade, 58-godišnji Marc Dubois, u tom trenutku nije upravljao avionom, već se odmarao u kabini. Piloti su morali potrošiti dragocjeno vrijeme da ga pozovu u pilotsku kabinu. Unatoč činjenici da su u trenutku kad su računala bila isključena, zrakoplov bio u ravni ravno vodoravnom letu, piloti su imali teško razumijevanje oštrih parametara zraka. Jedan je povukao upravljačku ručicu prema sebi, drugi je gurnuo prema naprijed. Letalica je nastavila let ravno u ravnini oko minutu, a zatim je počela padati. Piloti su morali potrošiti dragocjeno vrijeme da ga pozovu u pilotsku kabinu. Unatoč činjenici da su u trenutku kad su računala bila isključena, zrakoplov bio u ravni ravno vodoravnom letu, piloti su imali teško razumijevanje oštrih parametara zraka. Jedan je povukao upravljačku ručicu prema sebi, drugi je gurnuo prema naprijed. Letalica je nastavila let ravno u ravnini oko minutu, a zatim je počela padati. Piloti su morali potrošiti dragocjeno vrijeme da ga pozovu u pilotsku kabinu. Unatoč činjenici da u trenutku kad su računala bila isključena, zrakoplov je bio u ravni ravnomjernom letu, pilotima nije bilo lako shvatiti blage parametre zraka. Jedan je povukao upravljačku ručicu prema sebi, drugi je gurnuo prema naprijed. Letalica je nastavila let ravno u ravnini oko minutu, a zatim je počela padati.a onda je počeo padati.a onda je počeo padati.
Dana 1. lipnja 2009. godine, Air France Flight 447 zavio se u ocean, ubivši više od 200 putnika i posade. Nestao je u valovima gotovo bez traga. U međunarodno povezanom sustavu međunarodnih zrakoplovnih tvrtki nezamislivo je da bi avion jednostavno nestao. Organiziran je opsežni koordinirani rad u potrazi. Samo nekoliko dana kasnije, na oceanskom dnu pronađeni su tragovi aviona. Ipak, da bi se pronašao najveći dio olupina aviona i crnih kutija, zahvaljujući kojima bi bilo moguće utvrditi uzrok tragedije, bilo je potrebno izvršiti pretrage na golemom teritoriju dna oceana, koji su se kretali beznadno polako. Više od dvije godine kasnije, na dubini od 3,2 km, gotovo na samom mjestu gdje se avion srušio na površinu oceana,autonomno podvodno vozilo zvano Remus 6000 tiho je klizilo kroz mrak pod monstruoznim pritiskom vodenog stupa. Pomičući se malo brže od pješaka, robot u obliku torpeda zadržao je konstantnu visinu od oko 60 m iznad dna. U tom je položaju njegov zvučni skener dobio najjasnije slike. Akustični signal putovao je oko 800 m u svim smjerovima, robot je putem povratnih signala skupljao gigabajte podataka.robot je putem povratnih signala skupljao gigabajte informacija.robot je putem povratnih signala skupljao gigabajte informacija.
Površina je bila planinska, pa se oceansko dno naglo podiglo. Unatoč svojoj umjetnoj inteligenciji, robot povremeno udara po površini, najčešće bez ikakvih posljedica. Tri su ta robota skladno radila u tandemu: dok su dvojica pretraživala pod vodom, treći je bio na brodu na površini. Takvo "pit stop" trajalo je tri sata, tijekom kojih su ljudi koji poslužuju robota prepisivali informacije, napunjivali baterije i postavljali nove planove pretraživanja. Na brodu je tim od dvanaest inženjera iz Instituta za oceanografska istraživanja Woods Hole, na čelu s Mikeom Purcelom, koji je začetnik dizajna i razvoja vozila za pretragu, radio dvanaest sati. Opterećeni su poput bilo kojeg mehaničkog tima Formule 1.
Kad se uređaj podigao na površinu, inženjerima je trebalo oko 45 minuta da preuzmu podatke koje su sakupili u računalo, a zatim još pola sata kako bi ih mogli brzo pregledati na monitoru. Francuski i njemački istražitelji i predstavnici Air Francea zavirili su preko ramena. Njihove akcije izgledale su proračunato i razborito, ali napetost je visjela u zraku: ulozi su bili previsoki i u smislu nacionalnog ponosa Francuza, i u smislu ugleda proizvođača zrakoplova Airbus, kao i u pogledu sigurnosti svih zračnih putovanja.
Promotivni video:
Nekoliko prethodnih ekspedicija bilo je neuspješno. U Francuskoj, Brazilu i širom svijeta obitelji žrtava čekale su vijesti. Dešifriranje podataka s akustičkog skenera zahtijeva pažljivu analizu koja se ne može u potpunosti vjerovati računalu. Purcell i njegovi inženjeri oslanjali su se na godine akumuliranog iskustva. Na svojim su monitorima proučavali kamenit donji kilometar za kilometrom. Ovaj je rutinski posao trajao pet dana, sve dok njegova monotonija nije bila prekinuta: na ekranu se pojavilo nakupljanje krhotina, a zatim su znanstvenici stigli do područja katastrofe - primili su snažan signal od umjetnih predmeta u oceanskoj pustinji. Barem su tako pretpostavili, ali još uvijek ne mogu sa sigurnošću reći. Inženjeri su reprogramirali vozila tako da su se vratili u područje katastrofe i kretali se naprijed-nazad kroz njega. Ovoga puta roboti su se morali približiti dovoljno da bi kamere mogle fotografirati na visini od oko 9 m iznad dna pri svjetlu bočnih svjetala. Kad su vozila iznijela slike na površinu, inženjeri i istražitelji vidjeli su područje katastrofe i dobili odgovor: pronašli su olupinu aviona koji je postao grob stotinama ljudi. Ubrzo se na mjesto tragedije vratio drugi tim s drugačijom vrstom robota - podvodnim vozilom na daljinsko upravljanje. Ubrzo se na mjesto tragedije vratio drugi tim s drugačijom vrstom robota - podvodnim vozilom na daljinsko upravljanje. Ubrzo se na mjesto tragedije vratio drugi tim s drugačijom vrstom robota - podvodnim vozilom na daljinsko upravljanje.
Bio je to teški uređaj posebno dizajniran za dubinski rad. Bila je povezana s brodom pomoću kabla. Koristeći karte generirane uspješnom pretragom, ROV je pronašao crne kutije - diktafon i diktafon zrakoplova - i podigao ih na površinu. Zapisi o posljednjim minutama osuđenih pilota dohvaćeni su iz dubina oceana i sada su istražitelji uspjeli ponovno stvoriti sudbonosne okolnosti koje su dovele do zbrke na robotskom avionu. Tada se podvodno vozilo upustilo u tužnu misiju - dohvatiti ostatke mrtvih.
Sudar leta Air France 447 i operacija pronalaska njegovih olupina povezuju suvremenu automatizaciju i robotiku u dva ekstremna okruženja: na rubu stratosfere i u morskim dubinama. Zrakoplov je pao u ocean zbog pogrešaka u ljudskoj interakciji s automatiziranim sustavima. Tada su njegove fragmente otkrili ljudi pomoću daljinski upravljanih i autonomnih robota.
Iako riječi „automatizirani“i „autonomni“(u svom najčešćem značenju) podrazumijevaju da takvi sustavi djeluju neovisno, u oba slučaja neuspjeh ili uspjeh nisu nastali zbog djelovanja strojeva i ljudi odvojeno, već zbog kombiniranog djelovanja strojeva. i ljudi. Ljudski su se piloti borili za život zrakoplova koji je automatiziran za veću sigurnost i pouzdanost; mnogi međusobno povezani brodovi, sateliti i plutajuće plutače pomogli su pronaći mjesto sudara; inženjeri su obrađivali informacije primljene od robota i djelovali na njih.
Automatizirana i autonomna vozila neprestano su se vraćala svojim tvorcima - ljudima - radi informacija, energije i smjera. Tragedija Air France Flight 447 jasno je dala do znanja da se, neprestano prilagođavajući i mijenjajući naše okruženje, prepravljamo. Kako su piloti mogli toliko postati ovisni o računalima da su u more spustili savršeno radni avion? Kakva je uloga ljudi u područjima kao što su prijevoz i prijevoz, istraživanje i vojne aktivnosti, kada se čini da sve više i više zadataka od primarnog značaja obavljaju strojevi? Ekstremno gledište je da su ljudi blizu "izlaska iz upotrebe", da je robotima "doslovno potrebno jedno ažuriranje softvera" kako bi postali potpuno autonomni, kao što je Scienti Americanc American napisao nedavno. Ovaj nam pogled govorida roboti napreduju - sve ih češće susrećemo u poznatom okruženju. Zabrinutost zbog nepoznatih i upitnih sposobnosti umjetne inteligencije proizlazi iz vjerovanja da smo na korak od "superinteligencije". Naš se svijet nalazi na ivici promjena, u stvari se već mijenja pod utjecajem robota i automatizacije.
Odjednom se pojavljuju novi projekti koji utjelovljuju stare snove o pametnim strojevima koji nam pomažu da ispunimo svoje profesionalne zadatke, olakšavaju fizički rad i rutinske zadatke u svakodnevnom životu. Roboti koji postoje i djeluju u neposrednoj blizini ljudi na fizičkoj, kognitivnoj i emocionalnoj razini postaju sve opsežnija i obećavajuća tema istraživanja. Autonomija - san da će se roboti jednog dana ponašati kao potpuno neovisni entiteti - ostaje izvor inspiracije, inovacije i straha. Uzbuđenje je uzrokovano ozbiljnošću eksperimenta; precizni oblici ovih tehnologija daleko su od cjelovitih, a još manje izvjesni su njihovi socijalni, psihološki i kognitivni implici.
Kako će nas mijenjati naši roboti? Na kojoj slici i liku ćemo ih napraviti? Što će ostati od naših tradicionalnih područja aktivnosti - znanstvenika, pravnika, liječnika, vojnika, upravitelja, pa čak i vozača i domar - kad će ove zadatke obavljati strojevi? Kako ćemo živjeti i raditi? Ne trebamo nagađati: najvećim dijelom ta je budućnost već stigla danas, ako ne u svakodnevnom životu, onda u ekstremnim uvjetima, gdje već desetljećima koristimo robote i automatizaciju. Čovjek ne može sam postojati u gornjim slojevima atmosfere, u dubinama oceana, u svemiru. Zbog potrebe slanja ljudi u ova opasna stanja stvorena je i primijenjena robotika i automatizacija na tim područjima ranije nego u ostalim područjima aktivnosti koja su nam poznatija.
U ekstremnim okruženjima odnos između ljudi i roba testira se na snagu. U takvom se okruženju pojavljuju najinovativniji događaji. Ovdje inženjeri imaju najširu slobodu eksperimentiranja. Unatoč fizičkoj izolaciji, ovdje su se prvi počeli pojavljivati kognitivni i društveni učinci različitih uređaja. S obzirom na ljudske živote, skupu opremu i kritične misije, autonomija mora uvijek biti ograničena razmatranjima sigurnosti i pouzdanosti. U takvim se uvjetima taština i svakodnevni život privremeno povlače u pozadinu, a mi nalazimo, izoliramo od okolne tame fragmentarne, sablasne alegorije ljudskog života u svijetu tehnologije. Društveni i tehnološki procesi u pilotskoj kabini aviona ili u vozilu dubokog mora nisu se bitno razlikovali od sličnih procesa u tvornici, uredu ili automobilu. Ali u ekstremnim se uvjetima pojavljuju eksplicitnije i stoga ih je lakše razumjeti.
Svaki let aviona je priča, baš kao i svaka oceanografska ekspedicija, svemirski let ili vojna operacija. Kroz ove priče o određenim ljudima i strojevima možemo objediniti podatke o suptilnoj dinamici. U ekstremnim uvjetima dobivamo predstavu o našoj bliskoj budućnosti kada se takve tehnologije mogu primijeniti na područjima ljudske djelatnosti kao što su cestovni prijevoz, zdravstvena zaštita, obrazovanje itd. Uređaji kojima osoba upravlja na daljinu ili autonomno otvaraju kvalitativno nove mogućnosti interakcije ljudi i strojeva, novi oblici prisutnosti i nova iskustva, istodobno skrećući našu pažnju na opasnosti, etičke aspekte i nepoželjne posljedice življenja oko pametnih strojeva. Vidimo budućnost u kojoj će ljudska prisutnost i znanje postati važniji,nego ikad, ali na neki način neobičan i nepoznat. A ovi automobili su jednostavno divni.
Nisam jedina osoba koja se cijelog života divila zrakoplovima, svemirskim i podmornicama. Zapravo, junaci priča koje ću ispričati u nastavku vodili su se ne samo u potrazi za praktičnim blagodatima - već su bili pokretani i strašću za novim tehnologijama. Nije slučajno što su takve priče često opisane u radovima znanstvene fantastike o ljudima i strojevima. Priče o ljudima i strojevima koji međusobno djeluju na granici svojih mogućnosti privlače, iznenađuju i budi nade za to tko možemo postati. Taj se entuzijazam ponekad ogleda u naivnom vjerovanju u perspektivu tehnologije. Ali postepeno nas takav interes dovodi do glavnih filozofskih i humanističkih pitanja:tko smo mi? Kako smo povezani s našim radom i jedni s drugima? Kako naše kreacije proširuju naše iskustvo? Kako možemo živjeti u ovom promjenjivom svijetu? Ova se pitanja postavljaju samostalno kada započnete razgovarati s ljudima koji stvaraju i upravljaju robotima i strojevima. Želim s vama podijeliti informacije koje sam dobio iz prve ruke, iz najcrnjijih intervjua i rezultata najnovijih istraživanja Massachusetts Institute of Technology i drugih organizacija, u okviru kojih se testovi robotike i automatizacije provode u ekstremnim uvjetima morskih dubina, tijekom zračnih letova (civilnih i vojnih) i u svemiru. Ovo nije imaginarna budućnost, već ono što se događa danas: vidjet ćemo kako ljudi kontroliraju robote i primaju informacije putem autonomnih uređaja, analizirat ćemo kako te interakcije utječu na njihov rad,životno iskustvo, vještine i sposobnosti.
Naša priča počinje tamo gdje sam i ja započeo - u dubinama oceana. Prije dvadeset i pet godina, kada sam bio inženjer koji je razvijao ugrađena računala i alate za robote na dubokom moru, zadivljeno sam otkrio da ova tehnika na nepredvidive načine mijenja oceanografiju, znanstvene metode, pa čak i samu prirodu profesije oceanografa. To me razumijevanje dovelo do dviju paralelnih karijera. Kao znanstvenik, proučavao sam interakcije između ljudi i strojeva, od oklopnih brodova tijekom američkog građanskog rata, do računala i softvera koji su pomogli astronomima Apolona da slete na Mjesec.
Kao inženjer integriram podatke dobivene ovim istraživanjem u moderne projekte - razvijajući robote i uređaje za upotrebu u uskoj interakciji s ljudima. U nekim pričama figuriram kao sudionik, u drugima kao promatrač, a u drugima u oba ova obličja. Tijekom godina gomilanja iskustva, pretraživanja i razgovora s ljudima, uvjerio sam se da moramo promijeniti mišljenje o robotima. Čak je i jezik na kojem govorimo o njima preuzet iz znanstvene fantastike 20. stoljeća i nema nikakve veze s tehničkim dostignućima našeg vremena. Na primjer, daljinski upravljani zrakoplovi nazivaju se dronovi, kao da su bezumni automati, kada ih zapravo strogo kontroliraju ljudi.
Roboti se često predstavljaju (i prodaju) kao potpuno autonomni posrednici, ali čak i današnja ograničena autonomija često postoji samo u ljudskoj mašti. Roboti koje toliko široko i raznovrsno koristimo teško su prijetnja automati - oni su ugrađeni u društvene i tehničke mreže baš kao i mi. U nastavku ćemo pogledati mnogo primjera kako radimo zajedno sa svojim strojevima. Sve je u kombinacijama. Vrijeme je da razmotrimo koje funkcije moderni roboti zapravo rade kako bismo bolje razumjeli naš odnos s tim često zadivljujućim vještim kreacijama ljudskih ruku. Nudim vam empirijski zaključak utemeljen na istraživanju: bez obzira što roboti rade u stvarnosti, gdje su u pitanju ljudski životi i stvarni resursi,nastojimo ograničiti njihovu autonomiju na veliki broj potrebnih odobrenja i mogućnosti ljudske intervencije.
Ne tvrdim da su strojevi pametni i ne kažem da jednog dana možda nisu dovoljno pametni. Umjesto toga, tvrdim da takvi strojevi nisu izolirani od ljudi. Nabrojimo tri mita iz 20. stoljeća koji se odnose na robotiku i automatizaciju. Prvi mit je linearni napredak - ideja da će se tehnologija prebaciti s izravne ljudske kontrole na daljinsko upravljanje, a potom i na potpuno autonomne robote. Riječi filozofa Petera Singera, koji neprestano govori u obrani autonomnih sustava, otkriva suštinu ovog mita. On piše da "sposobnost ljudi da održavaju kontrolu nad onim što se događa poništava i one na čelu i izravno tehnologiju, te će ljudi uskoro biti isključeni iz kontrolne petlje". Ali nema razloga za pretpostavkuda će evolucija slijediti taj put, da će "sama tehnologija", kako piše Singer, dovesti do nečeg sličnog. U stvari, postoje dokazi da ljudi postupno dolaze u dublji kontakt sa svojim strojevima.
Neprestano nalazimo kako se ljudi, koji ih daljinski upravljaju i autonomna vozila razvijaju paralelno, utječući jedni na druge. Na primjer, bespilotne letjelice ne bi mogle letjeti u američkom nacionalnom zračnom prostoru bez odgovarajućih izmjena na upravljanim vozilima. Ili da uzmemo još jedan primjer: novi napredak robotike u području održavanja svemirskih letjelica ogleda se u radu astronauta s Hubble svemirskim teleskopom. Najnaprednije (i složene) tehnologije nisu one koje djeluju odvojeno od ljudi, već one koje su najdublje ugrađene u društveni sustav i brže reagiraju na ono što se u njemu događa. Drugi je mit o zamjeni, ideja da će strojevi postupno početi preuzimati sve zadatke koje ljudi obavljaju. Ovaj je mit verzija dvadesetog stoljeća onoga što ja nazivam fenomenom Željezni Konj.
U početku su ljudi zamišljali da će željeznica negirati potrebu za konjima, ali vlakovi su se pokazali kao vrlo nevažni konji. Željeznice su zauzele svoje mjesto kada su ljudi naučili raditi potpuno nove stvari uz njihovu pomoć. Istraživači ljudskih faktora i kognitivni znanstvenici tvrde da automati rijetko samo "mehaniziraju" ljudske zadatke. Umjesto toga, oni obično otežavaju zadatak, često povećavanjem radnog opterećenja (ili preraspodjelom). Daljinski upravljani zrakoplovi ne obavljaju iste zadatke kao i zrakoplovi s posadom; preuzimaju nove funkcije. Daljinski upravljani roboti na Marsu ne ponavljaju rad geologa na terenu;oni i ljudi koji rade s njima nauče provoditi terenska istraživanja u novom okruženju pomoću daljinskih mehanizama.
Konačno imamo treći mit - mit o potpunoj autonomiji, utopijska ideja da roboti mogu djelovati potpuno neovisno danas ili u budućnosti. Da, automati, naravno, mogu preuzeti neke od zadataka koje su ranije obavljali ljudi, a oni su doista sposobni samostalno djelovati ograničeno vrijeme kao odgovor na promjene u okolini. Ali strojevi koji ne ovise o ljudskom smjeru beskorisni su strojevi. Samo kamen može biti uistinu samostalan (ali čak je i kamen stvoren i postavljen na svoje mjesto zahvaljujući svojoj okolini). Automatizacija mijenja stupanj čovjekove uključenosti u rad stroja, ali ne uklanja potrebu za njim u potpunosti. U bilo kojem sustavu, čak i naoko autonomni sustav, uvijek možemo pronaći sučelje zahvaljujući kojem osoba može kontrolirati svoj rad,pročitajte informacije i zahvaljujući kojima postaju korisni. Citiram jedno od najnovijih izvješća sa Savjeta za znanost Ministarstva obrane SAD-a, "Ne postoje potpuno autonomni sustavi, isto kao što nema ni potpuno autonomnih vojnika, mornara, zrakoplova ili marinaca."
Da bismo razmislili u terminima 21. stoljeća i promijenili svoje poglede na robotiku, automatizaciju, a posebno noviju ideju autonomije, moramo razumjeti kako ljudske namjere, planovi i pretpostavke mijenjaju bit stroja koji stvaraju. Svaki operater, upravljajući svojim strojem, surađuje s dizajnerima i programerima čija je prisutnost u stroju nepromjenjiva - čak i u obliku strukturnih elemenata ili redaka koda stvorenih prije mnogo godina. Brodska računala Air France Flight 447 mogla su nastaviti letjeti avionom čak i uz ograničene podatke o brzini zraka, ali ljudi su ih programirali tako da nisu mogli. Čak i ako softver poduzima radnje koje se ne mogu predvidjeti, ponaša se u okviru shema i ograničenja koje su postavili njegovi tvorci. Da,kako je sustav razvijen, od koga i u koje svrhe, određuje njegove mogućnosti i načine interakcije s ljudima koji ga koriste. Moj je cilj maknuti se od tih mitova i shvatiti koncept autonomije u kontekstu 21. stoljeća.
Kroz priče koje slijede u nastavku, namjeravam preoblikovati javni diskurs i stvoriti konceptnu mapu za novu eru. Da bih stvorio takvu kartu govoreći o uređajima i robotima u ovoj knjizi, operirat ću s konceptima koji su kontrolirani od strane ljudi, udaljeni i autonomni. Prvi je analogni ne uvijek prikladnoj riječi "posade", pa će u nekim slučajevima "kontrolirati" značiti "kontrolirana osoba u vozilu". To su, naravno, stare i poznate vrste uređaja poput brodova, aviona, vlakova i automobila - strojevi kroz koje ljudi putuju. Obično se sustavi kojima upravlja čovjek uopće ne smatraju robotima, iako sve više nalikuju robotima s ljudima iznutra. Daljinski, skraćeni oblik vozila na daljinsko upravljanje, jednostavno označava gdje je operator u odnosu na vozilo. Čak i kada se kognitivni zadatak upravljanja udaljenim sustavom gotovo potpuno podudara s onim koji izravno obavlja fizički prisutan operator, prisutnost ili odsutnost operatora i pridruženi rizici dobivaju veliki kulturni značaj.
Najupečatljiviji primjer je ratovanje na daljinu tisućama kilometara od ratnog područja. Ovo je iskustvo potpuno različito od zadataka običnog vojnika. Kao kognitivna pojava, ljudska prisutnost isprepletena je s socijalnim aspektom. Automatizacija je također ideja dvadesetog stoljeća i još uvijek odražava mehanički pogled da strojevi slijede unaprijed određene postupke korak po korak. Izraz "automatizirani" obično se koristi za opisivanje računala u avionu, iako oni uključuju moderne, prilično složene algoritme. Autonomija je danas modernija riječ i jedan od glavnih istraživačkih prioriteta neprestanog smanjenja američkog Ministarstva obrane. Neki istraživači jasno razlikuju autonomiju i automatizaciju, ali, po mom mišljenju,razlika između autonomije leži samo u širem stupnju neovisnog odlučivanja nego u jednostavnim povratnim informacijama; osim toga, koncept "autonomije" obuhvaća i objedinjuje mnoge ideje posuđene iz teorije umjetne inteligencije i drugih disciplina. I, naravno, ideja autonomije pojedinaca i skupina postaje uzrok stalnih kontroverzi u politici, filozofiji, medicini i sociologiji. To ne bi trebalo biti iznenađenje, jer tehničari često opisuju svoje društvene znanosti kako bi opisali svoje strojeve.ideja autonomije pojedinaca i skupina postaje uzrok stalnih kontroverzi u politici, filozofiji, medicini i sociologiji. Ovo ne bi trebalo biti iznenađenje, jer tehničari često opisuju svoje društvene znanosti kako bi opisali svoje strojeve.ideja autonomije pojedinaca i skupina postaje uzrok stalnih kontroverzi u politici, filozofiji, medicini i sociologiji. Ovo ne bi trebalo biti iznenađenje, jer tehničari često opisuju svoje društvene znanosti kako bi opisali svoje strojeve.
Čak iu dizajnerskom poslu pojam "autonomija" može imati nekoliko različitih značenja. Autonomija u dizajniranju svemirskih letjelica sastoji se u krovu obrade podataka koji su potrebni za rad svemira (bilo da se radi o automatiziranoj stanici u orbiti ili mobilnom robotu), odvojeno od zadataka poput planiranja misije. Na Tehnološkom institutu u Massachusettsu, gdje predajem, sadržaj kolegija inženjering autonomije uglavnom pokriva „planiranje staza“- kako doći od jedne točke do druge, potrošiti adekvatno vrijeme i bez padanja u bilo što. U drugim je sustavima autonomija analogna inteligenciji, sposobnost donošenja odluka koje bi osoba donijela u određenim situacijama ili sposobnost djelovanja u uvjetimakoje tvorci uređaja nisu očekivali ili predvidjeli.
Autonomna podmornica nazivaju se zato što djeluju samostalno i suprotstavljaju se daljinski upravljanim vozilima koja su dugačkim kablovima povezana s plovilom. Unatoč tome, inženjeri koji stvaraju takve autonomne podmornice kažu da su njihovi uređaji poluautonomni, budući da samo u rijetkim slučajevima rade bez ikakvog kontakta s operaterom. Izraz "autonomna" podrazumijeva veću slobodu djelovanja. Opisuje način rada aparata, što je potencijalno isparljiv faktor. U nedavnoj studiji predlaže se izraz "povećava autonomija": na ovaj način autori naglašavaju relativnu prirodu autonomije i navode da će "potpuna" autonomija, odnosno strojevi koji ne trebaju primati informacije od osobe, uvijek biti nedostupna.
U ovoj će knjizi radna definicija autonomije biti: ljudski razvio način pretvaranja informacija iz okoliša u ciljane planove i akcije. Riječ je bitna i daje kontroverzi drugačiji okus. Ali ne bismo se trebali zadržavati na njima. Često ću se pouzdati u jezik (koji ponekad može biti i netočan) koji koriste ljudi s kojima radim. Poanta ove knjige nije u definicijama, već u opisima stvarnog rada - kako ljudi koriste te sustave u stvarnom svijetu, stječući nova iskustva, istražujući ili čak ratujući i ubijajući. Što se zapravo događa? Ako obratite pažnju na živo iskustvo dizajnera i onih koji koriste robote, onda sve može postati jasno. Na primjer,riječ "drone" skriva prirođenu ljudsku prirodu robota i pripisuje njihove negativne strane apstraktnim idejama poput "tehnologije" ili "autonomije". Kada ispitujemo unutarnje djelovanje Predatorovih operatora, saznajemo da oni ne ratuju s automatskim uređajima - ljudi još uvijek izmišljaju, programiraju i upravljaju strojevima.
Duga je rasprava o etici i politikama udaljenog atentata na bespilotne letjelice s daljinskim operaterima ili tajnosti takvih uređaja koji djeluju u unutarnjem zračnom prostoru SAD-a. Ali ove rasprave imaju veze s prirodom, mjestom i vremenom ljudskih odluka, a ne s autonomnim strojevima. Posljedično, pitanje nije u uspoređivanju upravljanih i bespilotnih vozila, a ne u suprotstavljanju vozila kojima upravlja čovjek autonomnim vozilima. Glavna pitanja ove knjige su: "Gdje su ljudi?", "Tko su ti ljudi?", "Što rade?", "Kada to rade?" Gdje su ljudi? (Na brodu … u zraku … unutar automobila … ili u uredu?) Manipulacije operatora Predator slične su akcijama pilota aviona - on nadzire stanje u brodu, opaža informacije,donosi odluke i poduzima određene korake. Ali njegovo je tijelo na drugom mjestu, možda nekoliko tisuća kilometara od rezultata svog rada. Ta je razlika važna. Zadaci su različiti. Rizici su različiti, kao i ravnoteža snaga.
Ljudski um je sposoban putovati u druga mjesta, u druge zemlje, na druge planete. Znanje stečeno umom i osjetilima razlikuje se od znanja stečenog tijelom (gdje jedete, spavate, komunicirate, defecate). Odlučujemo koji od dva puta stjecanja znanja treba slijediti ovisno o konkretnoj situaciji, a to ima svoje posljedice za one koji su uključeni u proces. Tko su ovi ljudi? (Piloti … inženjeri … znanstvenici … neobučeni radnici … menadžeri?) Promijenite tehniku, a tada će se promijeniti i zadatak i suština specijalista koji radi na njoj. Zapravo ćete promijeniti cijeli kontingent ljudi sposobnih za upravljanje sustavom. Potrebne su godine studiranja i usavršavanja da bi postali pilot, a ta profesija je na vrhu kadrovske hijerarhije. Zahtijeva li daljinsko upravljanje zrakoplovom iste vještine i osobine? Iz kojih se društvenih klasa može zaposliti radna snaga?
Povećanje automatizacije komercijalnih zrakoplova odgovara širenju pilotske demografije kako u industrijaliziranim zemljama tako i širom svijeta. Je li istraživač netko tko putuje u opasnim uvjetima ili netko tko sjedi kod kuće pred računalom? Morate li uživati u životu na brodu da biste postali oceanograf? Možete li istraživati Mars dok ste u invalidskim kolicima? Koji su ti novi piloti, istraživači i znanstvenici koji rade s daljinskim pristupom? Što oni rade? (Letjeti … kontrolirati … informacije o procesu … komunicirati?) Fizički napor pretvara se u obradu vizualnih podataka, a zatim u kognitivni zadatak. Ono što je nekada zahtijevalo snagu sada zahtijeva pažnju, strpljenje i brzu reakciju. Da li pilot drži ruke izravno na upravljačkim polugama,kad leti avionom? Ili unesite ključne naredbe u autopilot ili računalo leta da biste programirali putanju leta zrakoplova? Kakva je uloga osobe u procjeni situacije? Kakva je uloga inženjera koji je programirao putno računalo, ili zrakoplovnog tehničara koji ga je postavio?
Kada to rade? (U stvarnom vremenu … s nekim kašnjenjem … unaprijed, godinama ili mjesecima prije misije?) Let običnim zrakoplovom odvija se u stvarnom vremenu: osoba odmah reagira na događaje koji se događaju i njegovi postupci imaju trenutni učinak. U scenariju svemirskog leta uređaj se može nalaziti na Marsu (ili se približava udaljenom asteroidu), u tom slučaju će trebati 20 minuta da uređaj primi naredbu, a 20 minuta da operator vidi da se nešto dogodilo. Ili možemo reći da brod slijeta "u automatskom načinu", kada u stvarnosti razumijemo da pod kontrolom programera koji su ostavljali upute nekoliko mjeseci ili godina prije slijetanja (mada ćemo možda ovdje morati prilagoditi sam koncept "kontrolirati"). Kontroliranje automatiziranog sustava može nalikovati interakciji s duhom. Ova jednostavna pitanja skreću nam pozornost na preraspodjelu i preusmjeravanje.
Novi oblici ljudske prisutnosti i aktivnosti nisu trivijalni i nisu ekvivalentni starim - kulturni identitet pilota koji riskira svoj život leteći preko bojnog polja razlikuje se od osobe koja upravlja vozilom na daljinu od zemaljske stanice. No te su promjene također neočekivane - udaljeni se operater može osjećati prisutnijim na bojnom polju nego pilot koji leti visoko iznad njega. Znanstvene informacije o mjesecu mogu biti iste ili čak potpunije kada ih prikupi daljinski upravljano vozilo, a ne osoba koja je sletjela izravno na planet. No, kulturno iskustvo lunarnog istraživanja u ovom je slučaju potpuno drugačije. Zamijenimo staromodne pojmove bogatim - animiranim slikama o tome kako ljudi zapravo stvaraju i upravljaju robotima i automatskim sustavima u stvarnom svijetu. Priče u nastavku su i znanstvene i tehničke i humanističke.
Vidjet ćemo da daljinski i autonomni strojevi koje pokreću ljudi omogućuju kretanje i preusmjeravanje ljudske prisutnosti i djelovanja u vremenu i prostoru. Suština ove knjige je sljedeća: nije bitna suprotnost čovjekovim i autonomnim sustavima, već pitanja - "Gdje su ljudi?", "Tko su ti ljudi?", "Što rade i kada?" Posljednje, najteže pitanje bit će: "Kako se mijenja percepcija čovjeka?", "I zašto je to važno?"