Pametni telefoni, roboti i računala olakšavaju nam život, ali možda u tom slučaju nešto gubimo? Novinar iz jedne od publikacija razgovarao je s američkim piscem Nicholasom Carrom o opasnostima, pa čak i prijetnjama prekomjerne automatizacije.
Uvriježeno je mišljenje da automatizacija svega i svakoga poboljšava kvalitetu našeg života. Računala nam pomažu u postizanju vrhunskih performansi. Softverske aplikacije čine zadatke bržim i lakšim. Roboti preuzimaju naporan i naporan rad. Stalni tok inovacija iz Silicijske doline samo pojačava vjerovanje ljudi da nove tehnologije poboljšavaju život.
Međutim, postoji i drugo mišljenje. Pisac Nicholas Carr podvrgava postulate modernog digitalnog svijeta nepristranoj analizi. Njegov je esej "Da li nas Google čini glupim?", Objavljen 2008. godine u časopisu Atlantic, i dalje je kontroverzan, kao i njegova knjiga o knjizi The Shallows iz 2010. godine.
Carra vide sljedbenici teorije da će tehnologija spasiti naš svijet kao jednog od njihovih najmoćnijih protivnika. A oni koji paze na posljedice tehnološkog napretka za čovječanstvo, poštuju ga uravnoteženo.
Sada je Carra zainteresirano novo pitanje: trebamo li se bojati da nam postupno u svijetu neće biti teških zadataka? Hoće li naš život postati previše učinkovit zahvaljujući novim tehnologijama?
Prije nekog vremena novinar (T. C.) sastao se s piscem kako bi razgovarao o svojoj novoj knjizi Stakleni kavez: Automatizacija i nas i onome što ga je navelo da je napiše.
1. Debunking glavni mit o novim tehnologijama
Promotivni video:
"Nekada smo mislili da su učinkovitost i udobnost po defaultu dobra. Ovaj pristup je prilično naivan."
Tom Chatfield: Ako sam dobro razumio, u Staklenoj kavezici pokušavate razobličiti mit da je pojednostavljenje naših života tehnološkim napretkom nužno pozitivan fenomen.
Nicholas Carr: I na osobnoj i institucionalnoj razini navikli smo misliti da su učinkovitost i udobnost po defaultu dobri, a maksimiziranje ih je svakako vrijedan cilj. Čini mi se da je takav pristup tehnologiji u svim njezinim oblicima, posebno u obliku računalne automatizacije, prilično naivan. To se odnosi i na naše vlastite želje i stvarni život u modernom svijetu.
Hoće li računala ikada zamijeniti ljude?
T. Ch.: Pa ipak, većina pristaša tehnološkog napretka pridržava se utilitarističkog stajališta, prema kojem su najveće pogreške koje pravimo zbog zanemarivanja učinkovitosti i logike, a zapravo sami ne znamo što je za nas dobro. Stoga je, sa njihovog stajališta, zadatak tehnološkog napretka identificirati nedostatke ljudskog razmišljanja, a zatim stvoriti sustave koji će te nedostatke nadoknaditi. Je li ovo mišljenje pogrešno?
N. K.: S jedne strane, mnoge inovacije u razvoju računalne tehnologije i razvoju automatiziranih sustava nemaju nikakve veze sa sveobuhvatnom tvrdnjom da su ljudi vrlo nesavršeni u usporedbi s računalima. Da, računalo se može programirati za obavljanje određenih operacija u neograničeno vrijeme uz dosljednu kvalitetu. I istina je da osoba nije sposobna za to.
Ali neki idu još dalje i tvrde da su ljudi previše nesavršeni, da bi njihova uloga trebala biti što više ograničena, a računala bi trebala biti odgovorna za sve osnovne zadatke. Ovdje se ne radi samo o pokušaju kompenziranja ljudskih nedostataka - ideja je u potpunosti ukloniti ljudski faktor, uslijed čega će, tvrdi se, naš život postati mnogo bolji.
TC: Čini se da to nije najbolja ideja. Postoji li optimalna razina automatizacije?
N. K.: Po mom mišljenju, pitanje nije treba li automatizirati ovaj ili onaj složen zadatak. Pitanje je kako koristimo automatizaciju, kako točno koristimo računala kako bismo nadopunili ljudsko znanje i vještine, nadoknadili nedostatke u ljudskom razmišljanju i ponašanju, a također i da potaknemo ljude da što više iskoriste svoje vlastito iskustvo kako bi dostigli nove visine.
Prevelika pouzdanost u softver može nas pretvoriti u promatrače računala i upravljače protoka procesa. Računala mogu igrati vrlo važnu ulogu jer smo samo ljudi - možemo postati plijenom predrasuda ili propustiti važne podatke. Ali opasnost je da je previše jednostavno prenijeti sve naše funkcije na računala, što bi prema mom mišljenju bilo pogrešna odluka.
2. Trebate li približiti stvarni život scenariju videoigre?
"Mi volimo računalne igre upravo zato što ih nije lako igrati."
TC: Sa zadovoljstvom sam napomenuo da u svojoj knjizi navodite videoigre kao primjer interakcije u sustavu "čovjek-stroj", u kojoj je poenta prevladati poteškoće, a ne izbjegavati ih. Najpopularnije igre su vrsta rada koja igraču pruža zadovoljstvo. Možemo se samo žaliti da posao koji mnogi od nas moraju obavljati svaki dan zahtijeva mnogo manje vještine i donosi nam mnogo manje zadovoljstva.
N. K.: Video igre su vrlo zanimljive jer njihov koncept ide u suprotnost s općeprihvaćenim principima razvoja softvera. Svrha računalnih igara uopće nije olakšati korisnika neugodnosti. Naprotiv, oni stimuliraju igrača da uloži dodatni napor i maksimalno iskoristi mozak. Uživamo u video igrama upravo zato što nas izazivaju sa sve većim izazovima. Stalno se nalazimo u teškim situacijama - ali ne u situacijama koje izazivaju očaj. Prevladavanje svake nove razine uskraćuje samo našu vještinu.
Taj je postupak vrlo sličan načinu na koji osoba stječe životno iskustvo u stvarnom životu. Kao što znamo, osoba se za razvoj sposobnosti mora iznova i iznova suočiti s ozbiljnim preprekama i svladati ih s vremena na vrijeme, koristeći sva svoja znanja i vještine. Postupno, osoba doseže novu razinu, nakon čega se povećava poteškoća s preprekama.
Mislim da ljudi vole video igre iz istog razloga što dobivaju zadovoljstvo stjecanjem novih iskustava i svladavanjem prepreka. Rješenje teškog zadatka u kojem se stječu nova znanja, potrebna za prevladavanje novih, još složenijih poteškoća, pruža čovjeku veliko zadovoljstvo.
Jedna od glavnih briga koju izražavam u knjizi je da je naš stav prema napretku povezan sa željom da što više izbjegnemo rješavanje teških problema. Čini mi se da je ovo gledište u suprotnosti s samim pojmom zadovoljstva životom i samoostvarenjem.
3. Hoće li računala eliminirati potrebu za ljudima?
"Ljudi jednostavno ne mogu držati korak s računalima prilikom trgovanja financijskim instrumentima"
TC: Za razliku od videoigara, u stvarnom svijetu naporan rad nije nužno nagrađen. Stvarni svijet je nepošten i neuravnotežen. Možda je ovdje najviše zabrinjavajući trend da se interesi pojedinca (psihološki, osobno, pa čak i u smislu preživljavanja) sve više ne poklapaju s korporativnim i vladinim pojmovima o korisnosti. Bojite li se da će računala napokon zamijeniti ljude?
N. K.: Kad sam prikupljao građu za knjigu, jako me uplašio članak (citati iz kojeg citiram u tekstu), koji je napisao stručnjak za vojnu strategiju. Prema njegovim riječima, s obzirom na rastuću razinu korištenja računalnih tehnologija na bojnom polju, vrlo brzo osoba naprosto možda nema mjesta u vojnim stvarima. Brzina donošenja odluka toliko se povećala da ljudi jednostavno ne mogu držati korak s računalom. Neizbježno se krećemo prema potpuno automatiziranom ratu: bespilotne letjelice same će odlučivati kada će ispaliti rakete na ciljeve, a robotizirani vojnici na terenu odlučivat će kada će ispaliti.
Po mom mišljenju, ova se situacija primjećuje ne samo u vojnim poslovima, već i na mnogim drugim područjima - na primjer, u svijetu financija. Na primjer, ljudi jednostavno ne drže korak s računalom prilikom trgovanja financijskim instrumentima.
Što nas čeka? Možda nećemo samo izgubiti sposobnost kritičkog procjenjivanja vlastitih postupaka koji nas razlikuju od računala - možda ćemo takve sustave primijeniti nepromišljeno, vjerujući da je glavna stvar brzina donošenja odluka. A onda, ako smo uvjereni da smo pogriješili, ustanovit ćemo da nema povratka nazad. Vrlo često ispada da je nemoguće integrirati osobu u sustav koji je izvorno izgrađen na računalnoj tehnologiji.
TC: Također sam bio prestravljen kad sam pročitao odlomak u vašoj knjizi o automatiziranom ratovanju. Osjetio sam osjećaj da se proces koji će nas dovesti do potpuno autonomnih borbenih sustava ne može zaustaviti. Dio mog užasa potiče iz sjećanja na financijsku krizu iz 2008., koja je praktički izbrisala trilijune dolara. Bar su ljudi sada odgovorniji u svojim financijama. Ali ako se to dogodi u vojnoj sferi, neće biti uništeni dolari, već ljudski životi.
Pored toga, čini mi se da postoji misao koja se odnosi na vašu prethodnu knjigu "Prazno": današnji ljudi u biološkom smislu nisu baš različiti od naših predaka koji su živjeli stotinama godina, ali živimo u potpuno novom svijetu. posljedice određenih radnji odavno su premašile brzinu na koju smo navikli. Isto se odnosi i na nove izume - oni se, u obliku informacija i algoritama, kao i njihove posljedice, šire nevjerojatnom brzinom.
Budućnost bez ljudi?
N. K.: Poanta nije samo u tome što se nove tehnologije, posebno tehnologije u području softvera, danas mogu vrlo brzo kopirati i distribuirati. Poanta je u tome da se svi ti procesi odvijaju u natjecateljskom okruženju. Govorimo li o utrci u naoružanju ili poslovnoj konkurenciji, čim jedan od rivala stekne kratkoročnu prednost na štetu određene tehnologije, oni odmah počinju uvesti tu tehnologiju kad god je to moguće - jer nitko ne želi ostati u nepovoljnijem položaju.
Mislim da je u ovoj situaciji previše lako izgubiti iz vida činjenicu da smo u osnovi životinje. Ljudi su tisućama godina prošli evolucijski put radi mogućnosti da žive i opstanu. Uloga čovječanstva, kao i naši osjećaji zadovoljstva i samoostvarenja, usko su povezani s našim iskustvom življenja u svijetu koji postavlja naš uobičajeni tempo.
Stoga, kada se suprotstavimo osobi, sa svim svojim fizičkim prednostima i nedostacima, brzom i preciznom računalu, postoji želja da se cijeli život prepustimo računalima. Međutim, zaboravljamo da će nas potpunu predaju računalu dovesti u život u kojem će biti malo prostora za samoostvarenje.
4. Kako automatiziramo svijet?
"Možete pametno inovirati, ali možete lagano"
TC: Mislim da trebamo biti kritični prema novim tehnologijama, ali brinem se zbog toga što će ljudi pretvarati nepotrebne poteškoće i antitehnološku "autentičnost" u fetiš. Postoji tako moderna škola mišljenja koja hvali naporan fizički rad i tvrdi da sve što radimo mora biti umjetničko i autentično. Po mom mišljenju, takav položaj otkida snobizam i ne uzima u obzir ogroman broj pozitivnih dostignuća koja je demokratizacija tehnološkog napretka donijela sa sobom.
N. K.: Potpuno se slažem s tobom. U intervjuu su me pitali kako će moj oprezni stav prema napretku pomoći, na primjer, ljudima koji rade u teškim uvjetima u tvornicama za preradu mesa. Odgovorio sam da će, naravno, uvijek biti mjesta za automatizaciju proizvodnje u kojoj se moraju poboljšati radni uvjeti ljudi. Jednostavno možete pametno inovirati ili to učiniti bez razmišljanja; možemo pronaći način da uzmemo u obzir vrijednost ljudskog iskustva i važnost samoostvarenja ili jednostavno možemo pohvaliti mogućnosti računala. Pravi izbor nije jednostavan. Ako taj zadatak percipiramo isključivo crno-bijelo - ili se slijepo zalažemo za naporan, iscrpljujući fizički rad u bilo kojoj situaciji ili, obrnuto, vidimo smisao života u sibarizmu - to neće pomoći uzroku.
Ljudi stalno stvaraju i koriste alate. Od davnina moramo donositi odluke povezane s podjelom rada, s podjelom količine posla između osobe i alata koji su joj bili na raspolaganju. I čini mi se da nevjerojatna učinkovitost računala u obavljanju širokog raspona zadataka samo komplicira proces donošenja takvih odluka.
5. Što nas čeka?
"Trebamo nastojati da računala obogaćuju naše životno iskustvo, a ne da nas pretvore u pasivne promatrače zaslona monitora."
T. Ch.: Dakle, kamo se kreće čovječanstvo?
NK: Povjesničar prirodne povijesti Thomas Hughes, koji je preminuo prošle godine, predložio je koncept tehnološkog zamaha. Vjerovao je da se tehnologije ugrađene u društvene strukture i procese počinju razvijati samostalno, povlačeći društvo zajedno s njima. Sasvim je moguće da je naša putanja već postavljena i da ćemo nastaviti sadašnjim putem, bez postavljanja pitanja da li krećemo u pravom smjeru. Zapravo ne znam što će se dogoditi. Najviše što mogu učiniti je koliko najbolje mogu pokusati razmotriti ova zaista teška pitanja.
Nadam se da ćemo kao pojedinci i kao članovi društva uspjeti održati određenu razinu razumijevanja onoga što nam se događa, kao i određenu razinu znatiželje, i donosit ćemo odluke na temelju naših dugoročnih interesa, a ne na uobičajenim konceptima praktičnosti, brzine, točnosti i efikasnosti.
Čini mi se da trebamo težiti tome da računala obogaćuju naše životno iskustvo i otvaraju nam nove mogućnosti, a ne da nas pretvore u pasivne promatrače zaslona monitora. I dalje mislim da ako postignemo više od novih tehnologija, oni će moći raditi ono što su tehnologije i alati učinili kroz cijelu povijest čovječanstva - stvoriti zanimljiviji svijet oko nas i pomoći nam da postanemo bolji. U konačnici, sve ovisi o nama samima.
Tom Chatfield