Jedne večeri u kolovozu 2010. godine, 34-godišnji Londončanin po imenu Demis Hassabis popeo se na pozornicu u konferencijskoj sali na području zaljeva San Francisco. Popeo se na podiju izokrenutim hodom čovjeka koji pokušava kontrolirati živce, pritisnuo je usne kratkim osmijehom i progovorio: "Pa, danas želim razgovarati o različitim pristupima stvaranju …". Zastao je, kao da shvaća koliko glasno izjavljuje svoje ambicije. I rekao je: "AGI".
AGI je općenita umjetna inteligencija, hipotetički računalni program koji može obavljati intelektualne zadatke kao i ljudski, ili još bolje. AGI će moći obavljati specifične zadatke, poput prepoznavanja ljudi na fotografijama ili prevođenja jezika, koji su trenutno sposobni izvoditi mnoge zasebne umjetne inteligencije na našim telefonima i računalima. Moći će istovremeno voditi razgovor, igrati šah i govoriti francuski jezik. Moći će razumjeti knjige fizike, pisati romane, razviti strategije ulaganja i održavati povremeni razgovor sa strancima. Pratit će nuklearne reakcije, upravljati elektroenergetskim mrežama i prometom te bez napora uspjeti u svemu drugom. AGI će danas najnapredniji AI izgledati kao džepni kalkulatori.
Jedini intelekt koji trenutno može obavljati sve ove zadatke pripada čovjeku. Ali ljudski um je ograničen veličinom lubanje u kojoj se nalazi mozak. Njegova snaga ograničena je malom količinom energije koju tijelo može pružiti. Budući da će se AGI izvoditi na računalima, neće trpjeti ta ograničenja. Njegova će inteligencija biti ograničena samo brojem dostupnih procesora. AGI može započeti nadgledanjem nuklearnih reakcija. No, uskoro će otkriti nove izvore energije, probavljajući više fizičkih radova u sekundi nego što to čovjek može za tisuću godina. Inteligencija na ljudskoj razini, potpomognuta brzinom i skalabilnošću računala, spasit će nam probleme. Hassabis je rekao britanskom listu Observer da očekuje da će se AGI, između ostalih disciplina, boriti i protiv problema poput raka,klimatske promjene, energija, genomika, makroekonomija i financijski sustavi."
Konferencija na kojoj je govorio Hassabis zvala se Samit o singularnosti. Singularnost - prvi dio imena - odnosi se na najvjerojatniju posljedicu nastanka AGI-ja, tvrde futurolozi. Budući da će AGI obraditi informacije velikom brzinom, vrlo brzo će postati inteligentan. Brzi ciklusi samopoboljšanja dovest će do eksplozije strojne inteligencije, ostavljajući ljude da njuše silicijsku prašinu. Budući da se ta budućnost temelji isključivo na neprovjerenim pretpostavkama, gotovo se religiozno pretpostavlja da će se Singularnost pokazati ili utopijom ili paklom.
Sudeći prema naslovima govora, sudionici konferencije više su vjerovali u prvi ishod: „Um i kako ga izgraditi“, „AI protiv starenja“, „Zamjena naših tijela“, „Izmjena granice između života i smrti“. Hassabisov govor, s druge strane, činio se dosadnim: "Sustavni neuroznanstveni pristup stvaranju AGI."
Hasabis je koračao između podija i ekrana, govoreći zanoćno. Nosio je bordo džemper i bijelu košulju dolje poput školskog. Činilo se da njegov mali stas samo naglašava njegovu inteligenciju. Do sada su, objasnio je Hassabis, znanstvenici pristupili AGI s dvije strane. Jedan pristup, poznat kao simbolički AI, pokušao je opisati i programirati sva pravila potrebna za sustav koji može razmišljati poput čovjeka. Ovaj je pristup bio popularan u 1980-ima i 1990-ima, ali nije dao željene rezultate. Hasabis je smatrao da je mentalna arhitektura mozga previše suptilna da bi se mogla opisati na ovaj način.
Drugi pristup okupio je znanstvenike koji pokušavaju digitalno umnožiti fizičke mreže mozga. To je imalo izvjesnog smisla. Uostalom, mozak je dno ljudske inteligencije. Ali ti su istraživači također bili na pogrešnom putu, rekao je Hassabis. Njihov je zadatak bio sličan stvaranju mape svih zvijezda u svemiru. Dublje, usredotočili su se na pogrešnu razinu funkcioniranja mozga. Bilo je to poput pokušaja da se otkrije kako Microsoft Excel djeluje tako što je provalio u računalo i naučio kako tranzistori komuniciraju.
Umjesto toga, Hassabis je ponudio sredinu: AGI bi trebao crpiti inspiraciju iz širokih načina na koji mozak obrađuje informacije, a ne iz fizičkih sustava ili posebnih pravila koja se primjenjuju na specifične situacije. Drugim riječima, trebao bi se usredotočiti na razumijevanje softvera mozga, a ne njegova hardvera. Nove tehnike, poput funkcionalnog snimanja magnetskom rezonancom (fMRI), koje su omogućile uvid u mozak dok djeluje, nagovještavale su da je takvo razumijevanje moguće. Nedavna istraživanja, rekao je Hassabis, pokazuju da mozak uči ponavljajući svoja iskustva tijekom spavanja kako bi otkrio opća načela. AI istraživači moraju oponašati takav sustav.
Promotivni video:
U donjem desnom kutu klizača otvara se logotip u obliku okruglog plavog vrtloga. Dvije riječi pored njega ispisane su u nastavku: DeepMind. Ovo je prvi put da se tvrtka spominje javno. Hassabis je proveo više od godinu dana pokušavajući dobiti pozivnicu na samit o singularnosti. Predavanje mu je bilo naslovno. Zapravo mu je trebala jedna minuta s Peterom Thielom, milijarderom iz Silicijske doline koji je financirao konferenciju. Hassabis je želio Thielovo ulaganje.
Hassabis nikad nije govorio o tome zašto mu je potrebna Tielova podrška. Ali Thiel je vjerovao u AGI čak i više od Hassabisa. Govoreći na samitu o singularnosti 2009. godine, Thiel je rekao da njegov najveći strah od budućnosti nije ustanak robota. Bio je više zabrinut što Singularnost uskoro neće doći. Svijetu su bile potrebne nove tehnologije kako bi se zaustavio gospodarski pad.
DeepMind je prikupio 2 milijuna funti, od čega Thiel 1,4 milijuna. Kada je Google kupio tvrtku u siječnju 2014. za 600 milijuna dolara, Thiel i ostali rani ulagači zaradili su 5.000% povrata svoje investicije.
Za mnoge osnivače ovo bi bio sretan kraj. Može se odmoriti, napraviti korak unatrag, provesti vrijeme nasamo s novcem. Za Hassabis, Googleova kupovina bila je samo još jedan korak u njegovoj potrazi za AGI. Većinu 2013. proveo je pregovarajući o uvjetima ugovora. DeepMind je morao raditi odvojeno od svog vlasnika. Trebala je steći prednosti vlasništva Googlea, poput pristupa novčanom toku i računalnoj snazi, bez gubitka kontrole.
Hassabis je mislio da bi DeepMind mogao biti hibrid, sa pokretačkim motorom, mozgom najvećih sveučilišta i dubokim džepovima jedne od najcjenjenijih svjetskih kompanija. Svaki sastojak bio je na mjestu da ubrza dolazak AGI-a i ukloni uzroke ljudske patnje.
Hu od gospodina Hassabisa
Demis Hassabis rođen je 1976. u sjevernom Londonu u kineskoj obitelji kiparskih Grka i Singapura. Bio je najstariji od tri brata i sestre. Njegova majka radila je u britanskoj robnoj kući John Lewis, a otac je vodio trgovinu igračkama. Hassabis se u četverogodišnjoj dobi bavio šahom gledajući kako otac i ujak igraju. Za nekoliko tjedana već je tukao odrasle. S 13 godina postao je drugi najbolji svjetski šahist svojih godina. U dobi od osam godina naučio je programirati na jednostavnom računalu.
Hassabis je visoko obrazovanje stekao 1992., dvije godine prije planiranog roka. Dobio sam posao programera video igara u Bullfrog Productions. Hassabis je napisao Tematski park u kojem igrači stvaraju i upravljaju virtualnim zabavnim parkom. Igra je postigla veliki uspjeh i prodala je 15 milijuna primjeraka, stvorivši čitav žanr simulacijskih igara u kojima cilj nije bio poraz neprijatelja, već optimiziranje funkcioniranja ogromnog složenog sustava, kao što su posao ili grad.
Osim što je stvorio igre, Demis ih je dobro igrao. Kao tinejdžer trčao je između podova na natjecanjima za društvene igre, natječući se u dvobojima u šahu, skoru, pokeru i backgammonu. 1995. godine, dok je studirao informatiku na Sveučilištu u Cambridgeu, Hassabis se natjecao na studentskom turniru. Go je drevna strateška igra na ploči koja je znatno teža od šaha. Za majstorstvo mora biti potrebna intuicija stečena višegodišnjim iskustvom. Nitko nije znao je li Hassabis ikad prije igrao Go.
Prvo, Hassabis je osvojio turnir za početnike. Potom je pobijedio pobjednika iskusnih igrača, iako hendikepom. Charles Matthews, gospodar Cambridgea koji je bio domaćin turnira, sjeća se šoka što ga je uništio 19-godišnji novajlija. Matthews je uzeo Hassabisa pod svoje krilo.
Hassabisova inteligencija i ambicija uvijek su se očitovali u igrama. Igre su, zauzvrat, ponovno pokrenule njegovu strast prema inteligenciji. Dok je promatrao njegov razvoj šaha, pitao se mogu li računala programirati tako da uče na isti način kao što je stekao iskustvo. Igre su ponudile okruženje za učenje koje nije bilo u skladu sa stvarnim svijetom. Bili su strogi i zatvoreni. Budući da su igre odvojene od stvarnog svijeta, mogu se vježbati bez smetnji i učinkovito se učiti. Igre ubrzavaju vrijeme: igrači za nekoliko dana stvore sindikalni sindikat i bore se na Sommi nekoliko minuta.
U ljeto 1997. Hassabis je otputovao u Japan. U svibnju te godine IBM-ovo Deep Blue računalo pobijedilo je Garryja Kasparova, svjetskog prvaka u šahu. Računalo je prvi put pretuklo velikaša. Meč je privukao pažnju svijeta i pobudio zabrinutost zbog sve veće snage i potencijalne prijetnje računala. Kad je Hassabis upoznao Masahika Futszuvera, japanskog majstora društvenih igara, razgovarao je o planovima koji će objediniti njegove interese u strateškim igrama i umjetnoj inteligenciji: jednog dana razvio bi računalni program za poraz najvećeg igrača.
Hassabis je metodički pristupio svojoj karijeri. "U dobi od 20 godina, Hassabis je vjerovao da se moraju postaviti neke stvari kako bi umjetna inteligencija mogla dostići potrebnu razinu", kaže Matthews. "Imao je plan."
1998. osnovao je vlastiti studio za igre pod nazivom Elixir. Hassabis se fokusirao na jednu izuzetno ambicioznu igru, Republika: revolucija, složenu političku simulaciju. Nekoliko godina ranije, dok je još bio u školi, Hassabis je rekao svom prijatelju Mustafi Suleimanu da su svijetu potrebne grandiozne simulacije kako bi se mogao modelirati njegova složena dinamika i riješiti najsloženije društvene probleme. Sad je to pokušao učiniti u igri.
Bilo mu je teže kodirati njegove težnje nego što se očekivalo. Elixir je izdao otpuštenu verziju igre kako bi dobio tople kritike. Ostale igre nisu uspjele. U travnju 2005. Hassabis je ugasio Elixir. Matthews vjeruje da je Hassabis osnovao tvrtku jednostavno kako bi stekao iskustvo upravljanja. Hassabisu je sada nedostajalo samo jedno važno područje stručnosti prije nego što je mogao započeti potragu za pronalaskom AGI-ja. Morao je razumjeti ljudski mozak.
2005. godine Hassabis je doktorirao iz neuroznanosti na University College London. Objavio je vrlo utjecajnu studiju pamćenja i mašte. Jedno istraživanje, koje je od tada citirano više od 1.000 puta, pokazalo je da je ljudima s amnezijom također teško zamisliti nova iskustva, sugerirajući vezu između sjećanja i stvaranja mentalnih slika. Hassabis je izgradio razumijevanje mozga potrebnog za savladavanje AGI-ja. Veći dio njegovog rada svodi se na jedno pitanje: Kako ljudski mozak prima i zadržava koncepte i znanja?
Hassabis je svečano osnovao DeepMind 15. studenog 2010. Izjava o misiji tvrtke bila je ista kao i sada: "riješite inteligenciju", a zatim je upotrijebite za rješavanje svega ostalog. Kao što je Hassabis rekao na samitu o singularnosti, to znači prevesti naše razumijevanje načina na koji mozak obavlja zadatke u softver koji može koristiti iste metode za podučavanje.
Hasabis nikako ne tvrdi da je znanost potpuno shvatila ljudski um. Plan za provedbu AGI-a bilo je nemoguće naučiti iz stotina studija neuroznanosti. Ali jasno vjeruje da je sasvim moguće započeti raditi na AGI na način koji mu se sviđa. Međutim, također je moguće da njegovo samopouzdanje pokvari stvarnost. Još uvijek vrlo malo znamo o tome kako mozak zapravo funkcionira. 2018. tim australskih istraživača doveo je u pitanje vlastiti nalaz Hassabisa. Naravno, ovo je samo jedan dokument, ali pokazuje da je znanost koja stoji iza DeepMind-ovog rada daleko od dokazane.
Suleiman i Shane Legg, Novozelanđanin opsjednut AGI-jem, kojeg je Hassabis također upoznao na sveučilištu, pridružili su se kao suosnivači. Reputacija tvrtke brzo je rasla. Hassabis je procvjetao. "Privlači poput magneta", kaže Ben Faulkner, bivši izvršni direktor Deep Mind-a. Mnogi regruti dolaze iz Europe. Možda je najveće postignuće DeepMind-a aktivno zapošljavanje rano talentiranih ljudi i zadržavanje najsjajnijih i najboljih od njih.
Jedna od tehnika strojnog učenja na koju se tvrtka fokusirala izrasla je iz Hassabisove dvostruke strasti prema igrama i neuroznanosti: učvršćivanju učenja. Takav je program osmišljen da prikupi informacije o okolini, a zatim iz nje uči ponavljajući svoje iskustvo iznova i iznova - baš kao što je Hassabis opisao moždane aktivnosti tijekom spavanja u svom predavanju na samitu o singularnosti.
Učenje ojačanja započinje čistom pločom. Programu je prikazano virtualno okruženje o kojem ne zna ništa osim pravila, poput simulatora šaha ili videoigre. Program sadrži barem jednu komponentu poznatu kao neuronska mreža. Sastoji se od slojeva računskih struktura koje prosiju informacije kako bi identificirali specifične značajke ili strategije. Svaki sloj istražuje okoliš na vlastitoj razini apstrakcije. Te mreže u početku imaju minimalan uspjeh, ali njihove pogreške - i to je važno - također su kodirane u njima. Postupno postaju pametniji i pametniji, eksperimentirajući s različitim strategijama i primajući nagrade ako uspije. Ako program pomakne šah i, kao rezultat, izgubi igru, više neće pogriješiti. Veliki dio magije umjetne inteligencije leži u brzini kojom ponavlja ove zadatke.
Rad DeepMind-a dosegao je zenit 2016. godine kada je tim razvio program umjetne inteligencije koji je koristio učenje ojačanja zajedno s drugim metodama igranja u pokretu. Program, nazvan AlphaGo, podigao je obrve nakon što je preminuo svjetskog prvaka u utakmici s pet utakmica u Seulu 2016. godine. Pobjeda stroja, kojeg je gledalo 280 milijuna ljudi, dogodila se deset godina ranije nego što su strojevi predviđali. Sljedeće godine poboljšana verzija AlphaGo-a porazila je kineskog prvaka Go.
Kao i Deep Blue 1997. godine, AlphaGo je promijenio percepciju ljudskih dostignuća. Ljudski prvaci, sjajni umovi planeta, više nisu stajali na vrhu intelektualne piramide. Gotovo 20 godina nakon što je Hassabis objavio svoje ambicije Fuzuvereu, on ih je ispunio. Hassabis je rekao da ga je ovaj meč doveo do suza. Bio je zahvalan Matthewsu.
DeepBlue je pobijedio zahvaljujući velikoj snazi i računalnoj brzini, ali AlphaGoov stil osjećao se umjetnički, gotovo ljudski. Čini se da njegova elegancija i sofisticiranost, superiornost računske snage pokazuju da je DeepMind bio ispred konkurencije u kreiranju programa koji bi mogao liječiti bolesti i upravljati gradovima.
DeepMind i umjetna inteligencija
Hassabis je uvijek govorio da će DeepMind promijeniti svijet na bolje. Ali nema sigurnosti u vezi s AGI. Ako se ikad pojavi, ne znamo hoće li to biti na bolje ili gore, hoće li se podvrgnuti ljudskoj kontroli. Ako je tako, tko će držati uzde?
Hassabis je od početka pokušavao obraniti neovisnost DeepMind-a. Uvijek je inzistirao da DeepMind ostane u Londonu. Kada je Google kupio tvrtku 2014. godine, pitanje kontrole postalo je sve goruće. Hassabis nije trebao prodavati DeepMind Googleu. S dovoljno novca u ruci nacrtao je poslovni model u kojem će tvrtka razvijati igre za financiranje istraživanja. Googleu su obećali puno novca, ali on nije želio prenijeti tvrtku koju je podigao. Kao dio dogovora, DeepMind je stvorio sporazum kojim će Googleu onemogućiti jednostrano preuzimanje kontrole nad intelektualnim vlasništvom tvrtke. U godini koja je prethodila akviziciji, izvori kažu kako su obje strane potpisale sporazum - Sporazum o etičnosti i sigurnosti. Ovaj sporazum sastavili su stariji odvjetnici u Londonu.
Sporazum prenosi kontrolu nad osnovnom AGI DeepMind tehnologijom, ako ih ima, Upravnom odboru za etiku. Prema istom izvoru, Etičko vijeće nipošto nije kozmetička koncesija od Googlea, već pruža DeepMind-u čvrstu zakonsku podršku kako bi održao kontrolu nad svojom najvrijednijom i potencijalno najopasnijom tehnologijom. Imena povjerenika nisu objavljena, ali drugi izvor blizak DeepMind-u i Googleu rekao je da su sva tri osnivača DeepMind-a na ploči. Tvrtka sama ne otkriva ništa.
Hassabis može odrediti sudbinu DeepMind-a na druge načine. Jedna od njih je pobožnost. Djelatnici, bivši i sadašnji, kažu da je Hassabisov istraživački program jedna od najvećih snaga DeepMind-a. Njegov program, koji nudi uzbudljiv i važan rad bez pritiska akademije, privukao je stotine najtalentiranijih svjetskih stručnjaka. DeepMind ima podružnice u Parizu i Albertu. Mnogi zaposlenici osjećaju se više povezano s Hassabisom i njegovom misijom nego sa korporativnim roditeljem koji želi samo prihod. Sve dok Hassabis održava osobnu odanost, on ima značajnu moć nad svojim jedinim dioničarom. Bolje pustiti da talent radi na daljinu za DeepMind nego završiti na Facebooku ili Appleu.
DeepMind ima još jedan izvor utjecaja, mada zahtijeva stalno nadopunjavanje: povoljnu halo. Tvrtka je u tome uspjela. AlphaGo je bio sjajna reklama. Od stjecanja Googlea, tvrtka je u više navrata proizvodila čuda koja su privlačila svjetsku pažnju. Jedan primjer softvera može otkriti obrasce skeniranja oka koji su pokazatelji makularne degeneracije. Drugi program naučio je igrati šah od nule koristeći arhitekturu sličnu AlphaGo-u i postao je najveći igrač svih vremena nakon samo devet sati igranja sa sobom. U prosincu 2018. godine AlphaFold se pokazao preciznijim od konkurencije u predviđanju trodimenzionalne strukture proteina s popisa spojeva koji mogu potencijalno liječiti bolesti poput Parkinsonove i Alzheimerove bolesti.
DeepMind je posebno ponosan na algoritme koje je razvio da izračunaju najučinkovitija rješenja hlađenja za Googleove podatkovne centre, koji sadrže otprilike 2,5 milijuna računalnih poslužitelja. U 2016. godini DeepMind je izjavio da je smanjio Googleov račun za struju za 40%. Ali neki insajderi kažu da je ova pohvala pretjerana. Google je koristio algoritme za optimizaciju svojih podatkovnih centara mnogo prije nego što se DeepMind pojavio. Smatra se da DeepMind precijenjuje svoje zasluge kako bi dobio vrijednost u očima Abecede. Googleova matična tvrtka Alphabet plaća DeepMind za slične usluge. U 2017. godini, potonji je izdao račun Abecedi za 54 milijuna funti. Ti brojevi blijede u usporedbi s DeepMind-om. Iste je godine potrošila 200 milijuna funti na osoblje. općenito,2017. godine DeepMind je izgubio 282 milijuna funti.
To je sitnica za bogatog diva. No, druge Alphabetine podružnice privukle su pozornost Ruth Porat, Alphabetove škakljive direktorice. Google Fiber, pokušaj izgradnje davatelja internetskih usluga, stavljen je na čekanje nakon što je postalo jasno da će mu ulaganja trebati desetljećima. AI istraživači se također pitaju hoće li DeepMind biti zeznut.
Postupno objavljivanje napretka tvrtke DeepMind u AI dio je strategije koja postupno izgrađuje reputaciju tvrtke. To je posebno vrijedno u vremenu kada je Google optužen za kršenje privatnosti korisnika i širenje lažnih vijesti. DeepMind također ima sreću da ima podršku na najvišoj razini: Larry Page, jedan od dvojice osnivača Googlea, koji je sada izvršni direktor Alphabet-a. Paige je vrlo blizu Hassabisa. Page-ov otac, Karl, proučavao je neuronske mreže u 1960-ima. Na početku karijere Page je rekao da je Google stvorio samo radi osnivanja AI kompanije.
DeepMindova kontrola tiska nije u skladu s akademskim duhom koji prožima tvrtku. Neki se znanstvenici žale kako im je teško objaviti svoje radove: oni moraju prevladati slojeve unutarnjeg odobrenja prije nego što mogu čak i poslati članak konferenciji ili časopisu. DeepMind smatra da je potrebno postupiti oprezno kako ne bi uplašili javnost izgledima AGI. Ali pretjerano oštre optužbe mogu uništiti akademsku atmosferu i oslabiti lojalnost zaposlenika.
Pet godina nakon Googleove nabave, pitanje tko kontrolira DeepMind postaje kritično. Osnivači i rani zaposlenici tvrtke približavaju se pragu kada mogu otići s financijskom naknadom koju su dobili od kupovine tvrtke (dionice Hassabisa vjerojatno vrijede oko 100 milijuna funti). No, izvor blizak tvrtki sugerira da Alphabet nekoliko godina potiskuje isplatu osnivačima. S obzirom na njegov neumoran fokus, Hassabis vjerojatno neće skočiti s broda. Novac ga zanima samo ako mu pomaže u približavanju cilju cijelog života. Ali neki moji kolege su otišli. Trojica AI inženjera napustili su tvrtku od početka 2019. godine. Ben Laurie, jedan od najpoznatijih svjetskih sigurnosnih inženjera, ponovno je kod Googlea. To sigurno nije punoAli DeepMind nudi tako zadivljujuću misiju i pristojnu plaću da je nitko ne bi trebao napustiti.
Google dosad nije dosadio DeepMind-u. No, jedan nedavni razvoj izazvao je zabrinutost koliko dugo će tvrtka moći održati svoju neovisnost.
DeepMind, medicina i umjetna inteligencija
DeepMind je oduvijek planirao koristiti AI za poboljšanje zdravstvene zaštite. U veljači 2016. stvoreno je novo odjeljenje DeepMind Health, koje je vodio Mustafa Suleiman, jedan od suosnivača tvrtke. Suleiman, čija je majka bila medicinska sestra, nadala se da će stvoriti program nazvan Streams koji će upozoriti liječnike kada se zdravlje pacijenta pogorša. DeepMind bi bio nagrađen na temelju mjernih podataka. Budući da je ovaj posao zahtijevao pristup povjerljivim informacijama o pacijentima, Suleiman je osnovao neovisnu skupinu za preglede (IRP) koja je zaposlila dobre engleske zdravstvene i tehnološke stručnjake. DeepMind je bio dovoljno mudar da bude oprezan. Nakon toga, britanski povjerenik za informacije otkrio je da je jedan od bolničkih partnera prekršio zakon prilikom obrade podataka o pacijentima. Međutim, do kraja 2017. Suleiman je potpisao sporazume s četiri velike bolnice.
8. studenog 2018. Google je najavio stvaranje vlastitog zdravstvenog odjela - Google Health. Pet dana kasnije objavljeno je da će se DeepMind Health pridružiti naporima matične tvrtke. DeepMind nije upozoren. Prema informacijama dobivenim od zahtjeva FOI-a, ona je samo tri dana unaprijed obavijestila partnerske bolnice o promjeni. DeepMind je odbio otkriti kada su počele rasprave o spajanju, ali rekao je da je kratko vrijeme između obavijesti i javne objave u interesu transparentnosti. Suleiman je 2016. napisao da "podaci o pacijentima nikada neće biti povezani s Google računima, proizvodima ili uslugama". Činilo se da je njegovo obećanje prekršeno.
Aneksija Googlea naljutila je zaposlenike DeepMind Health-a. Još zaposlenika planira napustiti tvrtku nakon završetka postupka preuzimanja, tvrde ljudi bliski timu zdravstvene skrbi.
Ova epizoda pokazuje da su periferni dijelovi rada DeepMind-a ranjivi na Google. DeepMind je izjavio da smo se "svi složili da ima smisla kombinirati te napore u zajedničkim naporima s povećanim resursima." Ovo postavlja pitanje hoće li Google primijeniti istu logiku u radu DeepMind-a na AGI-ju.
DeepMind je uvelike napredovao u velikoj mjeri. Već je stvorila softver koji može naučiti izvoditi zadatke na nadljudskoj razini. Hassabis se često odnosi na Breakout, videoigru za Atari konzolu. Igrač upravlja palicom, koja se može kretati vodoravno i uz njezinu pomoć odskače lopte, usmjeravajući ih u blokove iznad, koji se prilikom sudara uništavaju. Igrač pobjeđuje kada su svi blokovi uništeni. Izgubi se ako lopta padne pored perona. Bez ljudske upute, DeepMind je ne samo naučio igrati igru, već i bacati kuglice u prostor iza blokova kako bi iskoristio pogodak. To pokazuje snagu učenja ojačanja i natprirodne moći računalnih programa DeepMind-a.
Demonstracija je svakako impresivna. Ali Hassabis o nečemu šuti. Ako se virtualna platforma podigne još malo više, program će pogriješiti. Vještina koju je DeepMind stekao toliko je ograničena da ne može odgovoriti ni na sitne promjene u okruženju koje bi čovjek mogao lako savladati. Ali na svijetu postoji mnogo suptilnosti. Za dijagnostičku inteligenciju ne postoje dva organa tijela slična. Za mehaničku inteligenciju, dva slična motora nikada neće biti isti u podešavanju. Stoga je teško pustiti programe u divljinu.
Drugo, o čemu DeepMind rijetko govori, jest da uspjeh u virtualnim okruženjima ovisi o nagradnoj funkciji: signalu koji omogućava softveru da mjeri svoj napredak. Program uči da odskakanje od stražnjeg zida povećava njegov rezultat. Veliki dio DeepMind-ovog rada s AlphaGo-om bio je stvaranje funkcije nagrađivanja koja je kompatibilna s tako složenom igrom. Nažalost, stvarni svijet ne nudi jednostavne nagrade. Napredak se rijetko mjeri u pojedinim bodovima. Ljudski mozak prima signal o uspjehu zadatka upravo u procesu njegove provedbe, a ne nakon nje.
DeepMind je smislio način kako to zaobići koristeći ogromne količine procesne snage. AlphaGo igra tisuće godina ljudskog vremena kako bi nešto naučio. Mnogi filozofi AI sumnjaju da je ovo rješenje neprihvatljivo za zadatke koji nude slabije nagrade. DeepMind priznaje takve nejasnoće. Nedavno je preuzela StarCraft 2, računalnu igru strategije. Odluke donesene na početku igre imaju posljedice koje se pojavljuju kasnije, što je vrlo karakteristično za mučne i zakašnjele povratne informacije o stvarnim problemima. Softver DeepMind u siječnju je pobijedio neke od najboljih igrača na svijetu, a bio je prilično impresivan uprkos strogim ograničenjima. Programi su također započeli istraživati funkcije nagrađivanja prateći povratne informacije ljudi. Ali uključivanje ljudskih uputa u petlju stvara rizik od gubitka razmjera i brzine.
I sadašnji i bivši istraživači iz DeepMind-a i Googlea, pod uvjetom anonimnosti, izrazili su sumnju da će DeepMind ovakvim metodama moći postići AGI. Za njih, želja za postizanjem visokih performansi u simuliranim okruženjima otežava rješavanje problema funkcije nagrađivanja. Pa ipak, ovakav pristup je srce DeepMind-a. Postoji unutarnja konkurencija unutar tvrtke u kojoj se programi natjecateljskih timova natječu za nadmoć.
Hassabis je život uvijek vidio kao igru. Veliki dio karijere posvećen je izradi njih, većinu svog slobodnog vremena provodio je igrajući ih. U DeepMind-u ih koristi za razvoj moćne umjetne inteligencije. Kao i svoj softver, Hassabis uči iz vlastitog iskustva. Potraga za AGI-om može u konačnici dovesti u ćorsokak, izumiti korisnu medicinsku tehnologiju usput i nadvladati najbolje igrače u njihovoj vještini. Ali AGI također može stvoriti pravo pod Googleovim nosom, ali izvan njegove kontrole. A ako uspije u tome, Demis Hassabis pobijedit će u najtežoj igri svih.
Ilya Khel