Političari i kapitalisti imaju petkom poslijepodne tradiciju bacanja puno vijesti kako bi se među njima sakrile loše vijesti. Stoga je bilo malo čudno da su Elon Musk, osnivač Tesle, proizvođača električnih vozila, i Sam Altman, predsjednik poznatog tehnološkog inkubatora Y Combinator, predstavili svoju novu kompaniju s AI tematskom tematikom na kraju prošlotjedne AI konferencije u Montrealu prošlog prosinca.
Bio je razlog za uvođenje OpenAI-a u tako kasni sat. Ne zato što niko nije gledao. Jer svi su gledali. Kad su neke od najmoćnijih kompanija u Silicijskoj dolini osjetile kako vjetar puše, počele su nuditi ogromne svote novca novoponovljenom talentu OpenAI AI kako bi ove genijalce držale kod kuće. U posljednjem trenutku prijedlozi - neki koji su dati na samoj konferenciji - postali su toliko veliki da su Musk i Altman morali odgoditi najavu novog pokretanja. "Zbrojevi su dosegli rub ludila", kaže Wojciech Zaremba, znanstvenik koji se pridružio OpenAI nakon stažiranja kod Googlea i Facebooka i bio je među onima koji su dobili velike ponude u 23:00.
Koliko dolara je granica ludila? Prije dvije godine, kako se tržište najnovije tehnologije strojnog učenja počelo zagrijavati, potpredsjednik Microsoftovog istraživanja Peter Lee rekao je da su troškovi vrhunskih istražitelja AI premašili troškove vrhunskog tromjesečja u Nacionalnoj nogometnoj ligi - i to u normalnim okolnostima, a ne kada su vrhunski poduzetnici Silicijska dolina pokušava ukrotiti najbolji talent. Zaremba kaže da su mu, kada se OpenAI okupio, ponuđena dva do tri puta veća tržišna vrijednost.
OpenAI nije ispunio ove prijedloge. Ali on je ponudio nešto drugačije: sposobnost istraživanja istraživački usredotočena isključivo na budućnost, a ne na proizvode i tromjesečne profite, i na kraju dijeliti većinu - ako ne i sva - istraživanja među onim tko je to želio. Tako je: Musk, Altman i tvrtka namjeravali su pokloniti što bi moglo biti najviše transformativna tehnologija 21. stoljeća i pokloniti ih besplatno.
Zaremba kaže kako su ga prijedlozi na rubu ludila zapravo uprkos ogromnom poštovanju kompanija poput Googlea i Facebooka. Osjetio je da se novac usmjerava kako bi se spriječilo stvaranje OpenAI-a, što je dodatno pojačalo njegovu predanost velikodušnom pokretanju. "Shvatio sam", kaže Zaremba, "da je OpenAI za mene najbolje mjesto."
Osjećate li ironiju u središtu ove priče? Iako najveće svjetske tehnološke tvrtke pokušavaju zadržati svoje istraživače jednako naporno kao što NFL timovi pokušavaju zadržati svoje zvijezde, oni sami žele podijeliti svoja saznanja. U sofisticiranom svijetu AI istraživanja, najsvjetlije umove pokreće ne samo sljedeći proizvodni ciklus ili profit, ili nisu nimalo opsjednuti njima. Žele poboljšati AI, a nemoguće je učiniti AI boljim kad zadržite svoja najnovija zbivanja za sebe.
OpenAI je nedavno objavio prvu seriju AI softvera, alata za stvaranje sustava umjetne inteligencije temeljenog na tehnologiji koja se naziva učvršćenje učenja, jedne od ključnih tehnologija koja je dovela do stvaranja AlphaGo-a, Googleovog AI-a koji je iznenadio svijet svojim mogućnostima. ići na igre. Pomoću ovog skupa alata možete izgraditi sustave koji će otvoriti novu generaciju robota, igrati Atari igre i da, pobijediti svjetske prvake na Go-u.
Promotivni video:
Ali igračke su tek početak. OpenAI je misija od milijardu dolara za poticanje AI koliko je to moguće. U načinu na koji se tvrtka okupila i kakvi su joj planovi, možete vidjeti sljedeći novi val inovacija. Još ne znamo hoće li OpenAI biti glavni pokretač ovih promjena. No snage koje stoje iza stvaranja ovog prilično neobičnog startapa pokazuju da sljedeća generacija AI neće promijeniti samo tehnologiju, već i način rada.
Umjetna inteligencija ima svuda
Silicijska dolina ima strast za pretjerivanjem. Drzne zvučne izjave uvijek se trebaju susresti s zrnom soli. Ali u području umjetne inteligencije uistinu se događaju promjene. Unutar tvrtki kao što su Google i Facebook, tehnologije dubokog učenja već pomažu internetskim uslugama u prepoznavanju lica na fotografijama, prepoznavanju glasovnih naredbi na pametnim telefonima i odgovaranju na internetska pretraživanja. I ista ta tehnologija mogla bi u budućnosti riješiti i mnoge druge probleme. To može pomoći strojevima da nauče razumjeti prirodni jezik - što smo ljudi navikli govoriti i pisati. To može pomoći razvoju nove pasmine robota, omogućiti automatima ne samo da izvršavaju svoje zadatke, već i učiti u letu. Neki vjeruju da će to naposljetku strojevima pružiti nešto poput zdravog razuma - sposobnost da istinski razmišljaju poput osobe.
A uz takva obećanja rađa se duboka tjeskoba. Musk i Altman su zabrinuti da ako ljudi mogu stvoriti AI koji čine velike stvari, mogu izgraditi AI koji čine grozne stvari. Nisu sami u svojim strahovima. Iako se ovo može činiti kontratuktivnim, Musk i Altman također vjeruju da je najbolji način za borbu protiv zlonamjernog AI nije ograničiti pristup umjetnoj inteligenciji, već je proširiti. Upravo ta težnja vodi timu mladih i inteligentnih idealista.
OpenAI se prošlog ljeta pojavio u privatnoj sobi u hotelu Rosewood u Silicijskoj dolini, luksuznom gradskom hotelu koji doslovno sjedi u središtu rizičnog kapitalističkog svijeta. Elon Musk ručao je s Ilyom Sutskeverom, koji je tada bio u Google Brain-u, tvrtki koja razvija duboke neuronske mreže - sustave umjetne inteligencije koji mogu naučiti obavljati zadatke analizom ogromnih količina digitalnih podataka, uključujući prepoznavanje fotografija i pisanje e-pošte, učeći iz prepiske. Suckever je bio jedan od vodećih programera projekta.
Ilya Sutskever
Sam Altman, čiji je Y Combinator pomogao u oblikovanju tvrtki poput Airbnb, Dropbox i Coinbase, prekinuo je sastanak okupljajući nekoliko istraživača AI-ja i mladog, ali iskusnog graditelja tvrtke Grega Brockmana, bivšeg šefa tehnologije u start-up Stripe-u, još jedne tvrtke Y Combinator. Bila je to eklektična skupina. Ali svi su imali cilj: stvoriti novu vrstu AI laboratorija koja bi mogla raditi izvan kontrole ne samo Googlea, već i svih ostalih. "Najbolje što bih mogao zamisliti kao izazov," kaže Brockman, "je da čovječanstvo krene u stvaranje istinskog AI-a sigurnim putem."
Musk je bio tamo zbog svog dugog prijateljstva s Altmanom - i zbog toga što je AI presudan za budućnost njegovih različitih pothvata i za budućnost u cjelini. Tesla treba AI ako želi graditi automobile koji voze samostalno. SpaceX, još jedna od Muskovih kompanija, treba AI da izvede ljude u svemir i da im tamo budu sigurni i zdravi. Ali Musk je i jedan od prvih (i najglasniji) koji je upozorio da bi jednog dana čovječanstvo moglo izgubiti kontrolu nad sustavima koji su dovoljno moćni da nauče sami.
Pojavio se problem: puno ljudi dovoljno kvalificiranih za rješavanje svih ovih problema koji su već radili na Googleu (kao i Microsoft, Facebook, Baidu i Twitter). I nitko na toj večeri nije bio potpuno siguran da bi te istraživače mogao namamiti u novi startup, čak i ako Musk i Altman stoje iza njega. I barem jedan ključni igrač bio je spreman napustiti brod. "Shvatio sam rizike," kaže Suckever, "ali također sam znao da bi bilo zanimljivo pokušati."
Prekinite krug
Ohrabren razgovorima s Muskom, Altmanom i drugima iz Rosewooda, Brockman je ubrzo odlučio izgraditi laboratorij koji su svi imali na umu. S velikom predanošću projektu, doveo je Yoshua Bengio, znanstvenika sa Sveučilišta u Montrealu i jednog od osnivača pokreta dubokog učenja. Još dva pionira u industriji - Jeff Hinton i Jan Lecun, rade na Googleu i Facebooku, no Bengio je težio životu u akademskom svijetu, negdje izvan dosega industrijskih trzaja. Skicirao je popis najboljih istraživača na tom polju i tijekom sljedećih nekoliko tjedana Brockman je kontaktirao sve što je mogao, uključujući nekolicinu drugih.
Mnogi od tih istraživača pozdravili su ideju, ali bili su oprezni od mogućnosti takvog skoka. U pokušaju da prekine krug, Brockman je odabrao deset istraživača koje je želio vidjeti najviše i pozvao ih da subotu provedu uz vino, grickalice i razgovor u vinskom podrumu Napa Valley. Za Brockmana je katalizator projekta čak bio i izlet u Napu. "Ovo je potcijenjen način okupljanja ljudi, posebno u trenucima kada više nemate žurbe da postignete svoj cilj", kaže on. "Treba ići tamo, ali također trebaš razgovarati." A kad su stigli do vina, ostala je ta atmosfera. Kao što kaže Suckever, "je vino bilo sporedno u razgovoru".
Greg Brockman
Do kraja dana Brockman je pozvao svih deset istraživača da se pridruže laboratoriju i dao im tri tjedna da razmisle. Na kraju mandata devet ih je bilo u zapovjedništvu. I ostali su u njemu, unatoč velikim ponudama divova Silikonske doline. "Dobio sam vrlo atraktivnu ponudu da ostanem, pa odluka nije bila laka", kaže Suckever iz Googlea, njegov bivši poslodavac. "Napokon sam se odlučio za OpenAI, dijelom zbog vrlo jake skupine ljudi i, naravno, uglavnom zbog njihove misije."
Pokret dubokog učenja započeo je u akademiji. Tek su se nedavno tvrtke poput Googlea, Microsofta i Facebooka odlučile pozabaviti ovim područjem, jer su napretkom velike računalne moći ove duboke neuronske mreže postale stvarnost, a ne samo teorijska mogućnost. Ljudi poput Hintona i LeCunea napustili su akademiju na Googleu i Facebooku zbog ogromnih resursa u tim tvrtkama. Ali ostala je usko povezana u suradnji s drugim teoretičarima polja. Ipak, kako objašnjava LeCun, istraživanje dubokog učenja zahtijeva slobodan protok ideja. "Kada radite istraživanje u tajnosti", kaže on, "odstupite."
Kao rezultat, velike tvrtke sada imaju na raspolaganju velik dio svojih AI istraživanja. Ovo je glavni adut, posebno za Google, koji je tehnologiju svog internetskog carstva dugo čuvao u tajnosti. Ne tako davno, Google je otvorio izvorni kod softverskog motora koji pokreće svoje neuronske mreže. Ali mnogo toga ostaje u ključu u ovoj utrci za budućnost. Brockman, Altman i Musk nastoje pogurati pojam otvorenosti još više rekavši da ne žele da jedna ili dvije velike korporacije kontroliraju budućnost umjetne inteligencije.
Granice otvorenosti
Sve zvuči sjajno. No, uz sav idealizam OpenAI-a, istraživači se mogu naći u istim uvjetima koji su ih prisilili da rade na starim poslovima. Otvorenost ima svoje granice. A dugoročna vizija AI-ja nije jedini interes za ovu igru. OpenAI ne radi dobrotvorne aktivnosti. Muskove tvrtke će imati veliku korist od pokretanja rada, a isto tako i Altmanova Y Combinator. "Svakako postoje neki natjecateljski bodovi", kaže Lecun. - To je neprofitna organizacija, ali ima bliske odnose s Y Combinatorom. I ljudi će biti plaćeni da rade u ovoj industriji."
Laboratorij ne plaća iste astronomske plaće koje su Google i Facebook osigurali istraživačima AI, rekao je Brockman. Ali također kaže da laboratorij "želi dobro ih platiti", te nudi naknadu u obliku dionica, najprije u Y Combinatoru, a kasnije možda i u SpaceX-u (koji je, za razliku od Tesle, privatna tvrtka).
Unatoč tome, Brockman inzistira na tome da OpenAI ne predviđa poseban tretman povezanih tvrtki. OpenAI je istraživačka inicijativa, a ne konzultantska tvrtka. Ipak, OpenAI-jev idealizam ima svoja ograničenja. Tvrtka možda neće otvoriti kod za sve što proizvede, iako je krajnji cilj i dalje distribuirati većinu toga, bilo da se radi o znanstvenim radovima ili internetskim uslugama. “Otvaranje nije nužno najbolja opcija. Morate njegovati ideju, vidjeti kuda vodi, a zatim objaviti, kaže Brockman. - Proizvodit ćemo puno otvorenog koda. Ali također ćemo imati puno stvari koje još nisu spremne za objavljivanje."
Suzkever također dodaje da bi OpenAI mogao ići toliko patentirati dio svog rada. "Uskoro nećemo ništa patentirati", kaže Brockman. "Ali dugoročno smo spremni promijeniti taktiku, ako mislimo da će biti bolja za svijet." Na primjer, OpenAI može proaktivno patentirati kako bi obeshrabrio druge da dobiju patente.
Neki mogu vidjeti patente kao motiv za dobit. Ali to je cijela poanta patenata.
Problem superinteligencije
Kad su Musk i Altman predstavili OpenAI, projekt su također označili kao način neutraliziranja prijetnji zlonamjerne superinteligencije. Naravno, takva superinteligencija mogla bi proizaći iz rada OpenAI-a, ali oni inzistiraju da se bilo kakva prijetnja ublaži tako što će tehnologija biti dostupna svima. "Smatramo da je puno vjerojatnije da mnoštvo AI može zaustaviti nasumično loše glumce," kaže Altman.
Ali ne vjeruju svi u ovo područje u takav ishod. Nick Bostrom, oksfordski filozof koji je poput Muska upozoravao na opasnosti od AI, ističe da ako dijelite svoja istraživanja bez ograničenja, „loši glumci“mogu ih uhvatiti prije nego što se svi uvjere da su sigurni. "Ako imate gumb koji čini usrane na svijetu," kaže Bostrom, "vjerojatno ne želite svima dati pristup." Ako s druge strane OpenAI odluči obustaviti istraživanje kako bi lošim momcima onemogućilo pristupanje, Bostrom se pita: kako će se to razlikovati od Googlea ili Facebooka?
Kaže, da, OpenAI neprofitni status može ili ne mora promijeniti stvari. Prava snaga projekta, kaže, jest da ga mogu provjeriti Google i Facebook. "To će moći smanjiti vjerojatnost da će superinteligencija biti monopolizirana. Moći će ukloniti jedan od mogućih razloga zbog kojih će neki pojedinci ili skupine imati pristup boljem AI-ju od svih ostalih."
U nedavnom djelu filozof objašnjava da je glavni učinak inicijative poput OpenAI - inicijative za slobodno dijeljenje učinjenog - ubrzati napredak umjetne inteligencije, barem u kratkom roku. I dugoročno može ubrzati napredak, pod uvjetom da se održi viša razina transparentnosti nego što bi bila komercijalno optimalna.
"Može biti da bi filantropski motivirani ulagač u istraživanje i razvoj mogao ozbiljno ubrzati napredak slijedeći politiku otvorene znanosti", kaže on.
Kako Xerox PARC
Početkom siječnja devet se Brockmanovih istraživača okupilo u njegovom stanu u San Franciscu. Projekt je bio toliko nov da nisu ni imali bijele ploče. (Zamislite.) Kupili su nekoliko istog dana i stigli na posao.
Brockman kaže kako će OpenAI započeti istraživanjem učenja s pojačanjem, mašinskim načinom učenja problema ponavljajući ih iznova i iznova, prateći koje metode daju najbolje rezultate. Drugi veliki izazov je takozvano "nekontrolirano učenje" - stvaranje strojeva koji mogu istinski samoučiti bez ljudske pomoći. Danas duboko učenje ovisi o pažljivo označenim podacima. Ako želite naučiti neuronsku mrežu da prepoznaje fotografije mačaka, trebate je hraniti određenim brojem primjera - a ti primjeri trebaju biti označeni kao fotografije s mačkama. Takva obuka provodi se uz pomoć ljudi. No, kao i mnogi drugi znanstvenici, OpenAI planira izgraditi neuronske mreže koje mogu učiti bez pažljivog odabira podataka.
"Ako imate stvarno dobru nastavnu metodologiju bez nastavnika, strojevi mogu naučiti iz svih saznanja na Internetu - poput čovjeka, samo gledanjem - ili čitanjem knjiga", kaže Brockman.
On OpenAI vidi kao modernu utjelovljenje Xerox PARC-a, laboratorija za tehnološka istraživanja koji je postojao 1970-ih. Kao što je otvoreno i besplatno istraživanje PARC-a dalo povod za sve, od grafičkih korisničkih sučelja i laserskog ispisa do objektno orijentiranog programiranja, Brockman i njegov tim žele se udubiti u ono što je nekad bila znanstvena fantastika. PARC je bio u vlasništvu Xeroxa, ali hranio se pod rukama mnogih drugih kompanija, uključujući Apple, jer su ljudi poput Stevea Jobsa pozdravili njegovo istraživanje. Brockman želi svima dobrodošlicu u OpenAI istraživanje.
U nadi da će potaknuti ovu dinamiku Brockman i tvrtka zaposlili su nekoliko značajnih istraživača, uključujući Ian Goodfellowa, još jednog starijeg suradnika iz Google Brain tima. Brockman kaže da PARC u osnovi ima gomilu pametnih ljudi i odlučio je vidjeti što se dogodilo. "Trebate zajedničku viziju bez središnje kontrole."
Nedostatak kontrole ključan je za ideal. Ako uvedete dovoljno ljudi u svoj kolektivni cilj, krajnji rezultat pobijedit će sve što ste potajno skuhali. Ali ako AI postane snažan kao što je i obećano, jednadžba će se promijeniti. Trebamo sigurnost da će se novoosnovani AI pridržavati istih egalitarnih ideala koji su i doveli do njegovog stvaranja. Musk, Altman i Brockman vjeruju u ljude, u gomilu. A ako se pokaže da su u pravu, jednog dana ova gužva neće biti potpuno ljudska.
ILYA KHEL