Neuronske mreže su snažne stvari, ali vrlo glasne. Inženjeri s Massachusetts Institute of Technology (MIT) uspjeli su razviti novi čip koji smanjuje potrošnju energije neuronske mreže za 95%, što bi im u teoriji moglo omogućiti rad čak i na mobilnim uređajima s baterijama. Pametni telefoni postaju pametniji i pametniji ovih dana, nudeći više AI usluga kao što su virtualni pomoćnici i prijevodi u stvarnom vremenu. No, obično neuronske mreže obrađuju podatke za ove usluge u oblaku, a pametni telefoni prenose podatke samo naprijed i nazad.
To nije idealno jer zahtijeva debeli komunikacijski kanal i pretpostavlja da se osjetljivi podaci prenose i pohranjuju izvan dohvata korisnika. No ogromne količine energije potrebne za napajanje neuronskih mreža koje pokreću GPU-i ne mogu se osigurati na uređaju koje napaja mala baterija.
MIT inženjeri razvili su čip koji može smanjiti potrošnju električne energije za 95%. Čip drastično smanjuje potrebu za prijenosom podataka između memorije čipa i procesora.
Neuronske mreže čine tisuće međusobno povezanih umjetnih neurona složenih u slojevima. Svaki neuron prima unos od nekoliko neurona u donjem sloju, a ako kombinirani ulaz prođe određeni prag, rezultat prenosi na nekoliko neurona gore. Snaga veze između neurona određuje se težinom koja je utvrđena tijekom trenažnog procesa.
To znači da za svaki neuron čip mora iz memorije izdvojiti ulaz za određenu vezu i težinu veze, pomnožiti ih, pohraniti rezultat, a zatim ponoviti postupak za svaki ulaz. Tu i tamo putuje puno podataka, a troši se puno energije.
Novi MIT čip eliminira ovo izračunavanjem svih ulaza paralelno u memoriji pomoću analognog kruga. To značajno smanjuje količinu podataka koje treba prevladati i rezultira značajnim uštedama energije.
Ovaj pristup zahtijeva da težina veza bude binarna, a ne raspona, ali prethodni teorijski rad pokazao je da to neće uvelike utjecati na točnost, a znanstvenici su otkrili da se rezultati čipa razlikuju za 2-3% od uobičajene verzije neuronske mreže koja djeluje na standardnom računalu.
Ovo nije prvi put da su znanstvenici stvorili čipove koji obrađuju procese u memoriji, smanjujući potrošnju energije neuronske mreže, ali ovo je prvi put da se ovaj pristup koristio za pokretanje snažne neuronske mreže poznate po obradi slike.
Promotivni video:
"Rezultati pokazuju impresivne specifikacije za energetski učinkovitu provedbu valjanih operacija unutar memorijskog niza", rekao je Dario Gil, potpredsjednik umjetne inteligencije u IBM-u.
"Ovo definitivno otvara mogućnosti za korištenje sofisticiranijih svjetskih neuronskih mreža za klasificiranje slika i videozapisa na Internetu stvari u budućnosti."
A to je zanimljivo ne samo za R&D grupe. Želja da se AI postavi na uređaje poput pametnih telefona, kućanskih aparata i svih vrsta IoT uređaja gura mnoge u Silicijskoj dolini prema čipovima male snage.
Apple je već integrirao svoj Neural Engine u iPhone X kako bi napajao, primjerice, tehnologiju prepoznavanja lica, a Amazon se šuška da razvija vlastite AI čipove za novu generaciju digitalnih asistenata Echo.
Velike tvrtke i proizvođači čipova također se sve više oslanjaju na strojno učenje, što ih prisiljava da svoje uređaje učine još energetski učinkovitijima. Ranije ove godine, ARM je predstavio dva nova čipa: procesor Arm Machine Learning koji upravlja općim AI zadacima od prevođenja do prepoznavanja lica i procesor za otkrivanje ruku Arm Object, koji, primjerice, otkriva lica u slikama.
Najnoviji mobilni čip Qualcomma, Snapdragon 845, ima GPU i snažno je usmjeren prema AI. Tvrtka je također predstavila Snapdragon 820E koji bi trebao raditi u bespilotnim dronovima, robotima i industrijskim uređajima.
Gledajući unaprijed, IBM i Intel razvijaju neuromorfne čipove s arhitekturom nadahnutom ljudskim mozgom i nevjerojatnom energetskom učinkovitošću. To bi teoretski moglo omogućiti TrueNorthu (IBM) i Loihiju (Intel) da izvrše moćno strojno učenje koristeći samo djelić snage konvencionalnih čipova, ali ti su projekti još uvijek vrlo eksperimentalni.
Bit će vrlo teško prisiliti čipove koji daju život neuronskim mrežama radi uštede energije baterije. Ali u trenutnom tempu inovacija, ovaj "vrlo težak" izgleda prilično izvedivo.
Ilya Khel