Tehničke tvrtke tiho su proučavale vaše fotografije kako bi poboljšale sustav prepoznavanja lica. A evo kako su to napravili.
Prepoznavanje lica snažna je tehnologija koja ozbiljno prijeti građanskim slobodama. To je također uspješan posao. Danas mnogi startupi i tehnološki divovi prodaju sustave prepoznavanja lica hotelima, trgovcima, pa čak i školama i ljetnim kampovima. Ovaj posao je u procvatu zahvaljujući novim algoritmima koji mogu identificirati ljude s mnogo većom točnošću nego prije pet godina. Da bi poboljšali svoje algoritme, obučeni su na milijardama lica, ponekad bez ičijeg dopuštenja. Stoga su dobre šanse da je vaše lice dio „kompleta za trening“u nekom od ovih sustava ili da se nalazi u korisničkoj bazi podataka neke tvrtke.
Načini prikupljanja informacija koje koriste tvrtke mogu iznenaditi potrošače. Na primjer, u najmanje tri slučaja tvrtke su dobile milijune slika putem aplikacija za fotografije pametnih telefona. Sada je sustav prepoznavanja lica slabo reguliran, tako da ljudi gotovo nemaju načina da ograniče upotrebu svog lica u komercijalne svrhe.
2018. kamera je prepoznala lica putnika koji su užurbano silazili avionom u blizini Washingtona u Columbiji. U stvari, i avion i putnici bili su dio simulacije koju je stvorio Nacionalni institut za standarde i tehnologiju (NIST) kako bi pokazao kako se podaci mogu prikupljati „na terenu“. Lica korištena u ovom eksperimentu bit će dio natjecanja NIST u kojem tvrtke iz cijelog svijeta testiraju svoje sustave prepoznavanja lica.
U simulaciji situacije u zrakoplovu, volonteri su pristali koristiti svoja lica. To je bio slučaj u ranim fazama sustava prepoznavanja lica - istraživači su pokušali dosljedno uključiti ljude u svoje setove. Sada se malo vjerojatno da će posao smetati i tražiti dopuštenje.
Prema istraživanju budućnosti istraživanja tržišta, tvrtke (uključujući lidere Face ++ i Kairos) nameću se postati prvo mjesto u industriji koja raste 20% godišnje i dostići će 9 milijardi dolara u količini do 2022. godine. Poslovni model ovih igrača temelji se na licenciranom softveru za sve veći broj klijenata - od agencija za provođenje zakona do sveučilišta - koji ga koriste u vlastitom razvoju.
Na natjecanju su pobjednici oni proizvodi čiji algoritmi mogu prepoznati lica točno i bez pogreške. Kao i kod svih umjetnih inteligencija, izgradnja sustava prepoznavanja lica uključuje nakupljanje velike količine podataka za trening. Dok tvrtke mogu koristiti vladine i sveučilišne podatke (poput Yaleove baze podataka), ovi priručnici za obuku dovoljno su mali da sadrže samo nekoliko tisuća lica.
Promotivni video:
Ovi službeni kompleti imaju i druge nedostatke. Mnogima nedostaje rasne raznolikosti i različiti uvjeti - sjene, kape, kozmetika - koji mijenjaju percepciju osobe u stvarnom svijetu. Prirodni sustav prepoznavanja lica zahtijeva više slika. Puno više.
"Stotinu nije dovoljno, a tisuću nije dovoljno. Trebamo milijune slika. Ako ne uvježbate sustav da prepozna ljude s naočalama i različitim bojama kože, nećete postići dobre rezultate ", kaže Peter Trepp, direktor FaceFirst-a, kalifornijske tvrtke koja pomaže trgovcima u identificiranju kriminalaca u njihovim trgovinama.
Prijava za to
le. Primjerice, aplikacija ga je prisiljavala na slanje sponzoriranih veza na sve kontakte s korisnicima, taktiku u Silicijskoj dolini poznatu kao "sjeckanje rasta". Korisnici su se također žalili zbog krađe podataka.
"Odmah nakon instalacije aplikacija prikuplja sve telefone s popisa kontakata i počinje ih slati SMS-om … A zatim preuzima sve vaše fotografije i kopira ih u pohranu oblaka", napisao je Greg Miller, vlasnik foto studija u Teksasu, u 2015 recenziji na Facebooku.
Četiri godine kasnije Miller je prestravljen otkrio da su njegove fotografije još uvijek pohranjene na EverRollu, ali sada je tvrtka sa sustavom prepoznavanja lica.
"Ne, nisam znao za to i s tim se potpuno ne slažem", požalila se Miller Fortuneu. „Takav je nadzor stvarni problem. Povjerljivosti više nema i to me jako plaši."
Doug Ely, direktor Ever AI-a, tvrdi da tvrtka nigdje ne prenosi informacije iz svoje baze podataka, a fotografije se koriste samo za obuku sustava. Također je dodao da je tvrtka srodna društvenoj mreži od koje se u svakom trenutku može napustiti. Eli je negirala da je Ever AI od početka imao namjeru postati tvrtka za prepoznavanje lica, rekavši da je isključivanje aplikacije odluka menadžmenta. Ikad klijenti AI sada koriste njegove podatke u svoje svrhe, uključujući upravljanje sustavima za identifikaciju zaposlenika, maloprodaju, kao i telekomunikacijama i provođenje zakona.
Nikada AI nije jedina tvrtka za prepoznavanje lica koja je jednom nudila aplikaciju za fotografiranje. Orbeus, startup sa sjedištem u San Franciscu koji je kupio Amazon 2016. (koji nije najavljen), također je ponudio popularnu pohranu PhotoTime.
Prema bivšem Orbeusovom zaposleniku, apelacija startapa na Amazon leži u njegovim tehnologijama umjetne inteligencije i velikom mnoštvu fotografija ljudi na javnim mjestima.
„Amazon je tražio takve mogućnosti. Kupili su sve, a zatim zatvorili aplikaciju , kaže zaposlenik koji je želio ostati anoniman, citirajući sporazum o neotkrivanju podataka.
PhotoTime više ne postoji, iako Amazon i dalje prodaje još jedan Orbeusov proizvod poznat kao marka Rekogservation. U poslovanju i provođenju zakona koristi se kao sustav prepoznavanja lica.
Amazon je odbio otkriti detalje koristi li se Orbeusova fotografija za treniranje ponovnog paljenja, navodeći samo da uzima podatke iz različitih izvora. Tvrtka je dodala da ne koristi korisničke podatke iz aplikacije Prime za obuku sustava identiteta.
Real Networks još je jedna tvrtka koja koristi aplikacije za obuku svog sustava. Sa sjedištem u Seattlu i nekada poznata po videoplayeru iz 90-ih, tvrtka je sada usmjerena na prepoznavanje dječijih lica u školama. Istovremeno, tvrtka nudi obiteljsku aplikaciju zvanu RealTimes, za koju kritičari kažu da prikuplja podatke o licima korisnika.
"Aplikacija vam omogućuje stvaranje video prezentacija iz fotografija. Zamislite da mama takvu prezentaciju pošalje baki, a sustav te fotografije koristi za trening. Zvuči jezivo ", kaže Claire Gavry, profesorica sa Sveučilišta Georgetown, koja je objavila članak koji je imao veliki utjecaj na tehnologiju prepoznavanja lica.
Real Networks potvrdio je da se aplikacija koristi za poboljšanje prepoznavanja lica, ali dodali su da se koriste i drugi izvori informacija.
U svim slučajevima u kojima su tvrtke koristile podatke sa svojih aplikacija za fotografije da bi obučile svoje sustave, korisnike nisu pitale za dozvolu, već su sa korisničkim ugovorima primile skriven pristanak.
Ali to je već prilično puno u usporedbi s onim što rade druge tvrtke. Prema Patrick Grother-u, koji vodi konkurenciju NIST-a, u redu je da tvrtke koje prikupljaju podatke o licu pišu programe koji "hvataju" slike sa web lokacija poput SmugMug ili Tumblr. U tim slučajevima korisničko dopuštenje nije ni pretpostavljeno.
Ovaj pristup samopomoći istaknut je u nedavnom izvješću NBC News-a u kojem je detaljno opisano kako je IBM preuzeo preko milion slika lica s Flickr-a kao dio AI studije. (John Smith, koji nadgleda tehnologije umjetne inteligencije u IBM-ovom istraživačkom odjelu, rekao je da su "osobni podaci zaštićeni" i da je u tijeku rad s onima koji žele ukloniti osobne podatke iz baze podataka).
Sve to postavlja pitanja o zaštiti osobnih podataka od strane tvrtki koje ih prikupljaju i potrebi državne kontrole u ovom području. Ova će se tema ozbiljnije tek razvijati daljnjim širenjem sustava prepoznavanja lica u društvu, kao iu okruženju velikih i malih poduzeća.
Od dućana do škola
Sustavi prepoznavanja lica nisu novost. Najjednostavnije verzije takvih programa bile su još od 1980-ih, kada su američki matematičari počeli definirati lica kao niz numeričkih vrijednosti i koristili su vjerojatne modele za pronalaženje podudaranja. Tampa na Floridi zaštita je koristila 2001. Super Bowl, a u kockarnicama se koristi već godinama. No, puno se toga promijenilo u posljednjih nekoliko godina.
"Sustav prepoznavanja lica prolazi kroz nešto poput revolucije", kaže Patrick Grother, dodajući da je promjena najočitija u sve većoj kvaliteti slika. „Temeljna tehnologija se promijenila. Stari razvoj zamijenjen je novim, mnogo učinkovitijim sustavima."
Revolucija prepoznavanja lica potaknuta su dva faktora koji su uvelike promijenili i proširili opseg tehnologije umjetne inteligencije. Prvi je pojava dubokog učenja, sustava prepoznavanja obrazaca koji u principu nalikuje ljudskom mozgu. Drugo je rekordni višak podataka koji se mogu pohraniti i analizirati po niskom trošku koristeći računalstvo u oblaku.
Nije iznenađujuće što su prve kompanije koje su u potpunosti iskoristile ove događaje bile Google i Facebook. U 2014. godini, potonji je objavio program nazvan DeepFace, kojim se s tačnošću od 97,24% može utvrditi da dva lica pripadaju istoj osobi - ljudi pokazuju sličan rezultat na takvom testu. Godinu dana kasnije, Google je sa svojim FaceNet programom postigao 100% točnost (prema podacima zaštitarske tvrtke Gemalto).
Danas zahvaljujući velikom dijelu pristupa velikim bazama podataka lica, ovi i drugi tehnolozi (poput Microsofta) vodeća su mjesta u prepoznavanju lica. No, sve više start-up tvrtki pokazuje visoke rezultate, također nastoje zauzeti svoju nišu na rastućem tržištu programa prepoznavanja lica.
Samo u Sjedinjenim Državama postoji više desetina takvih tvrtki, uključujući Kairos i FaceFirst. Prema tržišnim istraživačima iz PitchBook-a, Silicijska dolina brzo dobiva privlačnost u sektoru, uz značajna ulaganja u posljednjih nekoliko godina. PitchBook procjenjuje da ukupna investicija u posljednje tri godine iznosi 78,7 milijuna dolara. To prema fantastičnim standardima nije fantastičan broj, ali oni odražavaju povjerenje rizičnih kapitalista da će nekolicina početnih startupa uskoro prerasti u velike tvrtke.
Aktivnost rizičnog kapitala u industriji prepoznavanja lica u Sjedinjenim Državama.
Novi poslovni modeli usredotočeni na prepoznavanje lica još uvijek se pojavljuju. To je posebno vidljivo kod licenciranog poslovnog softvera. Prema Crunchbaseu, godišnji prihodi za tvrtke poput Ever AI i FaceFirst su skromni, kreću se od dva do osam milijuna dolara. Amazon i drugi tehnološki divovi ne objavljuju takve brojke.
Dugo su vrijeme najzanimljiviji korisnici sustava prepoznavanja lica bile agencije za provođenje zakona. Ali sada mnoge tvrtke, uključujući WalMart, koriste takve programe da dobiju više informacija o kupcima u njihovim trgovinama.
Na primjer, kalifornijska kompanija FaceFirst nudi svoje sustave stotinama trgovaca, uključujući trgovine rabljenim i ljekarnama. Prema riječima predsjednika uprave, mnogi klijenti koriste tehnologiju za otkrivanje krađe, ali sve je veći broj onih koji je pokušavaju koristiti u druge svrhe, uključujući pronalaženje VIP klijenata i identificiranje zaposlenika.
Dugo su vrijeme najzanimljiviji korisnici sustava prepoznavanja lica bile agencije za provođenje zakona.
Čini se da Amazon također u širokom spektru svojih aktivnosti traži mogućnosti primjene sustava prepoznavanja lica. Pored rada s policijskim postajama, maloprodajni gigant pomaže hotelima da ubrzaju postupke prijave, prema raznim izvorima.
"Tvrtke iz cijelog svijeta dolaze u Amazon i kažu:" To je upravo ono što želimo učiniti. " I razumiješ da je ovo prekrasno područje. Svi su zainteresirani za to ", kaže anonimni izvor koji se pridružio Amazonu prilikom kupovine Orbeusa, tvrtke za prepoznavanje lica.
Za Amazon, ova aktivnost nije prošla bez kontroverznih posljedica. Prošlog srpnja Američka unija za građanske slobode (ACLU) testirala je sustave tvrtke uspoređujući lica svih članova Kongresa s bazom podataka o kriminalcima. Test je pokazao 28 lažnih podudarnosti, a najviše je pogrešaka bilo zbog boje kože sudionika u eksperimentu. Kao rezultat toga, Unija je zatražila zabranu upotrebe sustava prepoznavanja lica u agencijama za provođenje zakona. Međutim, Amazon je inzistirao da se sustav proda policijskim službenicima i američkoj imigraciji i carinskoj provedbi.
Potom su neki članovi Kongresa, uključujući izaslanika Jerrolda Nadlera i senatora Ron Weedena, zatražili od Ureda za reviziju da ispita korištenje softvera za prepoznavanje lica. Vodeće tvrtke također su zabrinute zbog ovih sustava. Predsjednik Microsofta Brad Smith u prosincu je pozvao na reguliranje takvih tehnologija na državnoj razini.
No, kako zabrinutost raste, uporaba sustava prepoznavanja lica samo se proširuje jer tvrtke pronalaze sve više i više koristi za njih. Na primjer, Real Networks, programer za obiteljske fotografije, nudi svoj softver školama širom zemlje besplatno. Tvrtka govori o stotinama škola kao svojim klijentima. U intervjuu magazinu Wired, izvršni direktor Real Networks-a Rob Glaser rekao je da je pokrenuo projekt kao nepristrano rješenje sporova oko školske sigurnosti i upravljanja oružjem. Web-lokacija tvrtke trenutno ovaj proizvod pozicionira kao tehnologiju koja organizatorima događaja omogućuje "prepoznavanje svakog obožavatelja, kupca, zaposlenika ili gosta", čak i ako je njihovo lice skriveno.
Jedinstvena tehnologija prepoznaje lica čak i kod bojanja ili intenzivnog šminkanja. Sustav razlikuje i prepoznaje lica u raznim uvjetima osvjetljenja.
Real Networks nije jedina tvrtka koja cilja tržište djece. Teksaški startup sa sjedištem u Teksasu, Waldo, nudi sličnu tehnologiju u stotinama škola, kao i dječjim sportskim ligama i ljetnim kampovima. U praksi to podrazumijeva korištenje takvih sustava za skeniranje slika snimljenih video kamerama ili službenih fotografa te daljnje usklađivanje dječjih lica s bazom podataka slika roditelja. Roditelji uvijek mogu odbiti sudjelovati.
Prema izvršnom direktoru Walda Rodneya Ricea, škole svake godine naprave desetke tisuća fotografija, a nekoliko njih završi u godišnjim albumima. Prepoznavanje lica, rekao je, učinkovit je način da se ostaci ostave onima koji ih trebaju.
"Za cijenu kokica ili smeđeg papira, ove fotografije možete naručiti djedovima i bakama", kaže Rice i objašnjava da Waldo ima ugovor o podjeli prihoda s javnim školama. Tvrtku trenutno koristi više od 30 država u Sjedinjenim Državama.
Uspon Waldoa i FaceFirst-a pokazuje kako tvrtke normaliziraju prepoznavanje lica što se do nedavno činilo znanstvenom fantastikom. Uz širenje takvih tehnologija, više će kompanija prikupiti fotografije s vaših lica - bilo za osposobljavanje algoritama ili za pronalaženje kupaca i kriminalaca - čak i ako rizik od pogreške i zlostavljanja samo raste.
Budućnost vašeg lica
2017. godine objavljena je epizoda tehno-distopijske serije Crno ogledalo u kojoj se uznemirena majka brine o varanom mladiću koji provodi vrijeme sa svojom kćeri. Da bi saznala tko je, ona mu fotografiju šalje u službu za identifikaciju potrošača. Program brzo pokazuje njegovo ime i mjesto rada, a žena se ide baviti s njim.
Nekada izmišljeni scenarij sada izgleda sasvim stvarno. Iako se većina briga oko prepoznavanja lica odnosila na uporabu ove tehnologije u vladinim organizacijama, njezina upotreba među komercijalnim tvrtkama, pa čak i pojedincima (u stilu "Crnog zrcala"), predstavlja očigledne rizike za osobne podatke.
Kako sve više tvrtki počinje prodavati sustave prepoznavanja lica, a naša lica upadaju u više baza podataka, softver bi mogao steći popularnost među voajerima i stalkerima. Prodavači i iznajmljivači mogu ga koristiti za prepoznavanje neželjenih klijenata i iznajmljivača kako bi tiho uskratili smještaj i usluge.
"Svatko tko ima kamkorder u gusto naseljenom području može započeti sakupljati baze podataka, a zatim upotrijebiti ovaj analitički softver da vide podudaraju li se s vašim podacima", kaže Jay Stanley, analitičar iz ACLU-a.
Postoji i rizik od hakerskih napada. Andrei Barisevich iz tvrtke Bemini Advisors, tvrtka za kibernetsku sigurnost, kaže da je na web stranicama darkneta vidio profile ukradene iz indijske nacionalne biometrijske baze podataka. Takve podatke o Amerikancima nije primijetio, ali je dodao: "Samo je pitanje vremena." Propuštanje podataka o kupcima iz hotela ili trgovine može pomoći kriminalcima da počine prijevaru ili krađu identiteta.
Budući da se tehnologija distribuira bez većeg državnog nadzora, odgovornost za ograničavanje njezine zlouporabe snosi samo dobavljači softvera. U intervjuu za Fortune, izvršni direktori startupa za prepoznavanje lica rekli su da su spremni za takve prijetnje. Neki, uključujući izvršnog direktora FaceFirst-a, opisali su širenje takvih sustava u Kini kao opasno.
Vođe su također predložile dva pristupa suzbijanju zlostavljanja. Prvo je usko surađivati s kupcima softvera kako bi osigurali njegovu ispravnu upotrebu. Na primjer, Doug Eli iz Ever AI kaže da njegova tvrtka ima viši standard od Amazona, za koji tvrdi da svoj alat za ponovno otkrivanje pruža gotovo svima.
Kao odgovor na pitanje o kontroli zlostavljanja, Amazon je dao ranije objavljenu izjavu Matt Wood-a, koji upravlja umjetnom inteligencijom na Amazon Web Services. Wood ističe da je politika tvrtke koja zabranjuje štetne i ilegalne aktivnosti.
Drugo moguće jamstvo sigurnosti podataka je uporaba tehničkih mjera kojima se osigurava nemogućnost hakiranja baza podataka "prednjih" podataka.
Rodney Rice, izvršni direktor Waldo-a, kaže da su lica pohranjena kao alfanumerički zapisi. To znači da čak i u slučaju propuštanja podataka povjerljivost neće biti ugrožena, jer haker neće moći dešifrirati hashe i koristiti ih. To su gledište podržali i drugi.
Rice se boji da bi zakonodavna definicija pravila o korištenju "lica" tehnologija mogla učiniti više štete nego koristi. "Ostaviti dijete da to shvati i stvoriti pravila je smiješno", kaže on.
U međuvremenu, neke tvrtke za prepoznavanje lica usvajaju nove tehnike koje mogu smanjiti potrebu za velikim podacima za obukom. Takav je slučaj, na primjer, s Kairosom, početnim startupom iz Miamija koji, između ostalog, radi sa širokim spektrom hotela. Prema Stephenu Mooreu, šefu za sigurnost u kompaniji, Kairos stvara "sintetička" lica kako bi simulirala širok raspon emocija i rasvjete. Takva "umjetna lica" smanjuju upotrebu podataka o licu iz stvarnog svijeta pri stvaranju tehnoloških proizvoda.
Sve ove mjere - nadzor nad korisnicima sustava, jaka zaštita podataka i sintetički alati za učenje - mogu umanjiti neke probleme privatnosti povezane s poslovnom upotrebom naših lica. U isto vrijeme, FaceFirst-ov Trepp vjeruje da će se tjeskoba smanjiti pomnijim pregledom sustava. On čak tvrdi da će se scene prepoznavanja lica iz znanstveno-fantastičnog filma iz 2002. godine o manjini početi osjećati normalno.
„Milenijci su mnogo spremniji dijeliti informacije. Ovaj svijet [iz izvještaja o manjinama] sve je bliži našem ", kaže on. - Ako učinite sve kako treba, onda mislim da će se ljudima svidjeti i to će biti pozitivno iskustvo. Neće biti tako zastrašujuće."
Ostali, uključujući ACLU, manje su optimistični. Međutim, usprkos sve većoj raspravi oko tehnologije, u ovom trenutku gotovo ništa ne ograničava upotrebu vašeg lica. Jedine iznimke su u tri države - Illinois, Texas i Washington DC - za koje je potreban određeni stupanj pristanka prije nego što se koristi tuđim licem. Ti se zakoni zapravo ne koriste u praksi, osim u Illinoisu, gdje potrošači mogu poduzeti pravne radnje radi izvršavanja ovog prava.
Zakon o Illinoisu trenutno je predmet velikog žalbenog suđenja koje uključuje Facebook, koji tvrdi da digitalno indeksiranje nije podložno ograničenjima za dobivanje lica. 2017. i Facebook i Google pokrenuli su neuspješnu kampanju lobiranja kako bi uvjerili zakonodavce iz Illinoisa da omekšaju zakon. Krajem siječnja, zagovornici zakona podržali su Vrhovni sud države Illinois kada je presudio da potrošači mogu tužiti za neovlašteno korištenje njihovih biometrija, čak i ako nije učinjena stvarna šteta.
Druge države također dopuštaju mogućnost usvajanja vlastitih zakona o biometriji. Na saveznoj razini zakonodavci su do sada posvetili malo pažnje. To bi se, međutim, moglo promijeniti jer su senatori Brian Schatz i Roy Blount ovog mjeseca uveli zakonodavstvo kojim bi tvrtke trebale dobiti dozvolu prije upotrebe prepoznavanja lica na javnim mjestima ili razmjene podataka s osobama s bilo kojom trećom stranom.
Claire Garvey, istraživačica iz Georgetowna, podržava zakone za kontrolu tih sustava. Ali kaže da su zakonodavci teško išli u korak s tehnologijom.
„Jedan od izazova prepoznavanja lica je njihovo nevjerojatno brzo usvajanje zahvaljujući postojećim bazama podataka. Lica su nam bila jako osvijetljena ", kaže ona. "Za razliku od otisaka prstiju, koji su dugo imali pravila prikupljanja podataka, još uvijek ne postoji propis za tehnologije prepoznavanja lica."
Autor Jeff John Roberts
Prevela: Ekaterina Egina
Uredio: Sergej Razumov