Reconhecimento facial deve ser regulamentado?

O recon­hec­i­men­to facial é um dos proces­sos de iden­ti­fi­cação mais uti­liza­dos pelos seres humanos, pois per­mite iden­ti­ficar rap­i­da­mente qual­quer pes­soa e assim definir o tipo apro­pri­a­do de inter­ação com ela. Além de iden­ti­ficar, podemos perce­ber o esta­do emo­cional de uma pes­soa ape­nas obser­van­do sua expressão facial.

Emb­o­ra o recon­hec­i­men­to facial seja uma tare­fa sim­ples para o ser humano, é extrema­mente com­plexo imple­men­tar esse proces­so em uma máquina, pois não sabe­mos, ao cer­to, como o cére­bro humano real­iza essa tare­fa. O cére­bro humano pode iden­ti­ficar cor­re­ta­mente uma pes­soa a par­tir de sua imagem facial mes­mo sobre as mais diver­sas condições, como vari­ações de ilu­mi­nação, obser­van­do ape­nas uma de suas car­ac­terís­ti­cas ou partes, e até mes­mo com dis­torções ou defor­mações.

A efi­ciên­cia de um sis­tema de recon­hec­i­men­to facial pode ser medi­da pela por­cent­agem de acer­tos na iden­ti­fi­cação de pes­soas sobre essas condições. Os sis­temas de recon­hec­i­men­to facial que exis­tem atual­mente não são seguros o sufi­ciente para serem apli­ca­dos em larga escala, mas muitos avanços foram obti­dos.

Exis­tem diver­sas téc­ni­cas que podem ser uti­lizadas para a cri­ação de um sis­tema de recon­hec­i­men­to facial. Descrever­e­mos as téc­ni­cas uti­lizadas para a con­strução de um sis­tema de recon­hec­i­men­to facial que, a par­tir de uma fotografia ou imagem de vídeo, seja capaz de extrair a imagem facial da pes­soa e ver­i­ficar se essa pes­soa per­tence ou não a uma base de dados com ima­gens faci­ais pre­vi­a­mente con­struí­das.

O sis­tema de recon­hec­i­men­to de faces é for­ma­do por três fas­es fun­da­men­tais: ras­trea­men­to da face, extração e seleção de car­ac­terís­ti­cas faci­ais, e recon­hec­i­men­to da face.

Sai­ba que seu ros­to já é recon­heci­do pelas maiores empre­sas de tec­nolo­gia do plan­e­ta. É assim que o Face­book adi­ciona fotos de ami­gos com você em sua lin­ha do tem­po e o Google mon­ta álbuns automáti­cos basea­d­os em ros­tos de fotografias armazenadas no Google Fotos. A Microsoft tam­bém pos­sui tec­nolo­gias avançadas do gênero, assim como Apple, Ama­zon e até a IBM.

O uso dess­es dados pes­soais varia de empre­sa a empre­sa, mas tem cau­sa­do polêmi­cas recentes como a da parce­ria do Google com o Pro­je­to Maven e a do fornec­i­men­to de fer­ra­men­tas de recon­hec­i­men­to facial da Ama­zon a forças poli­ci­ais amer­i­canas.

Assim, seria do inter­esse do cidadão uma reg­u­la­men­tação do uso desse tipo de tec­nolo­gias? As gigantes da tec­nolo­gia pare­cem diver­gir sobre o uso indis­crim­i­na­do da tec­nolo­gia. Em um lado está a Microsoft. Par­tiu da empre­sa uma ini­cia­ti­va de dar sug­estões a gov­er­nos de como cri­ar regras para que essas fer­ra­men­tas não sejam usadas indis­crim­i­nada­mente.

No últi­mo dia 13 de jul­ho, Brad Smith, pres­i­dente da empre­sa, pub­li­cou uma lon­ga car­ta inti­t­u­la­da “Tec­nolo­gia de recon­hec­i­men­to facial: a neces­si­dade de reg­u­la­men­tação públi­ca e respon­s­abil­i­dade cor­po­ra­ti­va”. Nela, o exec­u­ti­vo expli­ca os avanços recentes nesse ramo tec­nológi­co, apon­ta pon­tos pos­i­tivos e neg­a­tivos, cita situ­ações dis­tópi­cas da ficção cien­tí­fi­ca para afir­mar que é necessária a cri­ação de leis que reg­ulem o uso do recon­hec­i­men­to facial – seja por parte do gov­er­no, ou das empre­sas.

A Microsoft argu­men­ta que, sem reg­u­lação, “autori­dades públi­cas podem depen­der de abor­da­gens tec­nológ­i­cas fal­has ou ten­den­ciosas para decidir quem ras­trear, inves­ti­gar ou até pren­der por um crime”. Isso sem con­tar no mon­i­tora­men­to de pes­soas par­tic­i­pantes de man­i­fes­tações ou out­ros even­tos que envolvam liber­dade de expressão ou questões de pri­vaci­dade.

Erros grotescos

Mas nem toda empre­sa parece dividir a mes­ma pre­ocu­pação da Microsoft.

Cal­hou de, em menos de duas sem­anas, a ACLU (União Amer­i­cana pelas Liber­dades Civis) mostrar que os ques­tion­a­men­tos da Microsoft eram mais do que váli­dos. A enti­dade amer­i­cana de defe­sa dos dire­itos e liber­dades indi­vid­u­ais con­tra­tou o soft­ware Rekog­ni­tion, da Ama­zon, para um teste de pre­cisão. Ela usou o pro­gra­ma de recon­hec­i­men­to facial para cruzar fotos dos mem­bros do con­gres­so amer­i­cano com um ban­co de dados de 25 mil fotos de crim­i­nosos.

Para sur­pre­sa da ACLU, 28 con­gres­sis­tas foram iden­ti­fi­ca­dos como pre­sas por crimes. Os erros atin­gi­ram home­ns e mul­heres, mem­bros dos par­tidos Repub­li­cano e Democ­ra­ta, mas foram pro­por­cional­mente maiores com leg­is­ladores negros, que são 20% do con­gres­so e cor­re­spon­der­am a 39% dos con­gres­sis­tas iden­ti­fi­ca­dos erronea­mente pelo Rekog­ni­tion.

A Ama­zon relevou as impre­cisões de seu pro­gra­ma, assim como usos abu­sivos do mes­mo. Em comu­ni­ca­do após ser infor­ma­da do teste da ACLU, a empre­sa ques­tio­nou como a orga­ni­za­ção uti­li­zou a fer­ra­men­ta e apon­tou os méri­tos da mes­ma.

“Vimos clientes usarem as funções de análise de imagem de vídeo do Rekog­ni­tion de for­ma que ben­e­fi­ci­am mate­rial­mente tan­to a sociedade quan­to orga­ni­za­ções. Con­tin­u­amos empol­ga­dos sobre como a análise de imagem e vídeo pode ser um motor para o bem no mun­do, inclu­sive no setor públi­co e na apli­cação da lei”, escreveu a Ama­zon em um comu­ni­ca­do.

A demon­stração em con­gres­sis­tas foi o sufi­ciente para alguns políti­cos amer­i­canos darem os primeiros pas­sos na direção da reg­u­la­men­tação. Por meio de uma car­ta endereça­da ao exec­u­ti­vo-chefe Jeff Bezos, o senador Edward J. Markey e os con­gres­sis­tas Luis Gutiér­rez e Mark DeSaulin­ier cobraram a Ama­zon pela ven­da irrestri­ta do Rekog­ni­tion, lev­an­tan­do ques­tion­a­men­tos sobre a eficá­cia atu­al e as ameaças às liber­dades indi­vid­u­ais trazi­das por pro­gra­mas como esse.

Em jun­ho, fun­cionários da própria Ama­zon endereçaram uma car­ta ao chefe, o homem mais rico do mun­do, recla­man­do do uso do Rekog­ni­tion pela imi­gração dos Esta­dos Unidos, que vin­ha sep­a­ran­do fil­hos de imi­grantes nas fron­teiras do país. “Nos recusamos a con­tribuir a fer­ra­men­tas que vio­lam dire­itos humanos. Como fun­cionários com pre­ocu­pações éti­cas, deman­damos uma palavra no que con­struí­mos e como isso é usa­do”, diz o tex­to.

E as outras empresas?

Crit­i­ca­do por seus próprios fun­cionários pela relação esta­b­ele­ci­da com mil­itares a par­tir do Pro­je­to Maven, com dire­ito a pedi­dos de demis­são na época, o Google optou por não comen­tar ao UOL Tec­nolo­gia a questão especí­fi­ca da reg­u­la­men­tação públi­ca das tec­nolo­gias de recon­hec­i­men­to facial, mas a pressão inter­na no iní­cio do ano fez com que a gigante das bus­cas cri­asse suas próprias restrições quan­to à ven­da dessas fer­ra­men­tas.

Em jun­ho, a empre­sa pub­li­cou uma car­til­ha na qual se com­pro­m­ete a não per­mi­tir que suas fer­ra­men­tas de inteligên­cia arti­fi­cial que usam o recon­hec­i­men­to facial sejam aproveitadas para fins mil­itares ou esforços de vig­ilân­cia não jus­ti­ficáveis. O Google vende a Cloud Vision API, fer­ra­men­ta usa­da para “extrair insights a par­tir de ima­gens” que até detec­ta ros­tos e emoções, mas não atribui iden­ti­dade a eles — nada de recon­hec­i­men­to facial, só detecção.

Facebook não curte

O Face­book tam­bém não tem posi­ciona­men­to especí­fi­co sobre a reg­u­la­men­tação na atu­al­i­dade, mas, só em 2017, a empre­sa lutou con­tra a cri­ação de leis estad­u­ais em cin­co Esta­dos dos EUA. A infor­mação é do Cen­ter for Pub­lic Integri­ty, que apurou que a rede social faz lob­by para difi­cul­tar a aprovação de regras sobre pro­teção do con­sum­i­dor con­tra o recon­hec­i­men­to facial. Dos cin­co Esta­dos, só o de Wash­ing­ton aprovou uma lei.

A com­pan­hia de Mark Zucker­berg restringe suas tec­nolo­gias de recon­hec­i­men­to facial à própria rede social. Por con­ta do GDPR, a nova lei de dados europeia, ela ago­ra per­mite que eles habilitem, ou não, que os algo­rit­mos iden­ti­fiquem nos­sos ros­tos.

Isso não exim­iu a empre­sa de polêmi­cas, já que no últi­mo dia 9 o “New York Times” pub­li­cou uma matéria sobre os riscos de pri­vaci­dade rel­a­tivos a essas fer­ra­men­tas, citan­do argu­men­tações de gru­pos de defe­sa do con­sum­i­dor que con­tes­tam a fal­ta de con­sen­ti­men­to dos usuários a respeito do uso do recon­hec­i­men­to facial.

O Face­book não cede a tec­nolo­gia a ter­ceiros e diz não aproveitá-la para fins pub­lic­itários den­tro da própria platafor­ma. Segun­do a empre­sa, a base de dados de mais de um bil­hão de ros­tos é aproveita­da para dar mais segu­rança e mel­ho­rar a exper­iên­cia do usuário, seja para alertá-lo de um descon­heci­do que pos­tou uma foto dele ou facil­i­tar uma mar­cação na foto pub­li­ca­da pelo mel­hor ami­go.

Restou a Apple, que não respon­deu ao ques­tion­a­men­to do UOL Tec­nolo­gia sobre o debate. Ape­sar dis­so, a empre­sa respon­sáv­el pelo iPhone X e seu Face ID já pediu mais reg­u­la­men­tação com relação à pri­vaci­dade de dados.

O exec­u­ti­vo-chefe Tim Cook cutu­cou essa feri­da no final de março, jus­ta­mente quan­do explodiu o escân­da­lo de vaza­men­to de dados do Face­book por con­ta do Cam­bridge Ana­lyt­i­ca. Em um even­to na Chi­na, Cook não men­cio­nou o recon­hec­i­men­to facial especi­fi­ca­mente, mas mostrou pre­ocu­pação com a segu­rança de infor­mações pes­soais — o ros­to é uma delas.

“Acho que essa situ­ação é tão pre­ocu­pante e se tornou tão grande que provavel­mente uma reg­u­la­men­tação bem con­struí­da é necessária”, disse o exec­u­ti­vo fazen­do alusão ao inci­dente do Face­book. Assim como a empre­sa de Zucker­berg, a Apple restringe o recon­hec­i­men­to facial a sua própria platafor­ma: álbuns orga­ni­za­dos auto­mati­ca­mente por pes­soas estão restri­tos às con­tas da Apple e o Face ID a um úni­co do iPhone X.