Reconhecimento facial deve ser regulamentado?

Reconhecimento facial deve ser regulamentado

O reconhecimento facial é um dos processos de identificação mais utilizados pelos seres humanos, pois permite identificar rapidamente qualquer pessoa e assim definir o tipo apropriado de interação com ela. Além de identificar, podemos perceber o estado emocional de uma pessoa apenas observando sua expressão facial.

Embora o reconhecimento facial seja uma tarefa simples para o ser humano, é extremamente complexo implementar esse processo em uma máquina, pois não sabemos, ao certo, como o cérebro humano realiza essa tarefa. O cérebro humano pode identificar corretamente uma pessoa a partir de sua imagem facial mesmo sobre as mais diversas condições, como variações de iluminação, observando apenas uma de suas características ou partes, e até mesmo com distorções ou deformações.

A eficiência de um sistema de reconhecimento facial pode ser medida pela porcentagem de acertos na identificação de pessoas sobre essas condições. Os sistemas de reconhecimento facial que existem atualmente não são seguros o suficiente para serem aplicados em larga escala, mas muitos avanços foram obtidos.

Existem diversas técnicas que podem ser utilizadas para a criação de um sistema de reconhecimento facial. Descreveremos as técnicas utilizadas para a construção de um sistema de reconhecimento facial que, a partir de uma fotografia ou imagem de vídeo, seja capaz de extrair a imagem facial da pessoa e verificar se essa pessoa pertence ou não a uma base de dados com imagens faciais previamente construídas.

O sistema de reconhecimento de faces é formado por três fases fundamentais: rastreamento da face, extração e seleção de características faciais, e reconhecimento da face.

Saiba que seu rosto já é reconhecido pelas maiores empresas de tecnologia do planeta. É assim que o Facebook adiciona fotos de amigos com você em sua linha do tempo e o Google monta álbuns automáticos baseados em rostos de fotografias armazenadas no Google Fotos. A Microsoft também possui tecnologias avançadas do gênero, assim como Apple, Amazon e até a IBM.

O uso desses dados pessoais varia de empresa a empresa, mas tem causado polêmicas recentes como a da parceria do Google com o Projeto Maven e a do fornecimento de ferramentas de reconhecimento facial da Amazon a forças policiais americanas.

Assim, seria do interesse do cidadão uma regulamentação do uso desse tipo de tecnologias? As gigantes da tecnologia parecem divergir sobre o uso indiscriminado da tecnologia. Em um lado está a Microsoft. Partiu da empresa uma iniciativa de dar sugestões a governos de como criar regras para que essas ferramentas não sejam usadas indiscriminadamente.

No último dia 13 de julho, Brad Smith, presidente da empresa, publicou uma longa carta intitulada “Tecnologia de reconhecimento facial: a necessidade de regulamentação pública e responsabilidade corporativa”. Nela, o executivo explica os avanços recentes nesse ramo tecnológico, aponta pontos positivos e negativos, cita situações distópicas da ficção científica para afirmar que é necessária a criação de leis que regulem o uso do reconhecimento facial – seja por parte do governo, ou das empresas.

A Microsoft argumenta que, sem regulação, “autoridades públicas podem depender de abordagens tecnológicas falhas ou tendenciosas para decidir quem rastrear, investigar ou até prender por um crime“. Isso sem contar no monitoramento de pessoas participantes de manifestações ou outros eventos que envolvam liberdade de expressão ou questões de privacidade.

Erros grotescos

Mas nem toda empresa parece dividir a mesma preocupação da Microsoft.

Calhou de, em menos de duas semanas, a ACLU (União Americana pelas Liberdades Civis) mostrar que os questionamentos da Microsoft eram mais do que válidos. A entidade americana de defesa dos direitos e liberdades individuais contratou o software Rekognition, da Amazon, para um teste de precisão. Ela usou o programa de reconhecimento facial para cruzar fotos dos membros do congresso americano com um banco de dados de 25 mil fotos de criminosos.

Para surpresa da ACLU, 28 congressistas foram identificados como presas por crimes. Os erros atingiram homens e mulheres, membros dos partidos Republicano e Democrata, mas foram proporcionalmente maiores com legisladores negros, que são 20% do congresso e corresponderam a 39% dos congressistas identificados erroneamente pelo Rekognition.

A Amazon relevou as imprecisões de seu programa, assim como usos abusivos do mesmo. Em comunicado após ser informada do teste da ACLU, a empresa questionou como a organização utilizou a ferramenta e apontou os méritos da mesma.

“Vimos clientes usarem as funções de análise de imagem de vídeo do Rekognition de forma que beneficiam materialmente tanto a sociedade quanto organizações. Continuamos empolgados sobre como a análise de imagem e vídeo pode ser um motor para o bem no mundo, inclusive no setor público e na aplicação da lei”, escreveu a Amazon em um comunicado.

A demonstração em congressistas foi o suficiente para alguns políticos americanos darem os primeiros passos na direção da regulamentação. Por meio de uma carta endereçada ao executivo-chefe Jeff Bezos, o senador Edward J. Markey e os congressistas Luis Gutiérrez e Mark DeSaulinier cobraram a Amazon pela venda irrestrita do Rekognition, levantando questionamentos sobre a eficácia atual e as ameaças às liberdades individuais trazidas por programas como esse.

Em junho, funcionários da própria Amazon endereçaram uma carta ao chefe, o homem mais rico do mundo, reclamando do uso do Rekognition pela imigração dos Estados Unidos, que vinha separando filhos de imigrantes nas fronteiras do país. “Nos recusamos a contribuir a ferramentas que violam direitos humanos. Como funcionários com preocupações éticas, demandamos uma palavra no que construímos e como isso é usado”, diz o texto.

E as outras empresas?

Criticado por seus próprios funcionários pela relação estabelecida com militares a partir do Projeto Maven, com direito a pedidos de demissão na época, o Google optou por não comentar ao UOL Tecnologia a questão específica da regulamentação pública das tecnologias de reconhecimento facial, mas a pressão interna no início do ano fez com que a gigante das buscas criasse suas próprias restrições quanto à venda dessas ferramentas.

Em junho, a empresa publicou uma cartilha na qual se compromete a não permitir que suas ferramentas de inteligência artificial que usam o reconhecimento facial sejam aproveitadas para fins militares ou esforços de vigilância não justificáveis. O Google vende a Cloud Vision API, ferramenta usada para “extrair insights a partir de imagens” que até detecta rostos e emoções, mas não atribui identidade a eles – nada de reconhecimento facial, só detecção.

Facebook não curte

O Facebook também não tem posicionamento específico sobre a regulamentação na atualidade, mas, só em 2017, a empresa lutou contra a criação de leis estaduais em cinco Estados dos EUA. A informação é do Center for Public Integrity, que apurou que a rede social faz lobby para dificultar a aprovação de regras sobre proteção do consumidor contra o reconhecimento facial. Dos cinco Estados, só o de Washington aprovou uma lei.

A companhia de Mark Zuckerberg restringe suas tecnologias de reconhecimento facial à própria rede social. Por conta do GDPR, a nova lei de dados europeia, ela agora permite que eles habilitem, ou não, que os algoritmos identifiquem nossos rostos.

Isso não eximiu a empresa de polêmicas, já que no último dia 9 o “New York Times” publicou uma matéria sobre os riscos de privacidade relativos a essas ferramentas, citando argumentações de grupos de defesa do consumidor que contestam a falta de consentimento dos usuários a respeito do uso do reconhecimento facial.

O Facebook não cede a tecnologia a terceiros e diz não aproveitá-la para fins publicitários dentro da própria plataforma. Segundo a empresa, a base de dados de mais de um bilhão de rostos é aproveitada para dar mais segurança e melhorar a experiência do usuário, seja para alertá-lo de um desconhecido que postou uma foto dele ou facilitar uma marcação na foto publicada pelo melhor amigo.

Restou a Apple, que não respondeu ao questionamento do UOL Tecnologia sobre o debate. Apesar disso, a empresa responsável pelo iPhone X e seu Face ID já pediu mais regulamentação com relação à privacidade de dados.

O executivo-chefe Tim Cook cutucou essa ferida no final de março, justamente quando explodiu o escândalo de vazamento de dados do Facebook por conta do Cambridge Analytica. Em um evento na China, Cook não mencionou o reconhecimento facial especificamente, mas mostrou preocupação com a segurança de informações pessoais – o rosto é uma delas.

“Acho que essa situação é tão preocupante e se tornou tão grande que provavelmente uma regulamentação bem construída é necessária”, disse o executivo fazendo alusão ao incidente do Facebook. Assim como a empresa de Zuckerberg, a Apple restringe o reconhecimento facial a sua própria plataforma: álbuns organizados automaticamente por pessoas estão restritos às contas da Apple e o Face ID a um único do iPhone X.