Sistemas de reconhecimento facial na China conseguem capturar, em tempo real, desde criminosos e ladrões até pessoas que atravessam a rua com o sinal fechado. Mas, essa semana, uma câmera trouxe problemas a uma mulher de negócios famosa por reconhecê-la atravessando um cruzamento no momento errado. O problema era apenas um: ela nunca esteve fisicamente no local.
O fato aconteceu em Zheijiang, no sul de Xangai. Dong Mingzhu, presidente da maior empresa de ar condicionado da China, apareceu em uma tela exibida ao público para mostrar exemplos de pessoas que infringiam a lei. Na legenda, dizia que ela havia violado a lei, além de listar parte de seu número de identificação e seu nome (com um erro em seu sobrenome, escrito como “Ju”).
Mas, na verdade, a câmera reconheceu um anúncio com o rosto da executiva em um ônibus. A polícia local admitiu em um comunicado que a identificação foi um erro cometido pelo sistema de reconhecimento facial e alegou que o problema tinha sido corrigido por uma atualização.
Dong Mingzhu ficou em primeiro lugar na lista da Forbes das 100 mulheres empresárias mais destacadas da China em 2017 e virou notícia por nunca ter tirado um dia de folga em 26 anos. Uma foto da executiva viralizou no Weibo, e as pessoas apontaram que, apesar do lado positivo do reconhecimento facial, o sistema pode cometer erros.
Por que isso importa — A polícia de trânsito chinesa está, cada vez mais, confiando em sistemas de reconhecimento facial para capturar pessoas que violam as regras. A tecnologia já é empregada em cidades como Pequim, Xangai e Shanzhen e capturaram dezenas de milhares de cidadãos desde a sua implementação. Um erro como esses exemplifica o quanto sistemas de inteligência artificial são suscetíveis e enviesados, podendo cometer injustiças sociais e até mesmo levar a decisões que comprometam a vida de pessoas.
