Tecnologia de reconhecimento facial: para o bem ou para o mal?

A notícia de que cerca de mil câmeras de vigilância conectadas a um software de reconhecimento facial em tempo real foram instaladas nas ruas de Belgrado, capital da Sérvia, reacendeu o alerta. O debate sobre as fronteiras entre privacidade e segurança voltou às manchetes dos jornais e às sessões dos parlamentos dos principais países da Europa. Essa discussão também interessa aos brasileiros.

O ponto central sobre o tema é o consentimento. Há dificuldade em determinar em quais situações e para quais finalidades as informações, no caso, a imagem e os hábitos de uma pessoa, podem ser obtidos sem conhecimento e autorização prévios. Esses sistemas permitem, por exemplo, comparar automaticamente o rosto de uma pessoa captado por uma câmera com os registros em um arquivo de suspeitos e, se coincidirem, disparar um alerta de prisão.

A adoção destes sistemas deveria vir acompanhada de informações amplas e transparentes. Quais modelos algorítmicos foram usados? Quais traços de comportamento e informações estão sendo monitorados? Como esses dados são registrados? Por quanto tempo ficam guardados, onde e sob a responsabilidade de quem?

A Lei Geral de Proteção de Dados (LGPD), já em vigor em alguns países e em processo de adoção em outros – com grande dificuldade, é uma tentativa de definir a coleta e o uso destes dados no âmbito de negócios. Mesmo assim, os limites entre o que é permitido ou não, não são claros para a maioria das pessoas. Não bastasse a dificuldade na definição das fronteiras nas mais diferentes situações, a estas somam-se as limitações da própria tecnologia.

Reprodução de vieses e falhas no reconhecimento facial

Nossos rostos são tão únicos quanto nossas digitais. As características faciais incluem distância entre as pupilas, tamanho do nariz, formato do sorriso e recorte da mandíbula. Os computadores usam fotografias para mapear essas características e criam os fundamentos para uma equação matemática que pode ser acessada por algoritmos.

Porém, os sistemas de reconhecimento facial possuem falhas que se manifestam, principalmente, em casos de traços muito similares. E, como vem sendo provado, os algoritmos reproduzem vieses de quem os programa, de quem define os critérios e até mesmo dos bancos de dados nos quais aprendem a nos “reconhecer”.

Uma pesquisa feita pelo governo dos Estados Unidos, que analisou mais de 200 algoritmos de reconhecimento facial, identificou taxas altas de falso positivo no reconhecimento facial de asiáticos e afro-americanos em comparação com brancos e, inclusive, algoritmos que atribuíam o sexo errado a mulheres negras em mais de um terço dos casos.

Embora alguns países do continente europeu usem sistemas de vigilância com câmeras, em geral monitorados pela polícia, um aspecto sobre os equipamentos na Sérvia, causa preocupação: o fato de serem desenvolvidos e fornecidos pela Huawei, a multinacional chinesa de telecomunicações. Isso revela outro ponto fundamental neste debate que é o intrincado elo entre política e negócios.

Para expandir seus negócios, a China vem financiando projetos de infraestrutura tecnológica em países com recursos escassos. Na última década, esse foco se concentrou nos países do Balcãs, península no sudeste da Europa, que pleiteiam a entrada na União Europeia.

À medida que se expande e consegue ampliar suas bases de dados com informações de populações diversas, a China também melhora seus próprios sistemas, aperfeiçoando-os para que se adequem para serem usados em qualquer lugar.  A favor das empresas chinesas há o fato de que elas estão mais desenvolvidas do que muitas das outras big techs e possuem preços menores.

A preocupação com a privacidade dos cidadãos fez com que a União Europeia entrasse em uma espécie de moratória em relação a essa tecnologia. Uma proposta de regulação apresentada pela Comissão Europeia há alguns meses e atualmente em tramitação, propõe a proibição de uso destes sistemas em espaços públicos. Nos Estados Unidos, a tecnologia de reconhecimento facial é amplamente usada pela polícia e por instituições federais, como o FBI e a agência antidrogas (DEA), serviços de imigração e as forças militares, mas foi banida em algumas cidades.

As novas tecnologias, como a de reconhecimento facial, trazem benefícios, como a maior segurança em transações e prevenção à fraudes e crimes virtuais. Mas, como quase toda inovação, traz riscos e ameaças. A forma como serão usadas, por quem e para o quê definirão se são boas ou não. Para isso, é necessário aprofundar o debate e as análises e evitar que interesses parciais se sobreponham ao objetivo do bem comum.