quinta-feira, 16 de maio de 2019

Por que uma das maiores cidades dos EUA baniu o reconhecimento facial?

via UOL

O Vale do Silício é uma região na Califórnia que abriga algumas das maiores empresas de tecnologias do mundo, que costumam ditar tendência quando o assunto é a adoção de inovações para resolver problemas cotidianos. Uma dessas modas é reconhecimento facial, que virou febre em diversas cidades do mundo, da chinesa Pequim às brasileiras Rio de Janeiro, Salvador e Campinas, seja para como ferramenta de segurança pública, seja para agilizar processos demorados.


Curiosamente, uma cidade que fica a alguns quilômetros de distância do Vale decidiu banir o uso de ferramentas que reconhecem alguém só de detectar seu rosto. Trata-se de São Francisco, uma das maiores dos Estados Unidos -- e que por isso mesmo pode acabar servindo de modelo para as demais. Mas, afinal, por que um município tão próximo geograficamente do maior celeiro de inovação tecnológica do mundo resolveu ficar bastante longe de uma das aplicações do momento?

O que São Francisco decidiu?

A decisão de São Francisco não interfere no uso pessoal ou comercial de ferramentas de reconhecimento facial. Ou seja, continua liberado que os moradores desbloqueiem seus celulares apenas usando seus rostos.

O que a cidade fez foi proibir que o reconhecimento facial fosse usado pela polícia e por outras agências públicas. O documento da lei diz o seguinte: Será ilegal para qualquer departamento obter, conservar, acessar ou utilizar qualquer tecnologia de reconhecimento facial ou qualquer informação obtida com tecnologia de reconhecimento facial.

Com isso, São Francisco virou a primeira cidade dos EUA a adotar uma medida restritiva desse tipo para o serviço público, ainda que não afete seu uso em aeroportos ou instalações sob regulamentação do governo federal. Só que os efeitos da nova regra podem ser divididos em dois. E a proibição é apenas um deles.

O segundo é que ela estabelece uma política de controle sobre quaisquer ferramentas de vigilância funcionando na cidade. Os parlamentares têm de aprovar qualquer compra pública de recursos desse tipo e farão uma auditoria em todos os serviços existentes atualmente.

Quanto a isso, a ação de São Francisco não é inédita, já que outros municípios norte-americanos criaram normas semelhantes. A decisão foi aprovada em votação feita pelos parlamentares municipais nesta terça-feira (14) -- o resultado foi 8 x 1; antes de a questão chegar ao prefeito, haverá uma segunda votação, mas ela é apenas uma formalidade.

Por que São Francisco fez isso?

A motivação da iniciativa da cidade californiana pode ser resumida assim: os benefícios do uso do reconhecimento facial são pequenos perto da possibilidade de limitar alguns direitos dos cidadãos.

É isso o que diz o texto da lei: "A propensão da tecnologia de reconhecimento facial a colocar em perigo os direitos e as liberdades civis supera substancialmente seus benefícios." Para o documento que foi aprovado, o reconhecimento facial poderia, além disso, "exacerbar a injustiça racial e ameaçar nossa capacidade de viver sem a contínua vigilância do governo."

A proibição é parte de uma legislação mais ampla para regulamentar os sistemas de vigilância e obrigar as agências municipais que desejam utilizá-los a obter previamente a autorização do conselho municipal.

Entre os defensores da proibição, há dois argumentos principais:
  • erros de identificação facial podem levar a maior injustiça social: como os modelos usados para treinar algoritmos de reconhecimento de rostos são em sua maioria de pessoas brancas e homens, há uma maior probabilidade de o sistema falhar ao tentar ler o rosto de uma mulher negra, por exemplo. Isso poderia fazer alguém ser responsabilidade por algo indevidamente.
  • contínua violação da vida privada: para funcionar, o sistema tem de fazer uma varredura pelos rostos de pessoas que circulem por ruas e vias públicas, ainda que elas não saibam disso.

Um estudo do Instituto de Tecnologia de Massachusetts (MIT) mostrou que um popular sistema de reconhecimento facial, o Rekognition, da Amazon, sofre para identificar rostos de mulheres e pessoas não caucasianas.

Já um estudo da União Americana pelas Liberdades Civis (ACLU) mostrou que esse mesmo sistema identificou erroneamente 28 congressistas americanos em fotos de registros policiais. Já os defensores do sistema afirmam que o reconhecimento facial pode aumentar a segurança. É o caso da organização Stop Crime SF, para qual o reconhecimento facial "pode ajudar a localizar crianças perdidas, pessoas com demência e a lutar contra o tráfico sexual."

"Nós podemos ter boa segurança sem um estado de segurança e nós podemos ter bom policiamento sem recorrer a um estado policial", disse Aaron Peskin, o parlamentar que introduziu o projeto de lei.

São Francisco pode virar uma referência para outras cidades, segundo o ativista e diretor-executivo da ONG Secure Justice, Brian Hofer: "Oakland e Berkeley estão seguindo o exemplo de São Francisco ao também considerar proibir o governo de usar tecnologia de reconhecimento facial. Outras cidades de fora da Califórnia e até estados está considerando regras similares. Nós esperamos que esse movimento cresça conforme mais pessoais se tornem educadas sobre o risco inerente do uso dessa tecnologia."

Nenhum comentário:

Postar um comentário