Na votação de quarta-feira no Parlamento Europeu, 377 deputados eles apoiaram uma resolução o que limita o uso do reconhecimento facial pelas autoridades policiais. 248 votaram contra e 62 se abstiveram, para constar.
“Os sistemas de identificação baseados em IA já identificam erroneamente grupos étnicos minoritários, pessoas LGBTI, idosos e mulheres em taxas mais elevadas. Isto é particularmente preocupante no contexto da vigilância por parte das autoridades policiais e do poder judicial”, lê-se numa declaração do parlamento.
Algoritmos opacos, vigilância inquisitorial
Para garantir que os direitos fundamentais sejam respeitados ao usar essas tecnologias, os algoritmos devem ser transparentes, rastreáveis e suficientemente documentados. Sempre que possível, as autoridades públicas devem usar software de código aberto para serem mais transparentes.
Declaração do Parlamento da UE
É uma boa notícia que a maioria dos representantes políticos da UE tenha feito esta avaliação. Quem não quer o uso do reconhecimento facial na vigilância automática em massa de pessoas em público. O monitoramento deve ser limitado apenas àqueles que se acredita terem infringido a lei. Os conjuntos de dados acumulados por empresas privadas também devem ser proibidos, como IA de visualização clara, para identificar os cidadãos. Seria útil prevenir, na verdade, até os sistemas que permitem aos policiais prever ofensas do comportamento e da formação das pessoas.
Aqui está o que o Parlamento da UE disse sobre o reconhecimento facial e vigilância em massa:
“Os direitos fundamentais são incondicionais”, diz ele Pyotr Vitanov, eurodeputado em representação do Partido Socialista Búlgaro. “Pela primeira vez, pedimos uma moratória sobre a implantação de sistemas de reconhecimento facial para fins de vigilância e aplicação da lei, uma vez que a tecnologia se revelou ineficaz e muitas vezes leva a resultados discriminatórios.”
Somos claramente contra o policiamento preditivo baseado na utilização de inteligência artificial e em qualquer processamento de dados biométricos que conduza à vigilância em massa. Esta é uma grande vitória para todos os cidadãos europeus.
Pyotr Vitanov, MEP
A votação não é vinculativa, pelo que não pode conduzir diretamente a qualquer alteração legislativa. Foi promovido para "sentir o pulso" do Parlamento Europeu e entender se os membros poderiam apoiar futuras leis, como a Lei da IA. Entre as intenções está também proibir dados biométricos nos controles de fronteira para rastrear viajantes na Europa.
As falhas de uma tecnologia ainda incompleta
O crescimento destes algoritmos de vigilância aconteceu muito rapidamente e com um conjunto de dados incompleto, para ser generoso. A discriminação por reconhecimento facial é comum (pense na pessoa identificada como “macaco” por um algoritmo do Facebook). Atualmente, pessoas de cor têm muito mais probabilidade de serem identificadas incorretamente pelo mecanismo de autenticação de reconhecimento facial. E há um que é quente e frio: é o algoritmo Uber.
Um motorista negro do Uber no Reino Unido, que perdeu o emprego depois de ter sido bloqueado no aplicativo de carona quando o sistema de reconhecimento facial não conseguiu identificá-lo, está tomando medidas legais contra o gigante da tecnologia. Será apoiado pelo Sindicato dos Trabalhadores Independentes da Grã-Bretanha (IWGB), que convocou uma greve de 24 horas para exigir mudanças no modus operandi.
“O uso contínuo pela Uber de um algoritmo de reconhecimento facial que é ineficaz para pessoas de cor é discriminatório”, disse ele. Henrique Chango Lopes, secretário geral do IWGB.
