O Serviço de Polícia de Queensland (QPS) na Austrália lançará um teste de inteligência artificial (IA) para determinar o risco futuro que alguns sujeitos relatados se envolvem em violência doméstica.
Os perpetradores identificados como de “alto risco” (com base em denúncias anteriores, antecedentes criminais ou outros) serão visitados em casa pela polícia antes que a violência doméstica aumente e quaisquer crimes sejam cometidos.
Violência doméstica: melhor prevenir, mas ...
Direi desde já: precisamos de encontrar melhores formas de melhorar a segurança das mulheres vítimas de violência doméstica. No entanto, a utilização da tecnologia de IA neste contexto pode ter consequências indesejadas, e este plano proposto levanta sérias questões sobre o papel da polícia na prevenção de incidentes de violência doméstica.
A abordagem é baseada em um algoritmo que foi desenvolvido a partir de dados existentes. Todos os algoritmos estatísticos devem avaliar o risco com base nos dados disponíveis. Isto, por sua vez, significa que eles são “apenas” tão bons quanto os dados que os apoiam. Não é por acaso que os especialistas criticam as ferramentas de avaliação de riscos no policiamento baseadas em dados, destacando a falta de transparência nos tipos específicos de dados analisados.
Cuidado ao jogar "Pré-crime"
Conforme mencionado, os principais dados capturados de forma mais consistente são informações sobre situações passadas em que a polícia foi chamada e dados sobre registos criminais. Usar essas informações para treinar um algoritmo de IA poderia reforçar os preconceitos existentes no sistema de justiça criminal. Isso poderia criar um ciclo de feedback sem fim, um círculo vicioso sem saída entre a polícia e os cidadãos que têm mais contato com a polícia.
Se a discriminação étnica também vier à mente, você não está longe da verdade. Na Austrália, por exemplo, as pessoas que mais entram em contato com a polícia são os aborígenes. Não é difícil imaginar que, sob este novo regime de “violência doméstica”, os aborígines serão mais visitados pela polícia.
A polícia faz questão de dizer que, para este projeto-piloto, os atributos de etnia e localização geográfica foram removidos antes do treinamento do modelo de IA. Apesar disso, ainda é provável que os aborígines continuem a ser visados de forma desproporcional, uma vez que estão sobrerrepresentados em todos os tipos de contato com a polícia.
O risco de crime é uma boa abordagem?
O objetivo dessas estratégias de policiamento baseadas no crimeinteligência artificial é prevenir ou reduzir o crime, por meio de uma avaliação do risco de crimes futuros. Em teoria, isso significa que a polícia interviria precocemente para evitar a ocorrência de um crime. Quem se lembra do já citado "Pré-crime" do "Relatório da Minoria"?
Eu digo que com essa abordagem há riscos de que a polícia possa até criar crime. Um programa "preventivo" deste tipo pode aumentar os mecanismos de resistência e contornar: não me surpreenderia se isso conduzisse a outros crimes.
Em resumo, o plano proposto pela polícia australiana apresenta um risco claro. O de alargar a rede de criminalização tanto para os perpetradores como para as vítimas (que podem ser erroneamente identificadas como perpetradores). Como? Por exemplo, as vítimas que recorreram à violência em legítima defesa foram por vezes detidas em vez do agressor.
Isso poderia trazer mais danos às vítimas de violência doméstica?
O papel da vítima em tal programa também é preocupante. Qualquer programa que aprofunde a vigilância dos perpetradores também aprofunda a vigilância das vítimas.
As vítimas nem sempre querem que a polícia intervenha em suas vidas. Em alguns casos, esta forma de policiamento proactivo pode parecer uma extensão do controlo, em vez de uma ajuda. O que acontece quando a polícia visita e descobre que um perpetrador e uma vítima de alto risco estão morando juntos novamente?
Os riscos estão aí
As vítimas podem temer que as autoridades de protecção da criança se envolvam e sintam-se obrigadas a esconder o facto de que ainda estão com o agressor. E uma vez forçada a mentir, a vítima pode relutar em chamar a polícia na próxima vez que necessitar de intervenção policial. Noutros casos, o perpetrador ou vítima pode decidir não seguir os conselhos de segurança dos agentes policiais visitantes. Não está claro o que a polícia pode fazer em uma situação em que pede a um agressor que saia ou tenta levar a vítima para um local seguro, mas eles se recusam.
A missão de qualquer intervenção de violência doméstica deve ser restaurar o poder às vítimas. Mas sabemos que as intervenções não ajudam todas as mulheres (ou homens) igualmente. Desigualdades estruturais, incluindo raça e classe, significam que as intervenções são vivenciadas de maneiras diferentes por pessoas diferentes.
