Serviço de Polícia de Queensland (QPS) na Austrália iniciará julgamento de inteligência artificial (IA) para determinar o risco futuro que alguns sujeitos relatados se envolvem em violência doméstica.
Autores identificados como de "alto risco" (com base em relatórios anteriores, antecedentes criminais ou outros) serão visitados em casa pela polícia antes que a violência doméstica aumente e qualquer crime seja cometido.
Violência doméstica: melhor prevenir, mas ...
Digo imediatamente: precisamos encontrar melhores maneiras de melhorar a segurança das mulheres vítimas de violência doméstica. No entanto, o uso da tecnologia de IA nesse contexto pode ter consequências não intencionais, e esse plano proposto levanta sérias questões sobre o papel da polícia na prevenção de incidentes de violência doméstica.
A abordagem é baseada em um algoritmo que foi desenvolvido a partir de dados existentes. Todos os algoritmos estatísticos devem avaliar o risco com base nos dados disponíveis. Isso, por sua vez, significa que eles são "apenas" tão bons quanto os dados que os suportam. Não é por acaso que especialistas criticam as ferramentas de avaliação de risco baseadas em dados nas atividades policiais, apontando a falta de transparência nos tipos específicos de dados analisados.
Cuidado ao jogar "Pré-crime"
Conforme mencionado, os principais dados adquiridos de forma mais consistente são informações sobre situações passadas em que a polícia foi acionada e dados sobre antecedentes criminais. Usar essas informações para treinar um algoritmo de inteligência artificial pode reforçar os preconceitos existentes no sistema de justiça criminal. Isso poderia criar um ciclo de feedback sem fim, um círculo vicioso sem saída entre a polícia e os cidadãos que têm mais contato com a polícia.
Se a discriminação étnica também vier à mente, você não está longe da verdade. Na Austrália, por exemplo, as pessoas que mais entram em contato com a polícia são os aborígenes. Não é difícil imaginar que, sob este novo regime de “violência doméstica”, os aborígines serão mais visitados pela polícia.
A polícia faz questão de dizer que, para este projeto-piloto, os atributos de etnia e localização geográfica foram removidos antes do treinamento do modelo de IA. Apesar disso, ainda é provável que os aborígines continuem a ser visados de forma desproporcional, uma vez que estão sobrerrepresentados em todos os tipos de contato com a polícia.
O risco de crime é uma boa abordagem?
O objetivo dessas estratégias policiais baseadas eminteligência artificial é prevenir ou reduzir o crime, por meio de uma avaliação do risco de crimes futuros. Em teoria, isso significa que a polícia interviria precocemente para evitar a ocorrência de um crime. Quem se lembra do já citado "Pré-crime" do "Relatório da Minoria"?
Eu digo que com essa abordagem há riscos de que a polícia possa até criar crime. Um programa "preventivo" deste tipo pode aumentar os mecanismos de resistência e contornar: não me surpreenderia se isso conduzisse a outros crimes.
Em resumo, o plano proposto pela polícia australiana apresenta um risco claro. O de ampliar a rede de criminalização tanto para os perpetradores quanto para as vítimas (que podem ser erroneamente identificadas como perpetradores). Como? Por exemplo, as vítimas que usaram violência em legítima defesa às vezes foram presas no lugar do agressor.
Isso poderia trazer mais danos às vítimas de violência doméstica?
O papel da vítima em tal programa também é preocupante. Qualquer programa que aprofunde a vigilância dos perpetradores também aprofunda a vigilância das vítimas.
As vítimas nem sempre querem que a polícia intervenha em suas vidas. Em alguns casos, essa forma de policiamento proativo pode parecer mais uma extensão do escrutínio do que uma ajuda. O que acontece quando a polícia visita e descobre que um perpetrador e uma vítima de alto risco estão morando juntos novamente?
Os riscos estão aí
As vítimas podem temer que as autoridades de proteção à criança estejam envolvidas e se sentirem compelidas a esconder o fato de que ainda estão com o infrator. E uma vez que a vítima foi forçada a mentir, ela pode relutar em chamar a polícia na próxima vez que precisar de intervenção policial. Em outros casos, o agressor ou a vítima podem decidir não seguir os conselhos de segurança dos policiais que visitam. Não está claro o que a polícia pode fazer em uma situação em que eles pedem a um agressor para sair ou tentar resgatar uma vítima, mas eles se recusam.
A missão de qualquer intervenção de violência doméstica deve ser restaurar o poder às vítimas. Mas sabemos que as intervenções não ajudam todas as mulheres (ou homens) igualmente. Desigualdades estruturais, incluindo raça e classe, significam que as intervenções são vivenciadas de maneiras diferentes por pessoas diferentes.
