Você já viu o episódio de Black Mirror chamado "Arkangel"? Conta a história de uma mãe excessivamente apreensiva que implanta um chip no cérebro de sua filha para seguir todos os seus movimentos.
Mas também o atualiza com alguns recursos, como a capacidade de ver tudo o que sua filha vê e forçá-la a ter censura visual automática. Basicamente, ele bloqueia fotos de qualquer coisa que possa ser considerada "chocante" para sua filha. Sua filha simplesmente não consegue ver o que sua mãe está censurando. Escusado será dizer que este episódio de Black Mirror não vai ficar bem. É uma prerrogativa do Série distópica inglesa, por outro lado.
A tecnologia está sendo desenvolvida hoje que poderia realmente ser usada para censurar imagens automaticamente em tempo real.
In este clipe por TEDx Talks, o cientista de interface de computador Lonni Besançon apresenta tecnologia que pode fazer exatamente isso.
O sistema de censura visual automática funciona de forma um pouco diferente da versão vista em Black Mirror, com o objetivo de preservar informações adicionais da imagem que está sendo obscurecida.
Em vez de apenas pixelizar imagens "ofensivas", a tecnologia de processamento aplicaria filtros para tornar a imagem menos chocante. O caso de uso explicado aqui é onde uma imagem cirúrgica pode se tornar menos repulsiva, mantendo detalhes suficientes para entender o que estava acontecendo.
O núcleo desta tecnologia específica é mais sobre como reduzir a natureza chocante de imagens ou filmagens específicas, em vez de tomar decisões sobre o que é considerado ofensivo ou chocante.
Dito isso, a equipe de Besançon construiu um protótipo de uma extensão do Chrome que pode identificar automaticamente violência, nudez ou imagens médicas e aplicar filtros visuais.
Censura visual automática: quando está certo e quando não está.
Certamente pode haver usos legítimos para essa censura baseada em IA. Proteção para adolescentes, moderadores de mídia social ou investigadores da polícia de ter que ver imagens perturbadoras.
Certamente, no entanto, ele também poderia ser usado para impor censura indesejada, se usado indevidamente ou forçado às massas.
