Você já viu o episódio de Black Mirror chamado “Arkangel”? Conta a história de uma mãe excessivamente apreensiva que implanta um chip no cérebro da filha para rastrear cada movimento dela.
Mas também o atualiza com alguns recursos, como a capacidade de ver tudo o que sua filha vê e impor censura visual automática a ela. Basicamente, ele bloqueia imagens de qualquer coisa que possa ser considerada “chocante” para sua filha. Sua filha simplesmente não consegue ver o que sua mãe censura. Escusado será dizer que este episódio de Black Mirror não vai correr bem. É uma prerrogativa do Série distópica inglesa, por outro lado.
A tecnologia está sendo desenvolvida hoje que poderia realmente ser usada para censurar imagens automaticamente em tempo real.
In este clipe por TEDx Talks, o cientista de interface de computador Lonni Besançon apresenta tecnologia que pode fazer exatamente isso.
O sistema automático de censura visual funciona de forma um pouco diferente da versão vista em Black Mirror, visando preservar informações adicionais da imagem que está sendo obscurecida.
Em vez de simplesmente pixelizar imagens “ofensivas”, a tecnologia de processamento aplicaria filtros para tornar a imagem menos chocante. O caso de uso explicado aqui é aquele em que uma imagem cirúrgica poderia se tornar menos repulsiva, mantendo detalhes suficientes para entender o que estava acontecendo.
O núcleo desta tecnologia específica é mais sobre como reduzir a natureza chocante de imagens ou filmagens específicas, em vez de tomar decisões sobre o que é considerado ofensivo ou chocante.
Dito isso, a equipe de Besançon construiu um protótipo de uma extensão do Chrome que pode identificar automaticamente violência, nudez ou imagens médicas e aplicar filtros visuais.
Censura visual automática: quando está certo e quando não está.
Certamente pode haver usos legítimos para esta censura baseada em IA. Proteção para crianças, moderadores de mídia social ou investigadores policiais contra a visualização de imagens perturbadoras.
Certamente, no entanto, ele também poderia ser usado para impor censura indesejada, se usado indevidamente ou forçado às massas.
