A vida como George Orwell descreveu em 1984 "poderia se tornar realidade em 2024" se os legisladores não protegerem o público da inteligência artificial, alertou o presidente da Microsoft, Brad Smith. E será "difícil de recuperar" dado o rápido avanço desta tecnologia.
"Se não colocarmos em prática as leis que protegem o público de tal futuro, logo descobriremos que a tecnologia foi longe demais para recuperá-la", disse Smith sem rodeios.
Lembro-me constantemente das lições de George Orwell em seu livro de 1984. Ele falou de um governo que podia ver tudo que todos estavam fazendo e ouvir tudo que todos diziam o tempo todo. Não aconteceu em 1984, mas se não tivermos cuidado, acontecerá em 2024.
Se Orwell estivesse em Pequim
Em algumas partes do mundo, a realidade está cada vez mais próxima da visão distópica de George Orwell.
A ambição da China é se tornar líder mundial em IA até 2030, e muitos consideram suas capacidades muito além das da Europa.
- Em 2019, a China venceu os Estados Unidos em número de patentes garantido por instituições acadêmicas para inovação em tecnologias de IA.
- De acordo com uma pesquisa da Comparitech, o 54% das 770 milhões de câmeras CCTV do mundo estão localizadas na China.
O médico Lan XueO consultor do governo chinês disse que o reconhecimento facial pode ser "extremamente útil" na identificação de pessoas em aglomerações em caso de "acidente grave". E posso garantir que o desenvolvimento desta tecnologia já está bastante avançado.
Reações chinesas às acusações dos americanos
Eric Schmidt, ex-CEO do Google e agora presidente da Comissão de Segurança Nacional dos EUA em Inteligência Artificial, alertou que vencer a China em IA é imperativo.
"Estamos em um conflito geopolítico estratégico com a China", disse ele. “A maneira de vencer é reunir nossos recursos para ter estratégias nacionais e globais para as democracias vencerem em IA. Se não o fizermos, olharemos para um futuro em que outros valores nos serão impostos”. Valores à la Orwell.
Dr. Xue não é da mesma opinião. "A China não está tentando exportar seus valores. Claro, de fato, fez um enorme progresso no desenvolvimento tecnológico, e os EUA sentem que isso é uma ameaça. É por isso que eles iniciaram uma espécie de Guerra Fria na tecnologia" (e não só isso, eu diria).
Embora a China tenha enormes diferenças com os EUA em seus valores e política, sua visão de mundo não é convergência, mas coexistência.
Keyu Jin, professor associado da London School of Economics.
Projeto Maven
Quando se trata de controle orwelliano, entretanto, os EUA mostram que têm ambições não totalmente diferentes das da China. O Dr. Schmidt se tornou conselheiro do Pentágono em 2016, enquanto mantinha o cargo de presidente executivo da Alphabet, empresa controladora do Google. Nos anos seguintes, o Google firmou um contrato com a Pentágono o que lhe permite usar algumas de suas tecnologias de reconhecimento de imagem como parte de um projeto militar.
O projeto, chamado Maven, usou aprendizado de máquina para distinguir pessoas e objetos em vídeos de drones.
"Na época, o Maven era... uma maneira de substituir os olhos humanos por visão automática para filmagens de drones que foram usadas em vários conflitos árabes", diz Schmidt. Orwell não vem à mente, eu acho. "Vi o uso dessa tecnologia como um resultado positivo para a segurança nacional e uma boa parceria para o Google." Eu gostaria de entender por que uma tecnologia em mãos chinesas imediatamente se torna "repressiva", e a mesma tecnologia em mãos americanas imediatamente se torna "positiva para a segurança nacional", e tudo bem.
E eu não sou o único a se perguntar. Até os funcionários do Google fizeram isso, criticando o projeto, fazendo petições contra ele e até pedindo demissão.
"O Google não deveria estar envolvido no negócio da guerra", disse o engenheiro de software Laura Nolan que renunciou em 2018, quando descobriu a natureza do projeto. "Senti como se minhas mãos estivessem manchadas de sangue."
Escusado será dizer que o Google disse que sua IA seria usada apenas para fins não ofensivos, antes de se retirar completamente (?) do projeto Maven em junho de 2018. Dr. Orwell, desculpe, Schmidt disse acreditar que a tecnologia poderia ajudar. "tomar as decisões certas" e acreditar que é uma "coisa boa".
Wannabe Orwell, a corrida armamentista da IA
Em suma, é fácil dizer "Orwell", mas a verdade é que os cidadãos do mundo estão enfrentando um risco potencial bastante bipartidário. O Departamento de Defesa continue procurando por parcerias no Vale do Silício, na tentativa de vencer a corrida global com a China por armas de inteligência artificial.
Porque estamos em uma competição, porque estamos nessa competição, é disso que se trata. Eles nos ajudarão a vencer esta corrida ou serão essencialmente contra nós? A China não tem o mesmo sistema de governo que nós. A corrida armamentista da IA pode levar a um conflito com a China? Absolutamente."
Seth Moulton, presidente da Força-Tarefa do Futuro da Defesa dos EUA, exorta as empresas de tecnologia a apoiarem o Departamento de Defesa.
Dr. Orwell, desculpe, Xue (eu vejo Orwell em todos os lugares agora) concordou que há um conflito potencial. Mas astutamente, e no estilo suave que caracteriza o estabelecimento do Império Celestial, ele diz "mas não é inevitável: os Estados Unidos e a China devem realmente trabalhar juntos para evitar que isso aconteça".
