Entre (quase) todas as tecnologias futuras e assustadoras que podem ter um impacto negativo no mundo, existem apenas algumas que são absolutamente aterrorizantes que nunca quereríamos ver realizadas. Aqui estão alguns (sem ordem específica):
Nanotecnologia de guerra
Nada poderia causar o fim da humanidade mais rapidamente do que uma nanotecnologia molecular transformada em arma. É uma ameaça que pode contar com dois fatores devastadores: crescimento exponencial e replicação descontrolada. Um governo cínico, uma entidade não governamental ou mesmo um grupo terrorista podem construir máquinas microscópicas que podem se replicar consumindo rapidamente os recursos do planeta. Pequenos aparelhos que com a ferocidade de um incêndio transformam a terra em um lodo cinza.
Robert Freitas, especialista em nanotecnologia e teórico, especulou sobre várias variantes possíveis da nanotecnologia letal. Máquinas de aeronaves poderiam capturar toda a luz do sol, outras seriam ávidas por carbono ou biomassa, ou poderiam se "alimentar" de organismos específicos.
No pior cenário, a chamada “ecofagia global”, em apenas 20 meses o planeta estaria completamente destruído. Neste curto espaço de tempo disponível, o homem deve lutar contra máquinas aparentemente imparáveis, identificando uma forma de impedir sua replicação.
Por isso, a nanotecnologia, conclui o especialista, deve ser rigorosamente regulamentada, impondo uma moratória ao seu uso para fins militares.
Máquinas sencientes
Acredita-se amplamente que a humanidade mais cedo ou mais tarde testemunhará o nascimento de máquinas de consciência artificial. No entanto, é preciso tomar precauções com bastante antecedência, para considerar todas as possíveis consequências, inclusive as éticas, do caso. Um tema brilhantemente abordado também na série de TV "Westworld", se você sabe do que estou falando.
Já em 2003 o filósofo Thomas Metzinger observou que seria terrivelmente cruel desenvolver software que pudesse sofrer.
"O que você diria se alguém viesse e dissesse 'ei, eu quero criar crianças geneticamente perturbadas! Para o progresso, precisamos de pessoas sem bits, ou com déficits emocionais ou cognitivos específicos.'. Você acharia isso absurdo ou não?". Além disso. Acharíamos perigoso. Uma máquina senciente, se verdadeiramente senciente, pode de fato sofrer de todos os tipos de déficits. E sem nenhum comitê de ética, nenhuma representação em sua defesa.
De acordo com o futurologista Louie Helm, uma das melhores coisas sobre um computador é que você pode torná-lo chato sem entediá-lo. Já que decidimos usar um AI em vez de humano para algumas tarefas, pode ser imoral programá-lo propositalmente para ser autoconsciente. Prender uma consciência em uma máquina e então forçá-la a trabalhar para você se parece muito com a pior escravidão de todos os tempos.
Sem falar que uma hipotética inteligência artificial gerada para recriar a estrutura biológica do cérebro, o resultado de uma boa programação poderia ser o fato de que essa inteligência perderia o juízo se submetida a uma carga injusta e considerável em seu psiquismo.
Este é um motivo para prestarmos muita atenção ao desenvolvimento de tecnologias assustadoras baseadas em inteligência artificial que têm por vocação a aquisição de consciência.
Leitores de mente
O perigo de tecnologias assustadoras ligadas a esta possibilidade existe naturalmente no caso de máquinas capazes de ler os pensamentos e memórias de uma pessoa à distância e sem o seu consentimento. Isso será muito difícil até que o cérebro humano esteja conectado a uma rede ou a qualquer forma de comunicação.
O desenvolvimento do leitura de mente avança rápido, no entanto. No ano passado, uma equipe holandesa usou varreduras cerebrais e aprendizado de máquina para determinar quais letras uma pessoa estava olhando no momento. A revolução abre o potencial para reconstruir o pensamento humano em um nível de detalhe nunca visto antes: será possível saber o que olhamos, o que pensamos, o que lembramos. Olha Você aqui. Agora imagine algo assim usado por qualquer regime totalitário e repense o conceito de "julgamento de intenções".
