Entre (quase) todas as tecnologias futuras e assustadoras que podem ter um impacto negativo no mundo, existem apenas algumas que são absolutamente aterrorizantes que nunca quereríamos ver realizadas. Aqui estão alguns (sem ordem específica):
Nanotecnologia de guerra
Nada poderia provocar o fim da humanidade mais rapidamente do que a nanotecnologia molecular transformada em arma. É uma ameaça que pode depender de dois factores devastadores: crescimento exponencial e replicação descontrolada. Um governo cínico, uma entidade não governamental ou mesmo um grupo terrorista podem criar máquinas microscópicas capazes de se replicarem, consumindo rapidamente os recursos do planeta. Minúsculas engenhocas que, com a ferocidade de um fogo, transformam a terra em lodo cinzento.
Robert Freitas, especialista e teórico em nanotecnologia, especulou sobre diversas variantes possíveis da nanotecnologia letal. Algumas máquinas aeroalimentadoras poderiam capturar toda a luz solar, outras seriam ávidas por carbono ou biomassa, ou poderiam “alimentar-se” de organismos específicos.
Na pior das hipóteses, chamada de “ecofagia global”, o planeta seria completamente destruído em apenas 20 meses. Neste curto espaço de tempo disponível, o homem deveria combater máquinas aparentemente imparáveis, identificando formas de interromper a sua replicação.
Por esta razão, a nanotecnologia, conclui o especialista, deve ser rigorosamente regulamentada, impondo uma moratória à sua utilização para fins militares.
Máquinas sencientes
É opinião comum que a humanidade, mais cedo ou mais tarde, testemunhará o nascimento de máquinas artificiais com consciência. No entanto, devemos tomar precauções com bastante antecedência para considerar todas as possíveis consequências éticas do caso. Tema também brilhantemente abordado na série de TV “Westworld”, se é que você me entende.
Já em 2003 o filósofo Thomas Metzinger observou que seria terrivelmente cruel desenvolver software que pudesse sofrer.
“O que você diria se alguém aparecesse e dissesse 'ei, eu quero criar crianças geneticamente perturbadas! Por razões de progresso precisamos de pessoas com falta de alguma peça, ou com défices emocionais ou cognitivos específicos.'. Você acharia um absurdo ou não?”. Além disso. Acharíamos isso perigoso. Uma máquina senciente, se for verdadeiramente senciente, pode de facto sofrer todos os tipos de défices. E sem ter nenhum comitê de ética, nenhuma representação em sua defesa.
De acordo com o futurologista Louie Helm, uma das melhores coisas sobre um computador é que você pode torná-lo chato sem entediá-lo. Já que decidimos usar um AI em vez de humano para algumas tarefas, pode ser imoral programá-lo propositalmente para ser autoconsciente. Prender uma consciência em uma máquina e então forçá-la a trabalhar para você se parece muito com a pior escravidão de todos os tempos.
Sem falar que uma hipotética inteligência artificial gerada para recriar a estrutura biológica do cérebro, o resultado de uma boa programação poderia ser o fato de que essa inteligência perderia o juízo se submetida a uma carga injusta e considerável em seu psiquismo.
Este é um motivo para prestarmos muita atenção ao desenvolvimento de tecnologias assustadoras baseadas em inteligência artificial que têm por vocação a aquisição de consciência.
Leitores de mente
O perigo de tecnologias assustadoras ligadas a esta possibilidade existe naturalmente no caso de máquinas capazes de ler os pensamentos e memórias de uma pessoa à distância e sem o seu consentimento. Isso será muito difícil até que o cérebro humano esteja conectado a uma rede ou a qualquer forma de comunicação.
O desenvolvimento do leitura de mente no entanto, é rápido. No ano passado, uma equipe holandesa usou exames cerebrais e aprendizado de máquina para determinar quais letras uma pessoa estava olhando naquele momento. A revolução abre o potencial para reconstruir os pensamentos humanos com um nível de detalhe nunca antes visto: será possível saber o que olhamos, o que pensamos, o que lembramos. Olha Você aqui. Agora imagine algo assim usado por qualquer regime totalitário e pense no conceito de “julgamento de intenções”.
Os comentários estão fechados.