Desde (em 1941) os computadores tomaram forma, eles primeiro encheram salas inteiras, depois escrivaninhas e bolsos. Mas todos eles tinham uma coisa em comum: foram projetados por mentes humanas. Ao longo dos anos, muitas pessoas se perguntaram: e se os computadores se projetassem?
Um dia, em breve, um computador inteligente poderá criar uma máquina muito mais poderosa do que ele. Esse novo computador provavelmente criaria outro ainda mais poderoso, e assim por diante. A inteligência artificial percorre uma curva ascendente exponencial, atingindo níveis de cognição inconcebíveis para os humanos. Isso, em uma palavra, é a singularidade tecnológica.
Singularidade tecnológica
O termo “singularidade tecnológica” remonta a mais de 50 anos, quando os cientistas estavam apenas começando a mexer no código binário e nos circuitos que tornavam possível a computação básica. Mesmo então, a singularidade tecnológica era um conceito impressionante e formidável.
Uma nova geração de computadores superinteligentes pode revolucionar tudo. Da nanotecnologia à realidade virtual imersiva e às viagens espaciais superluminais.
Com a singularidade tecnológica, em vez de apenas explorar o nosso cérebro de base biológica, poderíamos usar a inteligência artificial, interagir com ela. Melhorar ou aumentar o desempenho do nosso cérebro com implantes, ou mesmo carregar digitalmente nossas mentes para sobreviver aos nossos corpos.
O resultado da singularidade tecnológica seria uma humanidade sobrecarregada, capaz de pensar à velocidade da luz e livre de preocupações biológicas.
Um mundo totalmente novo
O filósofo Nick Bostrom ele acha que este mundo dinâmico pode trazer uma era totalmente nova.
Neste mundo, todos seríamos mais como crianças em uma Disneylândia gigante, dirigida não por humanos, mas por máquinas que criamos, ou que eles próprios criaram.
Nick Bostrom, filósofo, escritor e diretor do Future of Humanity Institute da Universidade de Oxford
O céu estrelado acima de mim, a lei moral dentro do meu processador
A singularidade tecnológica pode levar-nos a uma fantasia utópica ou a um pesadelo distópico. E Bostrom sabe disso muito bem. Ele vem pensando no surgimento da IA superinteligente há décadas e sabe de tudo os riscos que tais criações envolvem.
Há o clássico pesadelo da ficção científica de uma revolução robótica, é claro, em que as máquinas decidem que preferem controlar a Terra.
O que é ainda mais provável, porém, é a possibilidade de que o código moral de uma IA superinteligente, seja ele qual for, simplesmente não se alinhe com o nosso.
Uma IA responsável por frotas de carros autônomos ou pela distribuição de suprimentos médicos poderia causar estragos se não valorizasse mais a vida humana da mesma forma que nós.
O problema de alinhamento de IA, como é chamado, assumiu uma nova urgência nos últimos anos, graças em parte ao trabalho de pensadores como Bostrom.
Singularidade tecnológica e diferenças de pensamento
Se não formos capazes de controlar uma inteligência artificial superinteligente, o nosso destino poderá depender de a futura inteligência artificial pensar como nós. Nesta frente, Bostrom lembra-nos que estão em curso esforços para “projetar a IA de modo que ela realmente escolha coisas que são benéficas para os humanos e opte por nos pedir esclarecimentos quando não estiver claro o que queremos dizer. “
Existem maneiras de ensinar a moralidade humana a uma superinteligência nascente. Algoritmos de aprendizado de máquina podem ser ensinados a reconhecer o sistema de valores humanos, assim como hoje GAN eles são treinados em um banco de dados de imagens e textos. Ou, vários AIs poderiam discutir entre si, sob a supervisão de um moderador humano, para construir melhores modelos de preferências humanas.
Uma questão de respeito
Se a singularidade tecnológica criasse não mais simples máquinas, mas verdadeiras mentes pensantes artificiais, deveríamos considerar também o aspecto ético. Tornar-se-ia, diz Bostrom, uma necessidade perguntar-nos se é correcto influenciá-los e até que ponto.
Nesta era das máquinas conscientes, em suma, a singularidade tecnológica pode impor uma nova obrigação moral ao ser humano: tratar os seres digitais com respeito.
