Há boas e muito más notícias. A boa notícia, pelo menos segundo um ex-executivo do Google, é que a singularidade está chegando. Está quase chegando agora. A má notícia é que representa uma grave ameaça para toda a humanidade.
O terrível aviso vem de Mo Gawdat, um gerente muito "profissional". Ele era diretor de negócios da organização Moonshot do Google, como era chamada na época Google X. Suas palavras de advertência vieram direto de uma entrevista que Gawdat ele cedeu ao Times.
“A inteligência artificial geral é inevitável”
Na entrevista, o ex-executivo do Google disse acreditar que ointeligência artificial geral (AGI), o tipo de IA onipotente e senciente (cujos efeitos nocivos exploramos em especulações de ficção científica como a Skynet de “O Exterminador do Futuro”) é inevitável. Uma vez aqui, a humanidade poderá muito bem sofrer um apocalipse provocado por máquinas semelhantes a deuses.
Gawdat disse ao Times que teve essa revelação assustadora enquanto trabalhava com desenvolvedores de inteligência artificial no Google X. O experimento que o executivo testemunhou não foi nada de especial, pelo menos superficialmente. Os desenvolvedores estavam construindo braços robóticos que poderiam encontrar e pegar uma bola. Após um período de progresso lento, Gawdat diz que um braço agarrou a bola e pareceu segurá-la na direção dos pesquisadores, num gesto que, para ele, parecia um exibicionismo.
“E de repente percebi que isso é realmente assustador”, disse Gawdat. “Isso me congelou completamente.” “A realidade é”, acrescentou ele, “que estamos criando Deus”.
Os perigos que o ex-executivo do Google vê são realistas. Mas primeiro precisamos lidar com os reais.
O alerta do ex-executivo do Google é perturbador, mas não o único. Não faltam alertadores sábios (ou fomentadores do medo, dependendo do seu ponto de vista) sobre IA no setor de tecnologia. Elon Musk alertou repetidamente o mundo sobre o perigo de um dia a IA ultrapassar a humanidade, por exemplo. Especulações fronteiriças que, se por um lado alertam para perigos, por outro parecem demasiado "enormes" e talvez nos distraiam aqueles evidentes já agora.
Por exemplo, reconhecimento facial e polícia preditiva causar danos reais em comunidades desfavorecidas. Inúmeros algoritmos por aí continuam a propagar e codificar o racismo institucional em todas as áreas. Esses são problemas que podem ser resolvidos por meio de supervisão e regulamentação.
