Você já se perguntou se suas decisões são realmente suas? Especialistas da Universidade de Cambridge têm uma resposta perturbadora a esta questão: em breve a IA será capaz de prever (e, acima de tudo, vender) as nossas intenções, mesmo antes de termos consciência delas.
Bem-vindo ao mercado “antecipatório”, que transforma nossos desejos nascentes em moeda de troca.
Dentro do mercado dos desejos
A primeira vez que li esta pesquisa de Centro Leverhulme para o Futuro da Inteligência (você encontra o link para consultá-lo no final do artigo) Tive que parar e relê-lo várias vezes. É tudo verdade: estamos a entrar numa era em que os nossos pensamentos mais íntimos, as nossas intenções ainda não formadas, talvez até sonhos eles se tornarão moeda de troca.
É como se alguém pudesse espiar nossas mentes enquanto ainda decidimos o que fazer. E não apenas olhar, mas, como mencionado, vender essas informações ao licitante com lance mais alto. O Dr. diz isso claramente: “Os assistentes de IA estão se infiltrando em todos os aspectos de nossas vidas, mas devemos nos perguntar: a quem eles realmente servem?”
Isso me faz pensar em todas aquelas vezes em que minha mãe falou com Siri ou Alexa, pensando que ela estava tendo uma conversa particular. Quanto do que ele disse foi analisado, previsto, vendido? Provavelmente tudo.
Como funciona esta economia oculta
Il Dr. usa uma metáfora que considero perfeita: se antes a economia digital se baseava na nossa atenção (curtidas, visualizações, tempo passado online), agora visa algo mais profundo. É como passar da fotografia da superfície do oceano ao mapeamento das suas correntes subaquáticas.
Os investigadores de Cambridge chamam-lhe “economia da intenção”, mas eu vejo-a como um gigantesco sistema de previsão do desejo. Pensar sobre Minority Report, mas em vez de prever crimes, a IA prevê compras, escolhas, decisões.
O que mais me assusta? Este sistema poderá influenciar tudo, desde as nossas escolhas de compra mais mundanas até às decisões eleitorais. Como podemos ter certeza de que nossos desejos são realmente nossos?
A tecnologia que lê nossas mentes
Acho fascinante o exemplo que os pesquisadores dão para simplesmente entender o nível de sofisticação desta tecnologia. Se os atuais modelos de linguagem “antecipam” frases e estruturas linguísticas (são uma espécie de “mega T9” do smartphone), gradualmente a inteligência artificial não só compreenderá o que dizemos, como também analisará (a ponto de o prever) como nós dizemos isso, quando nós dizemos isso, com que tom emocional nós dizemos isso.
Você já teve um aplicativo sugerindo algo para você no exato momento em que você estava prestes a decidir fazer isso? Ainda não, eu acho, espero. Mas se isso acontecer num futuro próximo, pode não ser uma coincidência. A IA está aprendendo a reconhecer os caminhos das nossas intenções: aqueles que precedem as nossas escolhas. A partir de um momento depois de fazermos um desejo, eles irão para um momento antes.
E as grandes empresas de tecnologia sabem disso muito bem. OpenAI busca ativamente dados sobre as intenções humanas, Shopify desenvolve chatbots que “extraem” nossas intenções, Meta estudar como entender nossos desejos ocultos. Não é uma hipótese: é a simples observação do contexto.
As intenções (e sinais) que não podemos ignorar
Ano passado Apple ele fez algo que deveria nos fazer pensar: criou o “App Intents”, um sistema que permite aos aplicativos prever nossas ações futuras. Já não se trata apenas de responder aos nossos comandos, mas de antecipá-los.
E sobre CICERO, IA do Meta jogando Diplomacia. Se uma IA pode prever e manipular intenções num jogo baseado em negociação, o que poderá fazer com as nossas decisões quotidianas?
Il Dr. ele diz isso sem rodeios:
Já hoje as empresas estão vendendo a nossa atenção. O próximo passo lógico é vender nossos desejos antes mesmo de termos consciência deles.
Economia de intenções: um futuro a ser planejado em conjunto
A pesquisa publicada em Revisão de ciência de dados de Harvard (te linko aqui) nos apresenta uma escolha. Como sociedade, temos de decidir se queremos um futuro onde as nossas intenções sejam uma mercadoria a ser comprada e vendida.
Sejamos claros: como o próprio Dr. Penn conclui na sua análise, estes desenvolvimentos não são inevitavelmente negativos, mas certamente têm um potencial perturbador. A chave é a conscientização pública. Precisamos entender o que está acontecendo para influenciar a direção que essa tecnologia tomará.
Pessoalmente, acredito que estamos numa encruzilhada. Podemos deixar que a economia de intenções se desenvolva nas sombras ou podemos exigir transparência e regras claras. A escolha, pelo menos por enquanto, ainda está em nossas mãos. Ou talvez uma IA já tenha previsto isso também?
