Se o surgimento da IA generativa o deixou consternado, saiba que não, ainda não vimos nada. O gênio saiu da lâmpada e será difícil para ele voltar. Pelo contrário. A corrida está mais acirrada do que nunca e há seis projetos competindo para criar modelos de IA que vão além de 2 trilhões de parâmetros. Sim, você leu corretamente: trilhão.
Os titãs da IA com 2 trilhões de parâmetros
Os seis grandes projetos que competem pelo marco métrico de 2 trilhões são OpenAI, Antrópico, Google/Mente Profunda, Meta, um projeto do governo britânico e ainda secreto. E é uma corrida “mortal”: são necessários recursos económicos para acompanhar. Muitos. Entre 1 e 2 bilhões de dólares por ano, para atualizar constantemente o hardware (cada vez mais voraz de cálculos e energia), contratar centenas de especialistas e reter os melhores membros da equipe com salários milionários e opções de ações.
GPT-5: O Retorno do Rei
Depois de pegar meio mundo de surpresa, disparou um míssil contra o Google e tendo recebido muito dinheiro da Microsoft, a OpenAI já tem uma possível chance de nocaute em preparação. Aquele que poderia garantir a supremacia da empresa de Sam Altman. O GPT-5 será concluído até o final de 2023 e lançado no início de 2024, com entre 2 e 5 trilhões de parâmetros.
Não somos capazes, neste momento, de imaginar as suas capacidades.
Claude-Next: Anthropic e seu ambicioso projeto
Antrópico, a equipe fundada por ex-funcionários da OpenAI, está trabalhando em um modelo chamado Claude-Próximo, que pretende ser 10 vezes mais poderoso que os AIs atuais. Com US$ 1 bilhão em financiamento já levantado e US$ 5 bilhões a caminho, a Anthropic espera atingir suas metas nos próximos 18 meses.
Seu modelo principal exigirá 10 ^ 25 FLOPs, usando clusters de dezenas de milhares de GPUs. Entre os financiadores da Anthropic está o Google, que joga em diversas mesas.
Gêmeos: Google busca redenção com Deepmind
Google e Deepmind estão colaborando para desenvolver um concorrente do GPT-4 chamado Gemini. O projeto começou recentemente, depois que Bard mostrou di deixar de competir com ChatGPT. Gemini será um grande modelo de linguagem com trilhões de parâmetros, semelhante ao GPT-4 ou GPT-5, e usará dezenas de milhares de chips Google AI TPU para treinamento. Ainda não se sabe se será multimodal.
A Deepmind também desenvolveu o chatbot baseado na web Pardal, otimizado para segurança e semelhante ao ChatGPT. Pesquisadores da DeepMind descobriram que as citações de Sparrow são úteis e precisas em 78% das vezes. Outro modelo top da DeepMind é Chinchila, treinado em 1,4 trilhão de parâmetros.
Os parâmetros de um futuro impensável
Se você quiser ter uma ideia do que significam 2 trilhões de parâmetros, saiba que a estimativa da quantidade total de dados de texto utilizáveis no mundo está entre 4,6 trilhões e 17,2 trilhões de parâmetros.
Todos os livros, artigos científicos, notícias, toda a Wikipédia, código disponível publicamente e grande parte do restante da Internet são filtrados por qualidade. Conhecimento humano digital.
Com a chegada de modelos maiores, novos recursos surgirão. Nos próximos 6 anos, haverá melhorias no poder de computação e algoritmos para escalar modelos mil vezes, na verdade muito mais.
CEO da Nvidia previu modelos de IA um milhão de vezes mais poderosos que o ChatGPT dentro de 10 anos.
Você pode imaginar o que essas inteligências artificiais farão conosco, o que farão com o planeta? Pense nisso rapidamente. Estamos aqui agora.
