Para comemorar o Dia da Memória de Israel em 2021, a Orquestra das Forças de Defesa de Israel se uniu a uma empresa especializada em vídeo sintético (também conhecido como “deepfake”) para dar vida às fotos da Guerra Árabe-Israelense de 1948.
No vídeo, jovens cantores vestidos com uniformes de época cantavam “Hareut”, uma canção icônica em homenagem aos soldados mortos em combate. Enquanto cantam, os músicos olham para as fotografias desbotadas em preto e branco que têm nas mãos. Os jovens soldados das fotos antigas piscam e sorriem para eles, graças à inteligência artificial. Moral? O passado ganha vida.
O resultado é perturbador:
Nos últimos anos, Nir Eisikovits e seus colegas do Centro de Ética Aplicada da UMass Boston estudaram como o envolvimento diário com a inteligência artificial muda a maneira como as pessoas pensam sobre si mesmas. Eles descobriram que a IA tem o poder de enfraquecer a capacidade crítica das pessoas, ou o seu sentido moral.
Hoje, a inteligência artificial está tornando mais fácil do que nunca reanimar o passado. Será que isto também mudará a forma como entendemos a história e, consequentemente, a nós mesmos?
Há um alto preço moral a pagar
O desejo de trazer o passado de volta à vida não é novo. São dezenas e dezenas de reconstituições e reconstruções históricas, tanto através do restauro de filmes antigos, como através da criação de material audiovisual de raiz. Reconstituições ao vivo e filmagens históricas cuidadosamente elaboradas são empreendimentos caros e demorados. É por isso que a tecnologia Deepfake democratiza esses esforços, oferecendo uma ferramenta barata e popular para animar fotos antigas ou crie vídeos falsos convincentes do princípio.
Mas ao lado das infinitas possibilidades dessas novas tecnologias, há uma séria questão moral.
O escritor e estadista do século XNUMX Edmund Burke ele disse que a sociedade é uma “parceria não só entre quem vive, mas entre quem vive, quem morreu e quem vai nascer”. Fazer parte de uma comunidade é fazer parte de um pacto moral entre gerações, parte de um empreendimento comum que conecta os vivos, os mortos e aqueles que viverão no futuro.
Porque é importante
A tecnologia Deepfake oferece uma maneira poderosa de conectar as pessoas ao passado e fortalecer o vínculo com aqueles que vivem no presente. Ao “ressuscitar” o passado, a tecnologia recupera algo “morto” e torna-o presente e vívido novamente. Deepfakes podem aumentar a empatia pelas nossas raízes e tornar o passado muito mais importante.
Mas essa habilidade traz riscos. O primeiro, evidente, é a criação de episódios históricos falsos. Eventos imaginários, mitificados e falsos podem desencadear guerras: dois exemplos? Primeiro: uma derrota histórica do século 4 na batalha de Kosovo que ainda inflama os sentimentos anti-muçulmanos sérvios. No entanto, ninguém sabe ao certo se a coalizão sérvia realmente perdeu aquela batalha contra os otomanos. Segundo: o ataque do Golfo de Tonkin a navios de guerra americanos em 1964 de agosto de XNUMX foi usado para aumentar o envolvimento dos EUA no Vietnã. Após descobriu-se que o ataque nunca aconteceu.
Consequências incalculáveis
Deepfakes, em suma, podem desestabilizar gradativamente a própria ideia de um “evento” histórico. À medida que esta tecnologia se torna omnipresente, as pessoas perguntar-se-ão se o que estão a ver é real. Irá isto levar a menos estabilidade política ou a mais estabilidade (porque não saber se algo é verdadeiro ou falso deixará de agir por impulso)? Isso não é conhecido.
E, francamente, essa não é a consequência moral que mais me preocupa no momento.
Eu trabalho na área de criatividade. O que temo é que o uso excessivo de deepfakes atrofie nossa imaginação, nos fornecendo imagens “prontas” e parciais do passado, que nos proporcionarão associações imediatas e imutáveis. Sem pesquisa das nuances, os deepfakes podem se tornar os substitutos práticos da história, enganar as pessoas a saberem exatamente o que aconteceu, longe de qualquer aprofundamento ou reflexão crítica.
Tudo mais fácil, tudo mais difícil: qual é a moral?
Todos nós tendemos a pensar que a tecnologia torna a vida mais fácil. Mas muitos não percebem que essas ferramentas tecnológicas também causam a deterioração das habilidades existentes. Os smartphones nos permitem publicar fotos loucas online: quantos gostam de uma vista, quão ocupados estão em capturar a imagem perfeita para postar? Ainda estamos perdidos na era do GPS, onde está a aventura? Pequenos exemplos que servem para entender uma coisa: deepfakes gerados por IA não necessariamente melhorarão nosso moral do passado, ou nossa compreensão do passado.
Mas eles virão e, para melhor ou para pior, irão revolucionar nosso vínculo com a história.
