Imagine a cena: o juiz chama a testemunha, as telas se iluminam e o rosto de um homem que morreu há quatro anos aparece. Ele coloca seu boné de beisebol cinza, a barba ruiva aparada e começa a falar com a voz que a família lembra perfeitamente. "Olá, sou uma versão do Chris criada por IA", diz ele ao tribunal atordoado. É o primeiro depoimento de uma pessoa falecida em tribunal possibilitado pela tecnologia deepfake. E está desencadeando um terremoto ético.
O caso que mudou a história do judiciário
Christopher Pelkey Ele era um veterano do Exército dos EUA de 37 anos, com três missões no Iraque e no Afeganistão. Sua vida foi interrompida em 21 de novembro de 2021, no Arizona, durante o que deveria ter sido um acidente de trânsito trivial. Gabriel Horcasitas, 54, atirou nele após uma discussão em um semáforo. Christopher havia saído do carro para esclarecer a situação: ele nunca mais voltou.
No mês passado, durante a audiência de sentença de Horcasitas, algo estranho aconteceu. nunca visto antes na história dos tribunais. Stacey Wales, irmã de Christopher, junto com seu marido Tim Wales e para seu amigo Scott Yentzer, apresentou um vídeo que deixou a sala sem palavras.
Não era um simples filme de memória, mas um avatar criado com inteligência artificial que reproduzia perfeitamente a aparência e a voz do irmão desaparecido.
A tecnologia por trás do avatar
O avatar de Christopher foi feito usando Difusão Estável, uma das plataformas de inteligência artificial mais avançadas para geração de imagens. A família tem alimentou o sistema com centenas de fotos, vídeos e gravações de áudio, incluindo uma entrevista que Christopher concedeu meses antes de sua morte. O resultado foi um deepfake com qualidade cinematográfica: cada expressão facial, cada inflexão vocal reproduzia fielmente as feições do veterano.
"Reunimos depoimentos de todos que o conheceram", diz Stacey Wales. "Desde sua professora do ensino fundamental até seus colegas soldados no Afeganistão. Queríamos ter certeza de que o que Christopher dissesse refletisse verdadeiramente seu caráter."
O “roteiro” foi escrito por sua irmã, mas cada palavra foi elaborada para refletir a personalidade de um homem descrito como “o tipo que tiraria a camisa e daria a você se você precisasse”.
As palavras que comoveram o tribunal
O avatar de Christopher se dirigiu diretamente ao seu assassino com palavras que chocaram todo o tribunal: “Em outra vida, talvez pudéssemos ter sido amigos. Eu acredito no perdão. Em um Deus que perdoa.” A mensagem concluía com uma saudação que comoveu a todos na sala: “Vou pescar agora. Amo todos vocês. Vejo vocês do outro lado.”
O juiz Todd Lang ele não escondeu sua emoção: “Eu adorava aquela IA”, disse ele na sentença. "Embora a família estivesse, com razão, irritada e pedindo a pena máxima, ele permitiu que Chris falasse com o coração, como o viam. Não o ouvi pedindo a pena máxima."
Mais tarde, Lang condenou Horcasitas a 10 anos e meio de prisão, a pena máxima para homicídio culposo. Talvez, no fim das contas, aquele vídeo não tenha feito nada para saciar a sede de justiça da família. Mas a questão, você pode imaginar, não é essa..
O debate ético que divide os especialistas
O depoimento no tribunal gerou uma controvérsia que vai muito além do caso específico. Derek Vida, professor de ética empresarial na Carnegie Mellon University e autor de “Ética para Robôs”, expressou fortes perplexidades sobre este assunto:
"Não questiono as intenções desta família, mas temo que nem todos usem a IA corretamente. Se outras famílias criarem avatares, serão sempre fiéis aos desejos da vítima?"
A questão toca em um dos pontos sensíveis da era digital: o consentimento póstumo. Como podemos ter certeza de que as palavras ditas pelo avatar realmente refletem o que Christopher teria dito? E, acima de tudo, quem tem autoridade para decidir o que uma pessoa morta pode ou não dizer?
Um precedente que faz você pensar
Como Eu estava escrevendo para você aqui, o uso de inteligência artificial para recriar os mortos não é uma novidade absoluta. Os "Thanabots" (chatbots dos mortos) existem há algum tempo, geralmente para fins recreativos. Recentemente, falei, por exemplo, dos cursos de escrita ministrados "diretamente", por assim dizer, pela grande escritora Agatha Christie. “ressuscitado” pela inteligência artificial. Mas o caso Pelkey marca um salto qualitativo: pela primeira vez, um avatar digital influenciou diretamente uma decisão judicial em um tribunal.
E agora é uma tempestade. O Conferência Judicial dos Estados Unidos já anunciou que lançará uma consulta pública para regulamentar o uso de provas geradas por inteligência artificial em processos. Gary Marchant, professor de direito em Arizona State University, alerta:
“Há uma preocupação real entre promotores e advogados de que os deepfakes sejam cada vez mais usados. Eles são fáceis de criar e qualquer pessoa pode fazê-lo com um celular.”
“Testemunhas da IA” no Tribunal: O Futuro da Justiça Digital
O caso Christopher Pelkey não é um incidente isolado. Representa o início de uma nova era em que a tecnologia redefine os limites entre vida e morte, memória e manipulação. Como demonstram vários estudos, os deepfakes são considerados por especialistas uma das principais ameaças trazidas pela inteligência artificial, justamente por sua capacidade de minar a confiança em evidências audiovisuais.
Embora a família Wales acredite ter dado a Christopher a oportunidade de expressar sua mensagem final, a comunidade científica e jurídica se questiona sobre os riscos de uma tecnologia que poderia transformar os tribunais em teatros de emoções em vez de locais de justiça. A voz de Christopher, real ou reconstituída, certamente deixou sua marca. Mas também levantou questões que a sociedade terá que enfrentar muito em breve: até que ponto estamos dispostos a deixar a inteligência artificial falar por nós? mesmo depois da morte?
A resposta determinará não apenas o futuro dos tribunais, mas a maneira como pensamos sobre a identidade humana na era digital.
