Joaquin Oliver tinha 17 anos quando foi baleado no corredor de sua escola. No Dia dos Namorados, um ex-aluno expulso abriu fogo com um rifle de alto poder no que se tornou o tiroteio mais mortal em uma escola dos EUA. Sete anos depois, Joaquin diz que é importante falar sobre o que aconteceu naquele dia em Parkland, Flórida, "para que possamos criar um futuro mais seguro para todos".
Mas a triste verdade é que Joaquin não sobreviveu. A voz que falou com o jornalista Jim Acosta em uma entrevista recente não era real — era uma recriação de IA, treinada com as antigas postagens de Joaquin nas redes sociais. Seus pais, que defendem leis mais rígidas sobre armas, esperavam que essa versão digital do filho amplificasse sua mensagem. Como muitas famílias enlutadas, eles já contaram sua história repetidamente, com pouca mudança. Agora, estão tentando de tudo para fazer os legisladores ouvirem.
Seu pai, Manuel, admite que também só queria ouvir a voz do filho novamente. Sua mãe, Patricia, passa horas conversando com a IA, ouvindo-a dizer: "Eu te amo, mamãe."
Ninguém julgaria um pai ou mãe em luto. Se manter o quarto de um filho intacto, visitar seu túmulo ou segurar uma camisa que ainda cheira a ele traz conforto, é direito deles. As pessoas se apegam ao que podem. Após o 11 de Setembro, famílias repetiam as últimas mensagens de voz de entes queridos presos nas torres em chamas ou em aviões sequestrados. Uma amiga minha ainda relê mensagens antigas do WhatsApp da irmã falecida; outra manda atualizações familiares para o número do pai morto, sabendo que ele não responderá, mas não pronta para parar. Alguns até recorrem a médiuns em busca de mensagens vagas do além.
Mas o desespero do luto o torna vulnerável à exploração — e, em breve, reviver digitalmente os mortos pode se tornar um grande negócio.
Esta semana, Rod Stewart exibiu um vídeo gerado por IA com o falecido Ozzy Osbourne cumprimentando lendas musicais mortas — uma homenagem sentimental, ainda que artificial. No Arizona, a família de uma vítima usou um avatar de IA para se dirigir ao tribunal durante a sentença do assassino de seu ente querido. Mas e se a IA puder criar réplicas permanentes dos mortos — robôs ou vozes — permitindo que as conversas continuem indefinidamente?
A ressurreição é um poder divino, não algo para ser entregue levianamente a empreendedores de tecnologia. Enquanto as leis protegem cada vez mais os vivos contra deepfakes de IA, os direitos dos mortos são nebulosos. A reputação morre conosco — os mortos não podem ser difamados — mas o DNA é protegido postumamente. (A ovelha clonada Dolly provocou proibições globais à clonagem humana.) A IA não usa corpos; ela minera mensagens de voz, textos e fotos — a essência de quem alguém foi.
Quando meu pai morreu, nunca senti que ele estava realmente no caixão. Ele continuou vivo em suas cartas, seu jardim, suas gravações de voz. Mas o luto é pessoal. E se metade de uma família quiser reviver digitalmente a mãe, enquanto a outra metade acha isso insuportável? Os dilemas éticos estão apenas começando.
Metade do mundo parece aterrorizada com a ideia de viver com fantasmas, enquanto a outra metade não consegue imaginar a vida sem eles. O fato de a versão em IA de Joaquin Oliver permanecer para sempre com 17 anos — presa no instantâneo digital de sua presença adolescente nas redes sociais — é, em última análise, culpa de seu assassino, não de sua família. Manuel Oliver entende que esse avatar não é verdadeiramente seu filho, e não está tentando ressuscitá-lo. Para ele, parece uma extensão natural de sua campanha, que já mantém viva a memória de Joaquin.
Ainda há algo perturbador em dar à IA acesso a uma conta de rede social, permitindo que ela poste vídeos e ganhe seguidores. E se ela começar a gerar memórias falsas ou especular sobre tópicos nos quais o verdadeiro Joaquin nunca teve a chance de opinar?
No momento, os avatares de IA ainda têm uma qualidade artificial e cheia de falhas, mas, à medida que a tecnologia avança, eles podem se tornar indistinguíveis de pessoas reais online. Pode não demorar muito para que empresas — ou até agências governamentais — comecem a usar porta-vozes de IA para lidar com perguntas da imprensa. Jim Acosta, ex-correspondente da Casa Branca, deveria saber que não é bom borrar as linhas em nosso já nebuloso mundo pós-verdade ao entrevistar alguém que tecnicamente não existe. O maior risco, porém, são os teóricos da conspiração se apoderarem disso como "prova" de que qualquer história inconveniente pode ser uma farsa — ecoando as alegações infundadas feitas por figuras como Alex Jones sobre a tragédia de Sandy Hook.
Mas esses desafios não são apenas para jornalistas. À medida que a IA avança, todos viveremos ao lado de versões digitais de nós mesmos — não apenas assistentes básicos como a Alexa ou chatbots, mas companheiros emocionalmente sofisticados. Com 1 em cada 10 adultos britânicos admitindo que não tem amigos próximos, não é surpresa que haja um mercado para companhia de IA, assim como as pessoas recorrem a animais de estimação ou redes sociais para se conectar.
A sociedade pode eventualmente aceitar que a tecnologia preencha as lacunas onde os relacionamentos humanos falham. Mas há uma diferença gritante entre criar uma presença reconfortante para os solitários e ressuscitar digitalmente os mortos, um ente querido de cada vez. Como diz o antigo verso fúnebre, há "um tempo para nascer e um tempo para morrer". O que acontece quando não conseguimos mais distinguir qual é qual?
---
Me avise se precisar de mais ajustes!
