Reencarnação digital de famosos levanta dúvida sobre dados dos mortos

“Roadrunner”, um novo documentário sobre Anthony Bourdain, é um dos muitos projetos dedicados ao épico chefe de cozinha, jornalista e apresentador de TV. Mas o filme atraiu atenção incomum em parte por depender sutilmente de tecnologia de inteligência artificial.

Usando algumas horas de gravações de voz de Bourdain, uma companhia de software criou 45 segundos de áudio novo para o documentário. A voz da inteligência artificial soa exatamente como se Bourdain falasse, do além; em determinado momento do filme, ela lê um email enviado por ele antes de se suicidar em 2018.

“Se você assistir ao filme, desconsiderando essa fala que mencionou, provavelmente não saberia que outras falas vieram da inteligência artificial, e de fato não saberá, como espectador”, disse Morgan Neville, o diretor do documentário à revista New Yorker. “Podemos fazer uma mesa redonda sobre ética em documentários mais tarde”.

O momento para essa mesa redonda pode ter chegado. Os mortos vêm sendo ressuscitados digitalmente com frequência cada vez maior: como projeções bidimensionais, hologramas tridimensionais, representações via computação gráfica e robôs de chat de inteligência artificial.

Um holograma do rapper Tupac Shakur subiu ao palco no festival Coachella em 2012, 15 anos depois da morte dele. Uma imagem da atriz Audrey Hepburn aos 19 anos estrelou em um comercial do chocolate Galaxy em 2014; e Carrie Fisher e Peter Cushing retomaram postumamente seus papeis em alguns dos novos filmes da série “Star Wars”.

Poucos exemplos atraem tanta atenção quando os hologramas cantantes e dançantes que Kanye West deu a Kim Kardashian West no aniversário dela, no ano passado, com a imagem de seu pai, Robert Kardashian.

Mais ou menos como o duplo sonoro de Bourdain, a voz do holograma foi treinada com base em gravações reais de áudio, mas disse coisas que Kardashian jamais havia dito. Como se estivesse se comunicando do além, o holograma expressou orgulho por Kardashian West estar estudando direito, e descreveu Kanye West como “o cara mais, mais, mais, mais, mais genial do planeta”.

Daniel Reynolds, cuja empresa, a Kaleida, produziu o holograma de Kardashian, disse que o custo de um projeto dessa natureza começa em US$ 30 mil, cerca de R$ 155 mil, e pode superar os US$ 100 mil, cerca de R$ 519 mil, quando os custos de transporte e exibição são incluídos.

Mas existem muitas outras formas, mais acessíveis, de reencarnação digital; a partir deste ano, o site de genealogia MyHeritage está permitindo que visitantes animem fotos de parentes mortos há muito tempo, essencialmente criando “deepfakes” inócuos mas ainda assim espantosos, e de graça.

Ainda que a maior parte das reproduções tenha girado em torno de figuras públicas, existem implicações até para os menos famosos de nós. Quase todo mundo tem uma identidade online, hoje em dia, e essa identidade persistirá muito depois de nossa morte. Determinar o que fazer com esses eus digitais pode ser um dos grandes imperativos éticos e tecnológicos de nossa era.

A QUEM PERTENCEM ESSES DADOS?

Desde que a internet incorporou e integrou a comunicação, o trabalho e o lazer, a quantidade de dados criada diariamente pelos seres humanos disparou. A cada minuto, as pessoas realizam mais de 3,8 milhões de buscas no Google, enviam mais de 188 milhões de emails e operam a tela do Tinder 1,4 milhão de vezes, e tudo isso é acompanhado por diversas formas de vigilância digital.

Produzimos tamanha quantidade de dados que alguns filósofos agora acreditam que a condição de pessoa não é mais apenas uma equação de corpo mais mente, e precisa incorporar também o ser digital. Ao morrermos, deixamos para trás cadáveres informacionais, compostos de emails, mensagens de texto, perfis de mídia social, listas de buscas e registros de nosso comportamento de consumo online.

Carl Ohman, especialista em ética digital, disse que isso representa uma grande mudança sociológica: por séculos, só os ricos e famosos eram documentados extensamente. Em um estudo, Ohman calculou que 4,9 bilhões de usuários do Facebook morreriam até o final do século –presumindo que a existência da empresa se estenda até lá.

Esse número representa desafios no plano pessoal e no plano social. Ohman disse que “não é só questão de o que fazer com o perfil de seu pai no Facebook depois que ele morrer, mas a questão de o que fazer com os perfis de Facebook de toda uma geração passada”.

Os dados agregados dos mortos na mídia social representam um arquivo de valor humanitário significativo –um recurso histórico primário diferente do que qualquer geração precedente tenha deixado. Ohman acredita que esse legado precise ser tratado como importante.

Ele argumentou em favor de tratar os restos digitais da mesma forma que os restos arqueológicos –“ou com um rótulo parecido ao de patrimônio cultural da humanidade”, ele disse–, para que estudiosos e arquivistas possam protegê-los contra a exploração e a decomposição digital.

No futuro, as pessoas poderiam usá-los para aprender sobre os grandes momentos culturais que aconteceram em boa parte online –como a Primavera Árabe e o movimento #MeToo—, e “fazer leituras mais detalhadas e qualitativas sobre os indivíduos que tomaram parte desses movimentos”, disse Ohman. Perfis públicos de mídia social são uma coisa. Mas comunicações privadas, como os emails lidos no documentário de Bourdain, despertam questões éticas mais complicadas.

“Não sabemos se Bourdain teria consentido a que aqueles emails fossem lidos diante da câmera”, disse Katie Shilton, pesquisadora que estuda a ética da tecnologia da informação, na Universidade de Maryland. “Não sabemos se teria consentido à manipulação digital de sua voz”. Ela descreve a decisão de ler os textos em voz alta como “uma violação de autonomia”.

Do ponto de vista ético, disse Shilton, criar um novo áudio com as palavras de Bourdain requereria a permissão das pessoas próximas a ele. Em entrevista à revista GQ, Neville disse que “consultou a viúva de Bourdain e o executor de seu espólio literário”, e que ambos aprovaram o uso da inteligência artificial.

De sua parte, Ottavia Busia, ex-mulher de Bourdain, disse que não aprovou a decisão. “Certamente NÃO fui eu que disse que Tony aprovaria isso”, ela escreveu no Twitter em 16 de julho, o dia em que o filme foi lançado nos cinemas.

HOLOGRAMAS DE CELEBRIDADES E PRIVACIDADE PÓSTUMA

Como disse Jean-Paul Sartre certa vez, “estar morto é ser presa dos vivos”. É um sentimento que os filósofos ainda estão debatendo, e que Patrick Stokes, autor de “Digital Souls”, vê como diretamente relacionado aos restos digitais.

Na interpretação dele, criar uma versão digital de uma pessoa morta requer aproveitar as qualidades dos mortos que são úteis para os vivos –como suas conversações e seu valor de entretenimento– e deixar o resto para trás.

“Nós atravessamos a fronteira na direção de substituir os mortos”, disse Stokes, professor sênior de filosofia na Universidade Deakin. “E a atravessamos não só de uma forma que permite que os recordemos vividamente, mas sim de uma forma que preenche a lacuna que eles deixaram na existência ao morrer”.

No caso de figuras públicas, existe um incentivo financeiro evidente a criar imagens digitais, e é por isso que suas imagens são protegidas por direitos póstumos de uso público, por um determinado período. Na Califórnia, o período é de até 70 anos depois da morte. Em Nova York, desde o dia 20 de dezembro, é de 40 anos da data da morte.

Se uma companhia desejar usar a imagem de alguém que já morreu antes do fim desses prazos, terá de obter autorização do espólio da pessoa; as colaborações resultantes podem ser lucrativas para todos. E por isso, a guarda moral pode se ver complicada por motivos financeiros.

Alguns artistas expressam seus desejos explicitamente. Robin Williams, por exemplo, que morreu em 2014, deixou instruções formais que proíbem o uso de sua imagem, em qualquer forma, por 25 anos, como uma forma extra de proteção além da oferecida pela lei da Califórnia.

Consumidores também vêm expressando suas opiniões. A Base Hologram, uma empresa que produziu shows de Roy Orbison, Buddy Holly e Maria Callas em forma de hologramas, abandonou os planos de realizar turnês com imagens de Whitney Houston e Amy Winehouse, depois que a prática foi criticada como exploração. O fato de que produzir essas imagens seja legal não significa que as audiências as aceitarão como éticas.

VOCÊ PODERIA CRIAR SUA PRÓPRIA INTELIGÊNCIA ARTIFICIAL...

As leis vigentes nos Estados Unidos não reconhecem o direito dos mortos à privacidade, disse Albert Gidari, advogado e ex-diretor consultivo de privacidade no Centro de Internet e Sociedade da Universidade Stanford.

“Mas”, ele disse, “como questão prática, porque parte tão grande da informação toma formas digitais hoje, e está armazenada em operadores de plataformas, na mídia social e assim por diante, a Lei de Comunicações Armazenadas na verdade protege essa informação contra revelação não autorizada”.

“E obviamente, se você está morto não pode autorizar”, disse Gidari. Uma consequência é que as famílias daqueles que morreram muitas vezes não têm o direito de recuperar informações digitais das contas de seus entes queridos.

Como maneira de afirmar poder de agência sobre os legados digitais, algumas pessoas estão optando por criar personas de inteligência artificial controladas por elas, usando alguns dos diversos apps e serviços disponíveis para isso.

Alguns, como o HereAfter, se concentram em história familiar. Por preços de US$ 125 a US$ 625, entre R$ 650 a R$ 3.250, a empresa entrevista clientes sobre os momentos críticos de suas vidas. As respostas são usadas para criar um robô de chat semelhante à assistente digital Siri, da Apple.

Se os bisnetos de alguém, por exemplo, um dia quiserem saber como seus bisavós se conheceram, podem perguntar ao robô, que responderá na voz do criador da conta. Outro app desse tipo, o Replika, cria avatares que imitam as vozes dos usuários.

Com o tempo, a ideia é de que o avatar se torna um amigo com completa empatia, sempre disponível via mensagem de texto (grátis) ou via telefone (ligações pagas). O serviço ganhou mercado na pandemia, quando as pessoas isoladas saíram em busca de companhia.

Eugenia Kuyda, a criadora do app, teve a ideia depois que seu amigo Roman Mazurenko morreu, em 2015. Ela usou uma rede neural –uma série de algoritmos complexos criados para reconhecer padrões– a fim de treinar um robô de chat, usando dados textuais que Mazurenko deixou, e o resultado se comunicava de maneira convincente a ponto de encantar a mãe de Mazurenko.

A mesma tecnologia embasa o app da Replika. “O objetivo da Replika é ser antes de tudo um amigo para os usuários, mas o app viverá depois que eles tiverem morrido, e carregará o conhecimento sobre seus criadores”, disse Kuyda em um email.

Em dezembro de 2020, a Microsoft pediu patente sobre “um robô de chat conversacional baseado em uma pessoa específica”, que poderia ser usado em combinação com “um modelo bidimensional ou tridimensional de uma pessoa específica”. “Não temos informações adicionais a compartilhar sobre aquela patente”, um representante da Microsoft afirmou.

Outros projetos parecem orientados a oferecer resolução emocional depois da morte de uma pessoa querida. Em fevereiro de 2020, um documentário sul-coreano chamado “Meeting You” foi lançado. O filme registrava uma reunião em realidade virtual entre uma mulher chamada Jang Ji-sun e sua filha que morreu jovem, de câncer.

A imagem da filha foi criada pela Vive Studios, em colaboração estreita com a família Jang. A companhia considerou outras aplicações para sua tecnologia de realidade virtual –a criação de um “parque da memória” virtual no qual as pessoas possam visitar os entes queridos que perderam, por exemplo, ou se unir a companhias do setor de saúde para orientar pacientes sobre como lidar com o luto.

Tudo isso está acontecendo em meio a uma pandemia que alterou radicalmente os ritos da morte. Para muitas famílias, em 2020 as despedidas finais e funerais foram remotos, isso quando aconteceram. As técnicas digitais relacionadas a informações de pessoas mortas, quando entrarem em uso regular, podem ajudar a facilitar o processo de luto e fomentar as conexões entre gerações passadas e presentes, bem como encorajar discussões mais abertas sobre a morte, nas famílias.

Mas antes disso, Stokes, o professor de filosofia, disse que existem questões importantes a considerar. “Se começarmos a interagir com essas coisas, o que isso dirá sobre meu relacionamento com aquela pessoa que amei? Estarei fazendo coisas que o amor requer ao interagir com essa versão reanimada delas? Estarei protegendo os mortos? Ou os explorando?”.

“Temos uma oportunidade rara de nos preparar eticamente para uma nova tecnologia antes que ela chegue”, disse Stokes. “Ou pelo menos antes que ela avance ainda mais”.