O maior especialista em deepfakes do mundo já não confia mais nos próprios olhos

BERKELEY, Califórnia — Os e-mails começaram a chegar numa manhã de domingo, como costumam chegar os piores. Hany Farid abriu a primeira mensagem em sua casa nas colinas acima de Berkeley, na Califórnia, e encontrou um link para um vídeo viral que supostamente mostrava um míssil de fabricação americana atingindo uma escola primária no Irã, onde mais de 150 pessoas haviam sido mortas, a maioria crianças. “Isso é uma farsa de internet ou um crime de guerra internacional?”, dizia uma das mensagens. “Estamos tentando verificar o que é real.”

Farid pegou um lápis e um bloco de notas, inclinou-se diante do computador e assistiu. Viu céu azul, fios de telefone e algumas palmeiras balançando ao vento. E então um míssil cruzou a tela em disparada, claro e inconfundível mesmo a 800 km/h. Parecia uma cena de videogame. Nos últimos dias, Farid havia analisado dezenas de vídeos convincentes gerados por inteligência artificial mostrando bombardeios falsos, quedas falsas de aviões, incêndios falsos e execuções falsas. Seu instinto era desconfiar. Ele estava quase certo de que aquele vídeo era mais uma falsificação.

Ele mastigou a ponta do lápis e assistiu de novo, desacelerando o vídeo, quebrando-o quadro a quadro. A câmera tremia de um jeito que parecia plausível para um amador filmando com o celular. As sombras eram geometricamente precisas. Ele viu o míssil atingir um prédio e notou um curto atraso antes de ouvir a explosão e gritos agudos, algo compatível com a velocidade do som. Talvez o vídeo fosse real. Ele já havia sido visto pelo menos 1,1 milhão de vezes nas redes sociais. A cada segundo que passava, estava se tornando realidade, fosse real ou não.

“Qualquer pessoa pode criar um vídeo de qualquer coisa ou de qualquer pessoa, fazendo ou dizendo qualquer coisa”, respondeu Farid por e-mail. “Isso vai levar um pouco de tempo.”

Por mais de duas décadas, Farid, 60, foi o maior especialista do mundo em perícia digital, mas nos últimos seis meses ele deixou de confiar nos próprios olhos. Fez carreira diferenciando a realidade visual de deepfakes, enquanto atendia diariamente pedidos de governos, organizações de direitos humanos, jornalistas, autoridades policiais e milhares de outras pessoas cada vez mais confusas e enganadas pelo mundo online. A pesquisa de Farid havia provado que a maioria das pessoas já não conseguia distinguir uma fotografia real de uma criação digital, uma voz real de um clone de IA, um vídeo verdadeiro de uma fabricação total. Ultimamente, ele próprio vinha fracassando em seus testes.

“Sinto como se estivesse ficando cego”, disse Farid, preocupado que a IA estivesse obscurecendo a verdade, distorcendo a realidade, fragmentando democracias e, aos poucos, também o destruindo. Ele e a esposa haviam começado a fazer planos para deixar a Califórnia e trocar a cultura tecnológica do Vale do Silício por uma fazenda no interior de Vermont.

Ele reiniciou o vídeo e assistiu ao clipe outra vez. Céu. Bomba. Fumaça. Gritos. Na última hora, pelo menos uma dúzia de veículos de imprensa havia enviado e-mails pedindo sua opinião sobre o vídeo. O material havia sido publicado e compartilhado por uma agência oficial de notícias iraniana, mas isso pouco significava para Farid, porque recentemente ele tinha visto deepfakes criados e divulgados por governos estrangeiros e por assessores da própria Casa Branca. Ele fez a geolocalização do vídeo usando um banco de dados com milhões de imagens do mundo inteiro, e o resultado apontou para uma rua em Minab, no Irã, a algumas centenas de metros de uma escola primária.

Talvez o vídeo em si fosse real, pensou Farid, exceto pelo fato de alguém ter inserido um míssil Tomahawk na cena. Ele estabilizou a imagem para eliminar o tremor e então mapeou o míssil em uma série de quadros estáticos, procurando inconsistências. A trajetória do míssil era reta, sua velocidade, consistente. Ele ampliou a imagem para medir pixels e calculou que o míssil parecia ter cerca de 5,5 metros de comprimento, exatamente o tamanho correto.

Céu, bomba, fumaça, gritos. Ele assistiu ao vídeo pelo menos mais 100 vezes, duvidando dos próprios instintos e refazendo os cálculos. Durante a maior parte da carreira, sua missão havia sido identificar a rara falsificação em um mundo de verdades compartilhadas. Mas agora as falsificações eram a norma e a verdade era esquiva. Mesmo depois de um dia inteiro de análise e consulta com outros especialistas visuais — tudo apontando para a autenticidade do vídeo — ele ainda não conseguia se convencer totalmente a declará-lo real.

“No geral, não encontramos evidências convincentes de que o vídeo seja falso ou tenha sido manipulado”, escreveu Farid.

Ele desligou o computador e saiu de casa. Andou de mountain bike pelas colinas de Berkeley, forçando a velocidade e inclinando-se contra o vento. Fumou um charuto e foi dormir, e naquela noite o vídeo voltou em seu sono. Dessa vez ele não estava contando pixels nem medindo sombras. Estava dentro da escola, sentado em uma sala de aula com crianças de 10 anos, vendo a ogiva explodir, sentindo a onda de choque, tossindo poeira e ouvindo os gritos das crianças. Acordou e voltou ao computador, vasculhando a internet em busca de notícias sobre o bombardeio.

“Você não pode matar 100 meninas de uma escola e simplesmente dizer ‘ops’”, escreveu a um colega, enquanto lia publicações nas redes sociais. Algumas pessoas citavam a análise de Farid para confirmar que o vídeo era real. Outras o descartavam como enviesado e diziam que o vídeo parecia falso. Vários novos vídeos gerados por IA sobre o ataque começaram a surgir online, mostrando falsos generais dando ordens ou falsos pais lamentando falsas estudantes mortas. A internet já estava passando adiante depois do que acabaria se revelando como um dos bombardeios mais letais da guerra, e então Farid viu um novo pedido chegar à sua caixa de entrada. Era outro vídeo, mostrando outra explosão em outra parte do mundo.

“Você pode, por favor, nos ajudar a entender que diabos está realmente acontecendo aqui?”

Era a pergunta que chegava à sua caixa de entrada uma dúzia de vezes por dia: o que no mundo estava acontecendo?

Era realmente o presidente Joe Biden ligando para milhares de eleitores democratas na véspera das primárias de New Hampshire e dizendo para eles não votarem? Era realmente o presidente Donald Trump jogando sacos de lixo pela janela da Casa Branca? Eram reais aquelas fotos nuas de alunos do nono ano circulando por uma escola na Pensilvânia, ou imagens que um colega de turma havia gerado com um aplicativo gratuito? Era mesmo Tom Hanks anunciando para seus fãs um obscuro plano odontológico? Era o CEO naquela chamada no Zoom pedindo uma transferência de US$ 25 milhões, ou um impostor norte-coreano? Aquilo era uma arma real na mão de Alex Pretti, ou apenas uma sombra? Era mesmo uma filha de 12 anos ao telefone, gritando por ajuda e dizendo que havia sido sequestrada?

“Sinto falta dos tempos em que era um vídeo granulado de um tubarão nadando pela rua”, disse Farid certa noite, sentado no deque dos fundos de casa com a esposa, Emily Cooper. Ele largou o celular e serviu um uísque. “A tecnologia está ficando boa demais. Isso me leva para um lugar sombrio.”

Leia também: A investigação do NYT para descobrir quem é Satoshi Nakamoto, o criador do Bitcoin

“Porque você já não consegue mais dizer só olhando?”, perguntou Cooper.

“Porque ninguém consegue”, respondeu Farid. “Eu não confio em nada. Em cada imagem que vejo, estou traçando linhas para as sombras e fazendo geometria mental para tentar entender o que estou olhando. Acabou. Dentro de um ou dois anos, todo o nosso sistema visual vai ficar completamente inútil.”

“E depois? Você desiste? Se aposenta?”

“Não sei”, disse ele.

Eles haviam se conhecido 15 anos antes, quando Farid foi dar uma palestra na Universidade da Califórnia, em Berkeley, ainda confiante de que tinha as soluções. Seu pai trabalhou por 50 anos como químico na Eastman Kodak, e Farid cresceu visitando o laboratório fotográfico, vendo fotografias surgirem em banhos químicos e se transformarem em evidência. Mais tarde, ele ajudou a projetar uma impressão digital capaz de encontrar material de abuso sexual infantil escondido na internet — uma tecnologia que passou a gerar mais de 30 milhões de denúncias por ano, centenas de prisões e vários resgates. Quando deepfakes começaram a se espalhar online, ele desenvolveu softwares capazes de detectar o momento em que a boca de uma pessoa saía de sincronia com o áudio. Foi cofundador de uma empresa, a GetReal Security, e ajudou a inventar ferramentas para medir iluminação, sombras e pontos de fuga, confrontando imagens online com a física do mundo real.

Cooper era uma cientista de visão de destaque em Berkeley. Ela pesquisava como os seres humanos percebem a realidade, enquanto o marido investigava como essa realidade podia ser falsificada. Eles haviam colaborado em estudos sobre deepfakes, mas nos últimos meses essa pesquisa começou a segui-los para dentro de casa. Em vez de lidar com um caso a cada poucas semanas, Farid passou a atuar como conselheiro e perito, administrando até uma dúzia de casos por dia. Pela primeira vez na carreira, tornou-se não apenas analista, mas vítima, quando alguém falsificou seu número de celular e usou IA para clonar sua voz. O hacker ligou para um dos colegas de Farid em um caso sensível, se passando por ele e pressionando por informações confidenciais. Agora, Farid e Cooper haviam decidido nunca mais presumir a própria identidade como garantida. Criaram uma palavra-código para confirmar que eram reais no início de qualquer ligação telefônica sensível.

Farid olhou o celular e viu um novo e-mail: “Estou checando este vídeo viral de uma mãe e uma criança se aproximando de um caixão coberto por uma bandeira, e suspeitamos que tenha sido gerado por IA”, dizia a mensagem. Ele largou o telefone e olhou da varanda para as colinas de Berkeley, a baía de San Francisco e o sol se pondo sobre a ponte Golden Gate.

“Não aguento mais este lugar”, disse. “Essas grandes gigantes de tecnologia vão incendiar tudo até o chão, desde que estejam lucrando. Não têm interesse em nada que possa desacelerá-las.”

“Isso me deixa ansiosa pelos nossos alunos”, disse Cooper. “Está começando a me assustar.”

Ela não era dada a hipérboles. O marido podia ser brusco e explosivo — otimista por natureza, mas que vinha se tornando cada vez mais pessimista diante das evidências. Ela se prendia à precisão e aos fatos, mas até esses haviam se tornado incontestáveis. Sua própria pesquisa se concentrava em percepção 3D e design de displays, mas a crise mais ampla que se desenrolava em sua área era impossível de ignorar. As pessoas estavam passando mais tempo em ambientes fechados, olhando para telas, e menos tempo olhando para o horizonte, o que às vezes fazia o globo ocular se alongar permanentemente. O resultado era frequentemente visão embaçada, taxas disparadas de miopia, aumento do risco de doenças oculares e uma epidemia iminente de cegueira evitável que muitos de seus colegas já chamavam de crise de saúde pública.

A possível cura era luz natural e vistas distantes, e nos últimos meses eles procuraram propriedades rurais em Vermont. Compraram uma cabana dos anos 1920 a cerca de meia hora de Dartmouth College, onde poderiam trabalhar como professores titulares enquanto Farid continuaria analisando imagens para sua empresa. A propriedade tinha cerca de 40 hectares de trilhas em mata fechada, sem nenhuma outra casa à vista.

“Preciso me reiniciar”, disse Farid. “Ar, espaço. Estou muito pronto para me sentir longe.”

O telefone dele acendeu sobre a mesa.

“Você acha que é mesmo possível escapar?”, perguntou Cooper.

“Provavelmente não”, disse Farid. “Pelo menos não totalmente. Mas precisamos descobrir.”

Ele desceu das colinas em sua motocicleta para dar a última aula pública do semestre de primavera em Berkeley, passando pelos outdoors de IA que haviam se tornado onipresentes na Bay Area. Eram anúncios de startups prometendo reinventar a medicina, transformar a educação e redefinir o futuro dos negócios. “Parem de contratar humanos”, dizia um deles. Farid estacionou no campus e entrou no auditório, onde 75 estudantes o observavam.

Ele era um dos professores mais populares de Berkeley — enérgico, sem filtro e genuinamente entusiasmado com os avanços da tecnologia de IA que estavam no centro de seus cursos. Tinha agentes de IA que escreviam código para ele. Tinha um carro que dirigia sozinho na estrada. Tinha aplicativos no celular que refinavam a redação de seus e-mails ou transformavam uma foto de sua gaveta de temperos em uma receita de chili para a noite de semana. Mas os alunos de ciência da computação em suas turmas estavam tendo dificuldade para encontrar emprego, enquanto empresas aguardavam para ver primeiro o que as máquinas seriam capazes de fazer. Pela primeira vez na carreira, Farid às vezes ficava diante dos estudantes sem saber bem o que dizer.

Pensou em uma pintura que o assombrava desde os tempos em que era jovem professor em Dartmouth, onde a biblioteca exibia um mural do artista mexicano José Clemente Orozco. A obra mostrava um grupo de acadêmicos retratados como esqueletos em becas de formatura, agarrados a livros, de costas para um mundo em chamas, enquanto um deles dava à luz um bebê esqueleto segurando um novo diploma. “Grande parte da academia está satisfeita em ficar brincando com problemas esotéricos e se protegendo mutuamente da verdade”, disse Farid. Ele havia passado a carreira tentando não ser aquele esqueleto. Acreditava que era sua responsabilidade se virar e encarar o fogo.

“Essa tecnologia está sendo transformada em arma contra nós”, disse aos estudantes. “O trem já saiu da estação. E está acelerando a uma velocidade inacreditável.”

Ele andou de um lado para outro na frente da sala e começou a mostrar slides de vídeos de IA dos últimos anos. Uma imagem falsa do Pentágono explodindo havia abalado brevemente o mercado em 2023, apagando mais de US$ 500 bilhões em poucos minutos. Os deepfakes da guerra na Ucrânia ainda eram relativamente fáceis de identificar, com explosões descoloridas e prédios deformados. As falsificações sobre a Faixa de Gaza eram muito melhores. No início da guerra com o Irã, imagens curtas feitas por IA já eram praticamente indistinguíveis de vídeo real. Agora, milhares de agentes do governo norte-coreano estavam se candidatando a vagas remotas em empresas americanas, usando IA para se passar por americanos em tempo real em videochamadas e depois financiando um programa de armas nucleares com seus salários. Um criminoso sem conhecimentos técnicos, disse Farid, agora podia usar uma fotografia estática e um clipe de áudio de 10 segundos para se transformar em qualquer pessoa na internet.

“Talvez vocês achem que conseguem olhar e perceber a diferença enquanto ficam rolando notícias apocalípticas no celular”, disse ele. “Acreditem em mim: não conseguem. É aí que entram os nossos métodos.”

Ele ajudou a inventar ferramentas algorítmicas para verificar maneirismos, inflexões vocais e fluxo sanguíneo de uma pessoa. Quando uma pessoa real fala, as pupilas dilatam e o coração bombeia sangue para dentro e para fora do rosto. Às vezes Farid conseguia medir diferenças sutis na cor da pele para ver o coração de alguém batendo em tempo real, enquanto um avatar de IA aparecia “sem pulso”.

Farid disse que ainda confiava em sua capacidade de solucionar quase qualquer mistério envolvendo IA, mas o problema era que cada investigação levava tempo. A meia-vida média de um post em rede social era inferior a 90 segundos. “Em 20 minutos, o jogo praticamente já acabou”, disse Farid. Muitas vezes ele concluía a análise, erguia os olhos do computador e percebia que o estrago já estava feito. Uma mentira já havia endurecido em fato. Um fato já havia se dissolvido em dúvida.

Uma mão se levantou na plateia, e Farid apontou para um estudante na primeira fila.

“Então, criar deepfakes é fácil, barato, rápido e confiável”, disse o estudante. “Detectá-los é caro e difícil.”

“Sim”, respondeu Farid.

“Existe alguma solução no futuro próximo ou estamos ferrados?”

Ele fez uma pausa e respirou fundo. Pensou no mural de Orozco, na escola no Irã, nos deepfakes se acumulando em sua caixa de entrada e na fazenda que o aguardava em Vermont. Ainda acreditava que havia soluções. Mas, antes de tudo, queria que as pessoas entendessem contra o que estavam lutando.

“Estamos bem ferrados”, disse.

Leia também: Um mistério de US$ 2,5 bilhões: o ataque hacker que abalou a economia do Reino Unido

A motosserra rugiu numa manhã de terça-feira no fim da primavera, e Farid colocou os óculos de proteção e sentiu as vibrações subirem das mãos para o peito. Cortou um bordo caído e viu a madeira se partir em toras limpas, que Cooper então passava pelo rachador e empilhava ordenadamente. Cortar, rachar, empilhar. Eles estavam em Vermont havia menos de duas semanas, e já tinham se perdido naquele trabalho.

A cabana ficava no fim de uma estrada de terra, em uma ladeira íngreme com vista para vales fluviais e para as Green Mountains. Não havia coleta de lixo, entrega de correspondência, nem outras casas visíveis. Para atravessar o inverno, precisariam limpar a própria estrada e aquecer a casa. Farid estimava que precisariam de cerca de 10 toneladas de lenha. Trabalharam por uma hora e então se afastaram para olhar a pilha.

“Estamos indo muito bem”, disse Farid. “É muito satisfatório ver isso crescer.”

“Você está cansado?”, perguntou Cooper.

“Estou bem”, respondeu. “Vamos continuar. Precisamos de mais.”

Eles trocaram de calçados, colocaram botas e entraram na floresta para procurar madeira seca. Vinham descobrindo a propriedade uma caminhada de cada vez, ensinando a si mesmos a desacelerar de novo, a olhar de perto: um prado florescendo com trílio e violetas silvestres, um riacho de nascente correndo sobre granito coberto de musgo, um pássaro-preto de asas vermelhas mergulhando sobre um pequeno lago, uma cabana abandonada se decompondo até restar apenas a fundação. Então chegaram a uma clareira no alto da colina, e Cooper parou para contemplar as montanhas ao redor enquanto Farid percorria o perímetro. Encontrou uma bétula caída, pegou um galho e gritou para Cooper por cima do vento.

“O que você acha?”, perguntou.

“É lindo”, respondeu ela.

Ela o viu carregar a bétula de volta pelo prado, erguida sobre a cabeça como um troféu. Desde que haviam chegado a Vermont, ela quase podia enxergar um peso saindo de seus ombros — e estava sentindo isso também. Tomava seu chá de manhã, saboreando o silêncio e deixando os olhos percorrerem a paisagem. Estava experimentando escrever ficção. No outono, Cooper e Farid voltariam ao trabalho e à pesquisa em Dartmouth, mas isso ainda demoraria alguns meses. Da última vez que viveram em Vermont, dependiam de uma internet discada instável, sem largura de banda para videochamadas, streaming ou feeds intermináveis de redes sociais. Talvez aquele nível de desconexão fosse possível outra vez.

Levaram a bétula até o galpão, e Farid ligou a motosserra. Cortar, rachar, empilhar. Trabalharam até o prado mergulhar em sombra, até seus ombros arderem e seus braços ficarem cobertos de serragem. Ele recuou e viu que a pilha de lenha estava com quase 1,20 metro de altura e já cobria quase uma parede inteira do galpão.

“Olha o que fizemos hoje”, disse. “Este é o progresso mais concreto que tive em qualquer trabalho nos últimos seis meses.”

“Cansado agora?”, perguntou Cooper.

“Exausto”, respondeu. Ele vinha indo dormir em Vermont ainda com o zumbido da motosserra nos ouvidos e dormindo até de manhã.

O primeiro e-mail chegou antes do amanhecer.

A internet havia sido inundada durante a noite por outra onda de imagens falsas, incluindo centenas sobre Cole Tomas Allen, que invadira o jantar da associação de correspondentes da Casa Branca com uma espingarda numa tentativa de assassinar Trump. Agora havia no Facebook um vídeo de segurança aprimorado por IA que mostrava Allen passando por guardas que, na verdade, não existiam. Havia fotografias adulteradas na rede X mostrando Allen ao lado de Tom Hanks e Barack Obama. Ele havia sido running back do Dallas Cowboys. Havia sido astronauta na Artemis II. Havia sido motorista particular de Taylor Swift e do papa Leão XIV.

“Toda vez que há um grande evento de notícia, a gente simplesmente se afoga nessa lama”, disse Farid.

Ele guardou o telefone no bolso e saiu. Cortou lenha e caminhou pelas trilhas com Cooper, mas os e-mails continuaram chegando, como sempre.

“Estamos analisando este novo vídeo do incidente envolvendo o voo 179 da United”, dizia um.

“Estou verificando um vídeo que afirma mostrar uma mesquita sendo atingida no sul do Líbano.”

“Estou preso desde 2019 por causa de uma prova em vídeo falsa.”

Ele saiu da trilha e foi mais para dentro da floresta, procurando o limite da propriedade. Subiu uma colina e encontrou um velho muro de pedra, na altura do peito e com pelo menos 30 metros de extensão, atravessando o meio da mata. Farid ficou ali por um tempo, passando a mão pelo musgo e pelas pedras cinzentas desbotadas, antes de voltar para a trilha e checar o celular.

“Gostaria de pedir sua ajuda para investigar material de abuso sexual transmitido ao vivo.”

“Esta explosão no aeroporto de Dubai é real? Poderia oferecer sua expertise?”

Ele voltou em direção à frente da propriedade. Passou pela pilha de lenha e entrou em casa.

“Vou colocar um pouco do trabalho em dia”, disse a Cooper.

“Tudo bem”, respondeu ela. “Bom. Eu também.”

Ele se acomodou no escritório e ligou o computador. Do lado de fora da janela, bétulas balançavam ao vento e o sol mergulhava em direção às Green Mountains. Ele aumentou o volume, abriu um vídeo e ouviu uma série de explosões. Inclinou-se para o brilho azul do monitor e assistiu ao fogo arder.

c.2026 The New York Times Company