Este jornalista não é real, mas suas histórias destrutivas sim

Quando Oliver Taylor acusou o acadêmico londrino Mazen Masri e sua esposa Ryvka Barnard de serem "conhecidos simpatizantes com terroristas", eles foram tomados pela surpresa. O que eles não perceberam na época é que Oliver Taylor não é uma pessoa real. Segundo dica do amigo Zé Robero Isabella. via e-mail, uma reportagem investigativa da Reuters, Oliver Taylor é uma pessoa fabricada com deepfake. Suas fotos foram geradas por computador com uma história completa por trás. Taylor chegou a publicar artigos em notáveis ​​meios de comunicação como o Jerusalem Post e o Times of Israel.

A Reuters conversou com seis especialistas sobre Taylor, que concordaram que a única imagem conhecida dele é definitivamente um foto criada por uma inteligência artificial de aprendizado profundo.

- "A distorção e as inconsistências no plano de fundo são um sinal revelador de uma imagem sintetizada, assim como algumas falhas no pescoço", disse Hany Farid, pioneiro em investigação forense de imagem digital.

Mas identificar Taylor como ficção não foi a parte difícil, o que se mostra quase impossível é descobrindo quem está por trás do deepfake. Embora o caso de Oliver Taylor não tenha gerado grandes problemas, é um vislumbre sombrio do que a tecnologia deepfake pode causar no futuro.

A maior parte da presença na Internet de Oliver Taylor já foi apagada da existência, exceto por algumas postagens aleatórias em seu blog. Taylor ainda tem um perfil no site de perguntas e respostas Quora, que diz:

- "Estudante de 24 anos, barista e ativista político. Durante a semana, trabalho para concluir meu mestrado em ciência política e, no fim de semana, você me encontrará envolvido em tudo que é café...". Ele supostamente frequentou a Universidade de Birmingham, na Inglaterra, embora, é claro, a escola não tenha nenhum registro dele.

E o problema mais premente com os deepfakes é que eles não são essencialmente rastreáveis. Um especialista entrevistado pela Reuters disse que os investigadores que perseguem a origem dessas fotos ficam procurando uma agulha no palheiro, exceto que a agulha não existe.

Bem, isso é preocupante, pois a disseminação de informações errôneas está rapidamente se tornando um dos problemas mais urgentes da Internet, com todas as redes de mídia social em alerta máximo, enquanto tentam eliminar declarações reais de conspirações. E, à medida que a desinformação se torna mais prevalente, os deepfakes estão se mostrando um método fácil para vendê-la, uma maneira perfeita de se esconder atrás de suas declarações sem medo de ser descoberto.

Apenas um dano mínimo foi causado pela difamação de Oliver Taylor. No entanto, à medida que a tecnologia deepfake melhora, as pessoas comuns ficam cada vez mais fáceis de criar e de se esconder atrás de uma personalidade deepfake. E isto pode trazer muito mais problemas do que falsas acusações no futuro.

O caso de Oliver Taylor é um lembrete de que devemos estar muito vigilantes com o uso de tecnologias de aprendizado profundo. As imagens de pessoas geradas por computador já são muito convincentes como você pode verificar no site "Esta Pessoa não Existe", onde cada rosto é gerado por 3 redes neuronais.

Por enquanto, os vídeos deepfakes ainda são um pouco distintos da realidade, mas é bom lembrar que a Disney está investindo pesado para levar a tecnologia ao cinema e à televisão, e quando isso acontecer, o mundo vai ficar claramente louco com gente fazendo afirmações que não são suas em vídeos. Talvez seja este o melhor momento de ficar muito atento e criar métodos de detecção muito mais precisos se desejarmos mitigar seus danos no futuro.