Os visitantes de um site de notícias da Ucrânia foram recebidos na noite de 18 de fevereiro de 2022 por uma cena familiar, um vídeo do seu presidente fazendo um discurso . Foi um vídeo deepfake.
Embora a semelhança existisse, o rosto parecia ligeiramente fora de sincronia com a cabeça do presidente ucraniano. No vídeo, Volodymyr Zelensky anunciou que a guerra tinha acabado, um fato que a maioria do povo ucraniano sabia ser falso.
Enquanto isso acontecia online, o ticker (texto em movimento) na parte inferior da tela no feed de televisão ao vivo do canal exibia a mesma mensagem. Alegou – mais uma vez, falsamente – que a Ucrânia tinha se rendido.
Deepfake na Ucrânia em tempos de guerra
Nossa equipe no centro de pesquisa Lero , na University College Cork, publicou um estudo inédito que examina as maneiras como os vídeos deepfake foram exibidos e debatidos no Twitter durante os primeiros meses da invasão russa da Ucrânia.
Deepfake é um desenvolvimento tecnológico que essencialmente permite que as pessoas criem vídeos de eventos que nunca aconteceram. Parece particularmente adequado para a difusão de desinformação e “notícias falsas” em plataformas de redes sociais e em outros ambientes online.
Deepfakes também são muito adequados para uso em guerra cibernética.
Uso de IA na criação de deepfakes
Esses vídeos são manipulados com tecnologia de inteligência artificial (IA) e geralmente envolvem a mistura de conteúdo real e falso. Isso faz com que pareçam mais realistas e convincentes do que vídeos gerados inteiramente com inteligência artificial (IA).
Por exemplo, a tecnologia deepfake pode pegar um vídeo real e trocar os rostos de duas pessoas ou alterar os movimentos dos lábios para que uma pessoa pareça dizer algo diferente do que disse originalmente.
Comentaristas e acadêmicos apontam que vídeos falsos podem ser feitos com muito mais facilidade e rapidez usando a tecnologia deepfake do que com os métodos anteriores.
Veja o vídeo deepfake de 2022, onde aparece o presidente da Ucrânia falando aos ucranianos que os militares tinham se rendido.
Deepfakes causam perda de confiança
Nosso estudo encontrou muitos casos em que a presença de deepfakes causou dúvidas ou confusão. Surpreendentemente, os nossos dados demonstraram casos em que as pessoas acusaram vídeos reais de serem falsos .
Também encontramos provas de pessoas que perderam a fé em todos os vídeos do conflito, com algumas pessoas a endossar teorias de que os líderes mundiais estavam mortos e tinham sido substituídos por deepfakes.
Dos muitos exemplos de deepfakes usados online durante a guerra na Ucrânia, o exemplo de Zelensky alegando que a guerra havia acabado foi talvez o mais assustador.
Isto porque destacou como os deepfakes poderiam ser usados, juntamente com serviços de mídia hackeados, para espalhar mensagens que eram contrafactuais.
O resultado concreto deste incidente foi que informações falsas foram distribuídas por uma fonte confiável.
Vídeos deepfake semelhantes da rendição do presidente russo Vladimir Putin também surgiram durante a guerra.
Os efeitos do deepfake na guerra da Ucrânia
Essa pesquisa é o primeiro estudo acadêmico sobre o efeito dos deepfakes na guerra. Para descobrir como os deepfakes foram usados nos primeiros dias da invasão russa da Ucrânia, primeiro criamos uma linha do tempo dos vários deepfakes que foram disseminados no início da invasão.
Embora não tenhamos conseguido capturar todos os deepfakes que surgiram, tentamos encontrar os exemplos mais notáveis e com maior impacto. Em seguida, analisamos como esses vídeos estavam sendo discutidos no Twitter (agora chamado de X).
Humor, confusão e ceticismo
Muitos dos deepfakes feitos durante o conflito eram de natureza humorística. Alguns envolviam a inserção de Putin em filmes como Downfall ( Der Untergang ) , ou o filme de 1940 de Charlie Chaplin, O Grande Ditador .
Também houve vídeos deepfake (e CGI) feitos pelo governo ucraniano para educar as pessoas sobre o conflito.
Curiosamente, demonstrar a capacidade da Ucrânia para criar vídeos falsos, mesmo sendo educativos, pode ter sido contraproducente. Eles criaram desconfiança e suspeita entre os telespectadores em relação à mídia real.
Grande parte da discussão sobre deepfakes online envolveu ceticismo saudável , como conselhos para verificação de fatos e detecção de deepfakes.
Vídeos: deepfake ou verdade?
No entanto, também encontramos vários exemplos de vídeos que as pessoas alegaram falsamente serem deepfakes. Havia duas categorias desses vídeos.
Em primeiro lugar, muitos vídeos revelaram-se falsos de baixa tecnologia, tais como aqueles com legendas falsas ou vídeos de acontecimentos de outras guerras apresentados como prova de acontecimentos na Ucrânia.
Em segundo lugar, encontramos muitos casos de vídeos reais de acontecimentos na Ucrânia, que os comentadores acusaram falsamente de terem sido falsificados .
Perder a confiança na mídia real é uma consequência séria dos deepfakes e apenas alimenta a criação de teorias da conspiração centradas nos deepfakes.
Aprendendo as lições
Que lições o usuário médio das redes sociais pode tirar desta pesquisa? A prevalência de vídeos deepfake online aumentou nos últimos cinco anos e a detecção tecnológica de vídeos deepfake não é atualmente suficientemente precisa para ser considerada uma solução.
O importante é encorajar uma boa educação midiática nos indivíduos para equilibrar o ceticismo saudável e não saudável .
É necessário encarar com ceticismo os meios de comunicação altamente inflamatórios e esperar que essas notícias sejam verificadas por múltiplas fontes confiáveis.
Do outro lado da moeda, as pessoas devem ter cuidado para não acusar falsamente os vídeos de serem deepfake .
É importante não perder a confiança em cada meio de comunicação que encontramos, especialmente enquanto os deepfakes não são particularmente prevalentes online.
Uma coisa é certa: a questão da desinformação falsa estará na mente de todos à medida que os conflitos globais se desenvolverem ao longo desta década e além.
Sobre os autores
John Joseph Twomey é doutorando em Psicologia Aplicada no University College Cork. Seu trabalho concentra-se no uso de deepfakes e seu impacto nos indivíduos e na sociedade.
Connor Linehan é professor de Psicologia Aplicada do University College Cork. O foco da sua pesquisa é na concepção e avaliação de tecnologia para apoiar comportamentos de educação e saúde.
Gillian Murphy é professora da University College Cork e sua pesquisa explora processos cognitivos em ambientes aplicados, em particular desinformação, distorção de memória e falhas de atenção.
Este artigo foi publicado originalmente no portal acadêmico The Conversation e é republicado aqui sob licença Creative Commons.
