Deep Fake ameaça virtual contra a democracia

por Jéssica Souza, Larissa Simões e Rodolfo Lopes.

Uma nova forma de manipular a realidade circula no mundo digital: o Deep Fake. A inteligência artificial utilizada para criar vídeos que manipulam as expressões e a sincronização de movimentos faciais de pessoas levanta questões preocupantes para as futuras eleições no país e no mundo.

Em meio a discursos políticos e crimes virtuais, a ferramenta apresenta casos com resultados impressionantes e convencedores aos olhos de quem vê, confundindo assim, a percepção política das pessoas. Este recurso permite a criação de falsos vídeos, como por exemplo, de determinado líder mundial com discurso contrário ao que realmente representa seus argumentos e suas práticas.

Fonte: Wired

No Brasil, a tecnologia promete dar muita dor de cabeça nas eleições de 2022. O debate atual sobre o assunto proporciona a informação aos usuários das redes sociais digitais a respeito da falsificação de conteúdo midiático propagado em massa sem a checagem da autenticidade dos fatos. Visto que, há um crescente problema de desinformação no país relacionado à falta de educação midiática das pessoas, aos conflitos políticos e aos simples métodos de produção de notícias disseminadas em larga escala, baseadas em imagens instantâneas, memes e gifs.

Fonte: Washington Examiner

Com os avanços da tecnologia, o Deep Fake pode assumir grandes proporções para manifestar um posicionamento incitando o ódio contra alguém de outra classe social, raça, gênero, sexualidade e/ou religião.

Pensamentos opostos

Esse tipo de edição de vídeo já não é novidade para quem acompanha o cenário de tecnologia, mas, até então, o comum é encontrar esse formato para criar memes e humor nas redes sociais. As notícias falsas disseminadas nas redes, também começaram como piadas e acabou como ponto decisivo nas eleições presidenciais do EUA e do Brasil. 

Segundo coordenador e professor de Jogos Digitais no Centro Estadual de Educação Técnica (CEET) Vasco Coutinho, Fabiano de Paula, os Deep Fakes surgirão no campo da disputa de narrativas para o eleitorado indeciso.

Os eleitores mais próximos do candidato vão ser os primeiros a denunciar a adulteração, e do outro lado os eleitores produtores da deep fake vão usar para justificar suas ações. Como no caso da candidata Manuela D'Ávila que sofreu uma série de montagens durante a eleição, ressaltou Fabiano de Paula.

O professor ainda destaca que a mídia tradicional era até então guardiã da informação, uma vez que essa supremacia jornalística foi destruída com a descredibilidade das instituições. “Entramos em uma realidade na qual qualquer informação é verdade, a famosa era da pós-verdade que a eleição do Trump nos EUA trouxe. O vídeo por carregar uma ideia de verdade factual pode acrescentar elementos que permitam que as pessoas afirmem que as fake news são verdades, porém o fator mais preocupante deve ser os meios pelos quais as falsas notícias são transmitidas”, completou.

Já para o jornalista Vinícius Valfré, o Deep Fake não é a maior preocupação no momento. A desinformação simples e direta é o que traz receio na comunicação e interpretação das notícias. “Memes, entrevistas editadas e tiradas de contexto, textos disparados em massa por grupos de WhatsApp. Tudo isso, somado à crise de credibilidade do jornalismo, é muito preocupante. Por enquanto, não vejo os deep fakes como o foco do problema. Vejo, aliás, que, muitas vezes, o debate sobre deep fake acaba por superestimá-lo”, ressaltou o jornalista.

Ações de Combate ao Deep Fake

A empresa Holandesa, Deep Trace, responsável por desenvolver antivírus para detectar Deep Fakes, estima que existam 12 mil vídeos como estes na internet. A maioria é formada por conteúdos pornográficos que buscam inserir celebridades nos vídeos dessa natureza. O número ainda é baixo, sobretudo para a realidade brasileira. Contudo, as estimativas para as próximas eleições presidenciais trarão uma evolução das notícias falsas que vimos na última eleição, porém as mídias sociais devem continuar a ter maior atenção.

A empresa buscou construir um antivírus para tecnologias de aprendizado profundo de última geração que detectam mídia audiovisual sintética ou alterada. Além disso, o programa alerta aos usuários quando a mídia manipulada é detectada, fornecendo conclusão detalhada do que foi identificado.

Com isso, a ferramenta de antivírus foi projetada para ser perfeitamente integrada ao sistema de dados existente do cliente. A partir deste ponto, a mídia audiovisual é autenticada com base apenas no conteúdo acessado, não sendo possível identificar a origem do vídeo ou controlar como ela é capturada.

Outra iniciativa de enfrentamento foi implementada pela Cornell University, localizada em Nova Iorque, EUA, desenvolvendo estratégias para detectar a manipulação de rosto em vídeos. Desta forma, métodos computacionais eficazes foram ampliados para combinar variações nesses modelos, simultaneamente aplicadas com técnicas de reconhecimento de faces particulares do domínio.

A Universidade Americana vem executando extensas experiências para obter um desempenho de extrema conformidade com o esperado. A manipulação facial é identificada por meio de vídeos já disponíveis à população, sendo feita a comparação específica. Segundo a avaliação realizada pela Cornell University, a precisão do estado da arte é em até 4,55% em relação a anterior.

As vantagens e desvantagens alimentadas pela Inteligência Artificial

A Inteligência Artificial possui grande importância no mundo do entretenimento e na evolução tecnológica de ferramentas ligadas a Engenharia e às demais áreas profissionais. “A saga do filme Star Wars utilizou a AI para colocar um ator falecido dentro do filme, ou para ter uma versão rejuvenescida de uma personagem. Outra produção cinematográfica que também usou este artifício é o filme Logan, aplicando a técnica massivamente para que tivéssemos o Wolverine idoso e jovem ao mesmo tempo. Antes usaríamos maquiagem, agora podemos realizar digitalmente. É um grande avanço para as produções audiovisuais”, enfatizou.

Fonte: Drive Sys

Contudo, a utilização maliciosa do Deep Fake se dá pela diminuição da tecnologia, de modo que não é necessário um grande estúdio para produzir esse tipo de conteúdo falso, uma falsa realidade que é alimentada na cabeça das pessoas. É por isso que as discussões sobre as eleições se tornam importantes, pois a identificação de um vídeo falso não é o grande problema, mas sim, fazer as pessoas aceitarem que ele é falso.

Iniciativas estão sendo melhoradas para identificar um deep fake através da análise ou por meio dos frames da imagem de procura e inconsistências ao longo do vídeo, que também são usadas em técnicas mais sofisticadas de mapeamento do rosto, em tese a mesma que é utilizada para criar o Deep Fake.

A grande questão é: Você acredita no que vê?