Em meio à era digital, a preocupação com as notícias falsas tem ocupado cada vez mais a atenção de órgãos públicos, da mídia e de personalidades de todos os tipos. Não à toa, as Fake News tiveram certo peso em processos eleitorais importantes como as eleições presidenciais dos Estados Unidos em 2016, o referendo sobre a saída do Reino Unido da União Europeia ou os generais do Brasil que deram a vitória do Bolsonaro.
Sem ter que ir tão longe, em nosso país o Facebook teve que fechar recentemente três grandes redes de extrema direita que, por meio de 30 páginas, grupos e contas duplicadas acumularam mais de um milhão e meio de seguidores e mais de 7 milhões de interações . Esses grupos se dedicavam a espalhar boatos e imagens falsas.
Mas agora estamos diante de outro tipo de ameaça digital que está criando novas dores de cabeça. Estamos falando do chamado Deepfake, termo que surge da combinação de “Deep Learning” e “Fake”. Basicamente, é uma forma de inteligência artificial que permite a qualquer usuário editar vídeos e áudios falsos de pessoas que parecem reais. Para isso, são utilizadas redes geradoras antagônicas (AGRs) , uma espécie de algoritmo que pode criar novos tipos de dados a partir de outros conjuntos já existentes.
Em última análise, "deepfakes" são mais uma forma de manipulação digital e uma das mais prováveis de serem usadas para "trollagem" no melhor dos casos. Mas como podemos detectá-los? E, acima de tudo, o que está sendo feito por instituições e empresas privadas para prevenir suas desastrosas consequências? Neste especial, vamos rever os esforços que estão sendo feitos para acabar com este novo flagelo digital.
Por que os deepfakes são tão perigosos?
A tecnologia “deepfake” permite substituir facilmente o rosto de uma pessoa pelo de outra, como se fosse uma espécie de máscara ou máscara digital, para nos fazer acreditar que ele disse certas coisas que nunca realmente aconteceram . Como você pode imaginar, essas técnicas têm uma série de implicações bastante significativas para determinar a legitimidade das informações que circulam na internet.
Embora sejam frequentemente usados para criar vídeos humorísticos, a verdade é que os “deepfakes” têm um potencial sombrio para destruir a imagem pública de uma pessoa ou influenciar a opinião pública por meio do uso de desinformação. Infelizmente, temos que dizer que esse uso indevido está mais difundido do que gostaríamos e, com enorme sucesso, devemos acrescentar.
Um exemplo claro é o aplicativo DeepNude, que permitia carregar a imagem de uma pessoa com roupas e criar uma nova da mesma pessoa nua . Felizmente, ele já está fechado, mas devemos enfatizar a facilidade de uso deste tipo de ferramentas para as quais nenhum conhecimento de edição é necessário, uma vez que o próprio algoritmo faz todo o trabalho.
No caso do DeepNude, a plataforma ofereceu resultados incrivelmente realistas e foi totalmente acessível através de seu site para Windows e Linux . E como era de se esperar, as montagens com celebridades como Katy Perry ou Gal Gadot não demoraram muito para aparecer na rede, a tal ponto que a pressão dos advogados dessas atrizes não parou até que importantes sites de conteúdo adulto retirassem os vídeos .
Essa é apenas a ponta do iceberg da capacidade de manuseio que esse tipo de aplicação pode ter. Agora imagine as consequências de uma campanha deste tipo dirigida contra uma determinada figura política para manipular um processo eleitoral em um país ou região. O mal não conhece limites.
Como os deepfakes são combatidos?
Uma das primeiras empresas a se manifestar foi ninguém menos que o Google, que anunciou sua firme vontade de combater os deepfakes e, como se costuma dizer, nesses casos, o fogo apaga o fogo. O gigante da tecnologia confirmou o lançamento de um banco de dados completo de até 3.000 vídeos manipulados com inteligência artificial (deepfakes) que foram criados especificamente para ajudar a refinar as ferramentas de detecção dos pesquisadores.
Para fazer isso, o Google contratou atores reais para gravar seus rostos e usá-los como um ponto de referência para determinar se um vídeo foi alterado artificialmente. Usando métodos de geração de deepfake disponíveis para todos, milhares de deepfakes são criados a partir dessas gravações.
Os vídeos resultantes, reais e falsos, são enviados para a plataforma de desenvolvimento colaborativo GitHub para que os pesquisadores entendam totalmente o que o sistema está produzindo. Esta base de dados, como dizemos, está totalmente acessível, embora primeiro tenham de lhe dar permissão .
Por sua vez, o Facebook também planeja criar uma base de dados semelhante até o final deste ano. Segundo seu presidente-executivo, Mark Zuckerberg, o principal problema é que a indústria não possui um sistema padronizado para detectá-los . É por isso que se uniu à Association of AI, Microsoft e acadêmicos da Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park e University of Albany-SUNY para criar o Deepfakes Detection Challenge. (DFDC por sua sigla em Inglês).
Este macro projeto incluirá um extenso banco de dados e uma classificação detalhada , além de ajudas financeiras e doações para incentivar o maior número de colaboradores possível. A ideia é criar uma espécie de comunidade que ajude a detectar e evitar vídeos manipulados por meio de uma IA.
Não há dúvida de que a proliferação de "deepfakes" se tornou um problema muito sério, com consequências graves que não podem ser ignoradas. Embora as medidas propostas pelos principais agentes comprometidos com essa causa possam parecer impraticáveis, ou mesmo contraproducentes, no longo prazo, podem ser a única forma de erradicar esse crime. Embora possa parecer contra-intuitivo, combater os deepfakes com mais deepfakes ajudará as ferramentas de detecção a absorver mais dados para ajudá-los a localizar mais facilmente esses tipos de montagens .