Talvez competindo mano a mano com bombas atômicas, a invenção humana com mais potencial para gerar danos no planeta seja o DeepFake. Basicamente a tecnologia usa aprendizado de máquina para criar montagens ultrarrealistas de pessoas, substituindo rostos e vozes, o que poderia servir para manipular completamente a opinião pública.
A tecnologia causou alvoroço com as representações assustadoramente realistas que pode gerar, criando inclusive, vídeos pornográficos falsos da atriz Scarlett Johansson e fazendo com que o ex-presidente americano Barack Obama aparecesse em um vídeo xingando Donald Trump. Em resumo, o deepfake cria vídeos ou fotos falsas, mas extremamente realistas realistas, de pessoas fazendo coisas que nunca fizeram na vida real.
Abaixo, você confere um compilado de vídeos que mostra como isso funciona:
Se quando o recurso era exclusivo dos estúdios de Hollywood, já era assustador, imagine isso chegando à mão de pessoas comuns? Nos últimos meses, surgiram vários sites e aplicativos que nos mostram o quão difundida (e inconsequente) a tecnologia está.
ThisPersonDoesNotExist.com
Acesse o site ThisPersonDoesNotExist.com e você vai ver a foto de uma pessoa na tela. Atualize e ele te mostrará outra, atualize mais uma vez e uma nova pessoa será exibida… E assim por diante. Acontece que nenhuma dessas pessoas existe de verdade. O site utiliza inteligência artificial de última geração para criar esses rostos com algo chamado de GAN (Generative Adversarial Networks, ou “rede contraditória generativa” em tradução livre), que coloca dois algoritmos – um contra o outro – para rodar. O objetivo de um deles é enganar, e do outro, descobrir se está sendo enganado. Para isso, um dos algoritmos cria uma imagem falsa de uma pessoa e tenta enganar o algoritmo de julgamento, que analisará se a imagem é legítima. Se o computador entende a imagem como falsa, ele informa quais itens usou para chegar a essa conclusão, o que “evolui” o algoritmo enganador de maneira a melhorar a sua próxima tentativa, até que a máquina consiga ser enganada.
O mais legal (e assustador) dessa história? O código dessa brincadeira toda está disponível no GitHub.
Vários outros sites usaram essa mesma tecnologia para parodiar outras coisas. Agora temos sites de gatos falsos, personagens falsos de anime e até mesmo falsos anúncios do Airbnb.
Febre na China
E é óbvio, nossos amigos chineses lideram o desenvolvimento de aplicações nessa área. Um deles em particular, virou febre no país: O Zao é um aplicativo para iphone que utiliza a tecnologia para substituir o rosto de atores de Hollywood durante cenas icônicas do cinema pela face dos usuários.
Embora a democratização da tecnologia seja importante, na prática isso significa que praticamente qualquer pessoa com algum conhecimento de programação e tempo livre pode criar algo terrível, com potencial para destruir carreiras, manchar reputações ou criar incidentes diplomáticos gigantes.
Facebook quer lutar contra o DeepFake
O Facebook está oferecendo a quantia de 10 milhões de dólares para quem criar uma aplicação capaz de detectar (com eficiência) um DeepFake.
Em uma parceria com a Microsof e outras empresas de tecnologia, o Deepfake Detection Challenge é uma “competição” que visa encontrar uma solução para o problema que está prestes a surgir.
“O objetivo do desafio é produzir tecnologia que todos possam usar para detectar quando a inteligência artificial for usada para alterar um vídeo a fim de enganar o espectador”, escreveu Mike Schroepfer, diretor de tecnologia do Facebook AI, em uma postagem no seu blog.
O Deepfake Detection Challenge começará em outubro e ocorrerá até maio de 2020 em todo o mundo.