Em 2018, Sam Cole, um repórter do site Motherboard, descobriu um lugar novo e perturbador da internet. Um usuário do Reddit com o nome de “deepfakes” estava postando vídeos pornôs falsos e não consensuais, usando um algoritmo de IA para colocar rostos de celebridades em pornografia real. Cole alertou sobre o fenômeno, bem quando a tecnologia estava prestes a explodir. Um ano depois, a pornografia deepfake se espalhou para muito além do Reddit, com aplicativos facilmente acessíveis capazes de “tirar” a roupa de qualquer mulher fotografada.
Desde então, as deepfakes ganharam uma má reputação, e com razão. A grande maioria deles ainda é usada para pornografia falsa. Uma jornalista investigativa foi fortemente assediada e temporariamente silenciada por uma deepfake e, mais recentemente, uma poeta e romancista foi aterrorizada e humilhada. Há também o risco da utilização de deepfakes políticos para geração de notícias falsas convincentes, que podem causar estragos em ambientes políticos instáveis.
Mas, à medida que os algoritmos para manipular e sintetizar mídia se tornaram mais poderosos, eles também deram origem a usos positivos, bem como humorísticos ou mundanos. Aqui está um resumo de alguns dos nossos favoritos, aproximadamente em ordem cronológica, e por que pensamos que eles são um sinal do que está por vir.
Proteção de denunciantes
TEUS MEDIA
Em junho, Bem-vindo à Chechênia, um filme investigativo sobre a perseguição de indivíduos LGBTQ na república russa, se tornou o primeiro documentário a usar deepfakes para proteger a identidade de seus participantes. Os ativistas que lutavam contra a perseguição, os protagonistas da história, viviam escondidos para evitarem ser torturados ou mortos. Depois de explorar muitos métodos para esconder suas identidades, o diretor David France decidiu dar a eles “disfarces” deepfakes. Ele pediu a outros ativistas LGBTQ de todo o mundo para emprestarem seus rostos, que foram então sobrepostos aos rostos das pessoas em seu filme. A técnica permitiu que France preservasse a integridade das expressões faciais de seus entrevistados e, portanto, sua dor, medo e humanidade. No total, o filme protegeu 23 indivíduos, criando uma nova forma de proteção aos denunciantes.
História Revisionista
PANETTA E BURGUND
Em julho, dois pesquisadores do MIT, Francesca Panetta e Halsey Burgund, lançaram um projeto para criar uma história alternativa do pouso da nave Apollo na lua, em 1969. Chamado In Event of Moon Disaster, ou em tradução livre Em Caso de Desastre Lunar, ele usa o discurso que o presidente Richard Nixon teria proferido se essa importante ocasião não tivesse ocorrido de acordo com o planejado. Os pesquisadores fizeram parceria com duas empresas distintas para áudio e vídeo deepfake e contrataram um ator para fornecer a performance “base”. Então, eles usaram seu rosto e voz em dois tipos de software e os juntaram para criar um Nixon deepfake.
Embora este projeto demonstre como as deepfakes podem criar histórias alternativas poderosas, um outro sugere como as deepfakes podem dar vida à história real. Em fevereiro, a revista Time fez uma recriação da marcha de Martin Luther King Jr,. em Washington, em realidade virtual, para inserir os espectadores na cena. O projeto não usava tecnologia deepfake, mas a gigante chinesa de tecnologia Tencent posteriormente o citou em um livro branco sobre seus planos para IA, dizendo que deepfakes poderiam ser usados para fins semelhantes no futuro.
Memes
[vídeo]
MS TECH | NEURIPS (CONJUNTO DE TREINAMENTO); HAO (CORTESIA)
No final do verão, o mundo dos memes teve acesso a deepfakes fáceis de fazer e jogou os resultados no universo digital. Um meme viral em particular, chamado “Baka Mitai” (foto acima), cresceu rapidamente conforme as pessoas aprenderam a usar a tecnologia para criar suas próprias versões. O algoritmo específico que alimentou essa febre veio de um artigo de pesquisa de 2019, que permite ao usuário animar uma foto do rosto de uma pessoa com um vídeo de outra. O efeito não poderia ser considerado de alta qualidade de forma nenhuma, mas com certeza produz diversão de qualidade. O fenômeno não é totalmente surpreendente; brincadeiras e paródias têm sido uma força motriz na popularização de deepfakes e outras ferramentas de manipulação de mídia. É por isso que alguns especialistas enfatizam a necessidade de limites para evitar que a sátira se transforme em abuso.
Anúncios esportivos
[vídeo]
Agendas lotadas tornam difícil juntar estrelas dos esportes na mesma sala, mesmo nos melhores dias. No meio de uma quarentena, é impossível. Então, para filmar um comercial em Los Angeles com pessoas em quarentena espalhadas pelo país, a única opção é usar alguns truques. Em agosto, o site de streaming Hulu exibiu um anúncio para promover o retorno da transmissão de esportes ao seu serviço, estrelado pelo jogador da NBA Damian Lillard, pela jogadora da WNBA Skylar Diggins-Smith e pelo jogador de hóquei canadense Sidney Crosby. Vemos essas estrelas deixando de assar pães e voltando aos esportes, com suas bolas de basquete e tacos de hóquei na mão. Só que não: os rostos dessas estrelas foram sobrepostos em dublês usando tecnologia deepfake. O algoritmo foi treinado com filmagens dos jogadores capturadas no Zoom. Truques de computador têm sido usados para criar esse tipo de falsificação há anos, mas as deepfakes tornam o processo mais fácil e barato do que nunca, e este ano de atividades remotas deu um impulso à tecnologia. O Hulu não foi o único. Outros anunciantes, incluindo a ESPN, também realizaram experiências com o uso de deepfakes.
Campanhas políticas
[vídeo]
Em setembro, durante os preparativos para as eleições presidenciais nos EUA, o grupo ativista apartidário RepresentUs lançou dois anúncios deepfake. Eles apresentavam versões falsas do presidente russo Vladimir Putin e do líder norte-coreano Kim Jong-un com a mesma mensagem: nenhum dos dois precisaria interferir nas eleições dos EUA, porque eles arruinariam sua democracia por si sós. Este não foi o primeiro uso de deepfakes durante uma campanha política. Em fevereiro, o político indiano Manoj Tiwari usou deepfakes em um vídeo de campanha para criar a ilusão de que estava falando Haryanvi, o dialeto hindi falado por seus eleitores-alvo. Mas o RepresentUs inverteu a narrativa típica sobre deepfakes políticos de maneira notável. Embora os especialistas se preocupem muitas vezes com a capacidade que essa tecnologia possui para causar confusão e atrapalhar eleições, o grupo procurou fazer exatamente o oposto: aumentar a conscientização sobre a repressão de eleitores para proteger o direito ao voto e aumentar a participação política.
Programas de televisão
[vídeo]
Se comerciais deepfake e golpes de publicidade estão começando a parecer familiares, pode confiar que os criadores de South Park os levarão a extremos. Em outubro, Trey Parker e Matt Stone estrearam sua nova criação, Sassy Justice, o primeiro programa de TV deepfake. O programa satírico semanal gira em torno do personagem Sassy Justice, um repórter de notícias locais com o rosto deepfake de Trump. Sassy entrevista figuras deepfake como Jared Kushner (com o rosto de Kushner sobreposto ao de uma criança) e Al Gore. Com Sassy Justice, as deepfakes foram além de um truque de marketing ou de uma enganação maliciosa para atingir a cultura popular. Não só a tecnologia de deepfakes é usada para criar os personagens, mas é o próprio assunto da sátira. No primeiro episódio, Sassy “Trump” Justice, interpretando um advogado de defesa do consumidor, investiga a verdade por trás de “notícias deepfake”.
MIT Technology Review
