O que é deepfake e por que o TSE proibiu seu uso nas eleições
Entenda como funciona a tecnologia, os casos mais recentes e por que ela pode ter um impacto tão grande na sociedade
Já imaginou ter um vídeo com a sua imagem fazendo algo que você não se lembra de ter feito rodando pela internet? Ou mesmo ouvir um áudio com a sua voz dizendo algo que você discorda completamente? É isso que aconteceu com algumas figuras públicas e poderia acontecer com qualquer um por conta da chamada deepfake. A técnica que modifica vídeos, fotos e áudios pode ser tão perigosa que seu uso acaba de ser vetado pelo TSE (Tribunal Superior Eleitoral) nas eleições municipais de 2024.
Se você nunca ouviu falar do termo ou quer se aprofundar nesse assunto que já tem gerado uma série de consequências na sociedade, este é o lugar certo. O GUIA DO ESTUDANTE reuniu tudo o que você precisa saber, desde como funciona a tecnologia na prática até casos recentes que tomaram grandes proporções.
Afinal, o que é deepfake?
Deepfakes são sobretudo vídeos falsos criados a partir de Inteligência Artificial, fundindo, combinando ou substituindo imagens e sincronizando movimentos labiais, expressões e demais detalhes, para fingir que o conteúdo é verdadeiro. Assim, é possível fazer um vídeo com qualquer pessoa dizendo algo que ela nunca disse ou fazendo algo que nunca fez.
Conforme o próprio nome indica, a tecnologia é baseada em deep learning. Essa é uma categoria dentro do aprendizado de máquina (machine learning) que faz com que algoritmos reconheçam padrões com base em um banco de dados e criem novos arquivos. Quanto mais material, melhor o resultado.
+ Quais são os perigos da Inteligência Artificial? Dá para controlá-la?
Casos recentes
No final de janeiro, a cantora Taylor Swift foi vítima dessa tecnologia: circularam na internet conteúdos pornográficos com a sua imagem gerados por inteligência artificial. Imagens obscenas da artista ficaram disponíveis por cerca de 17 horas e foram vistas mais de 45 milhões de vezes antes de serem excluídas.
Mas não é só de maneira ilícita que a tecnologia tem sido utilizada. Em uma propaganda recente da Volkswagen foi feito um dueto entre as cantoras Elis Regina e Maria Rita, mãe e filha, enquanto dirigem vans de diferentes gerações. Mas a ideia não foi bem recebida, vista por muitos como um desrespeito à Elis Regina, que faleceu em 1982. Isso porque a tecnologia esbarra em uma questão ética: é permitido fazer uma produção com alguém que faleceu antes do desenvolvimento de deepfakes e, portanto, nunca autorizou o uso de suas imagens nesse sentido? E os limites da propriedade intelectual, deixam de existir?
+ 7 profissões que vão surgir com a Inteligência Artificial
Impactos na desinformação
Outros casos famosos incluem políticos e eleições, como um famoso vídeo do ex-presidente dos Estados Unidos, Barack Obama, falando sobre diferentes temas que ele nunca abordou. No Brasil, nas eleições 2022, a vítima do deepfake foi Renata Vasconcellos, âncora do Jornal Nacional, da TV Globo. Circulou na internet um vídeo que utilizava a voz da jornalista para mostrar dados de uma falsa pesquisa de intenção de votos.
O problema é que, com uma tecnologia cada vez mais aprimorada, fica difícil distinguir a veracidade de um vídeo. Por isso, é importante checar as fontes, o conteúdo e correr atrás da informação antes de disseminá-la.
Isso porque essa tecnologia pode afetar a sociedade como um todo, desde os resultados de uma eleição até a reputação de uma pessoa.
+ Táticas de desinformação: o que são ‘cortina de fumaça’ e firehosing
Como está a legislação ao redor do tema?
Ainda não existem leis que restrinjam ou regulamentem essa tecnologia.
Tem sido discutida a criação de uma legislação nos Estados Unidos, por exemplo, principalmente em resposta ao uso da IA generativa em desinformação política. Entretanto, ainda não existe uma lei federal sobre o tema. Já no Reino Unido, por meio da Lei de Segurança Online, a distribuição (embora não a criação) de imagens íntimas feitas ou alteradas digitalmente é crime.
Há uma movimentação nesse sentido feita por especialistas em inteligência artificial e executivos do setor – e até um dos pioneiros da tecnologia, Yoshua Bengio. Eles assinaram uma carta aberta chamada “Disrupting the Deepfake Supply Chain” (“Interrompendo a cadeia de suprimentos de deepfakes”, na tradução) que pede mais regulamentação envolvendo a criação de deepfakes, citando os possíveis riscos para a sociedade.
+ Tema de redação: fake news e os limites da liberdade de expressão
“Hoje, os deepfakes geralmente envolvem imagens sexuais, fraudes ou desinformação política. Como a IA está progredindo rapidamente e tornando a criação de deepfakes muito mais fácil, são necessárias salvaguardas”, afirma o documento.
Algumas das recomendações da carta incluem regulamentação, incluindo a criminalização total da pornografia infantil deepfake, criar penalidades criminais para qualquer indivíduo que conscientemente produza ou facilite a disseminação de deepfakes prejudiciais, e exigir que as empresas de inteligência artificial impeçam que seus produtos criem deepfakes nocivos.
Prepare-se para o Enem sem sair de casa. Assine o Curso GUIA DO ESTUDANTE ENEM e tenha acesso a todas as provas do Enem para fazer online e mais de 180 videoaulas com professores do Poliedro, recordista de aprovação nas universidades mais concorridas do país.
“A champanhe” ou “o champanhe”: qual o certo?
O que é a “revolução das skills” e como se preparar para ela
O que define as profissões que serão ou não substituídas pela Inteligência Artificial?
3 técnicas de memorização para deixar seu cérebro afiado
Qual o plural de pisca-pisca?
