Christine Albiani

Guilherme Mucelin

Ricardo Antunes

Bruna Strahl

Os chamados deepfakes – vídeos, áudios ou imagens manipuladas com o uso de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> para simular rostos, falas ou movimentos de pessoas reais – têm se tornado cada vez mais comuns. Apesar de serem, em alguns casos, utilizadas em contextos legítimos, essa tecnologia vem sendo apropriada, com frequência, para fins de violência, extorsão e exposição pública, especialmente contra mulheres, meninas e adolescentes.
No centro da produção de deepfakes estão algoritmos de aprendizado profundo - em particular as Redes Generativas Adversariais (GAN). Funcionam a partir de uma rede neural chamada de “geradora” que tenta criar conteúdo falso, enquanto outra rede neural conhecida como “discriminadora” busca determinar se o material é genuíno ou não.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-jota-principal-lancamento">Informações direto ao ponto sobre o que realmente importa: assine gratuitamente a JOTA Principal, a nova newsletter do JOTA</a></h3>
Desse confronto contínuo, que tem os dados pessoais da vítima como base, um ciclo de aprimoramento emerge: a rede geradora incorpora as correções indicadas pela discriminadora para gradualmente melhorar na produção de falsificações, enganando o “olho nu”. A chave para o alcance e a popularização dessa tecnologia, portanto, está no seu incrível realismo.
As habilidades de manipulação são abrangentes e perturbadoras e variam desde a simples “troca de rosto” até técnicas mais avançadas como sincronização labial em vídeos e fotos. Assim, se torna viável criar vídeos nos quais os lábios de alguém se movem em perfeita sincronia com um novo áudio inserido.
Um estudo realizado pela Universidade de Stanford em colaboração com o Adobe Research ilustrou como frases podem ser modificadas em vídeos de forma surpreendentemente simples – transformando uma declaração como “Eu adoro o cheiro de napalm pela manhã” em “Eu aprecio o aroma das torradas francesas ao amanhecer", sem comprometer a credibilidade do orador originalmente associado à fala, o que acontece nas mesmas proporções com outros tipos de mídia.
Mas a gravidade da situação torna-se ainda mais evidente quando se observam casos concretos de violência digital contra mulheres. A deputada federal Tabata Amaral (PSB-SP), por exemplo, foi alvo de montagens com imagens falsas em poses sensuais durante sua campanha à Prefeitura de São Paulo em 2024, em evidente tentativa de descredibilizá-la enquanto figura pública.
No México, a senadora Andrea Chávez foi vítima de imagem sexualmente explícita gerada por IA, o que motivou protestos e denúncias no parlamento. Na Coreia do Sul, mais de 290 casos de crimes sexuais envolvendo deepfakes foram registrados apenas nos oito primeiros meses de 2024: a maioria envolvendo meninas adolescentes.
O que se repete no Brasil. Há inúmeros relatos de crianças e adolescentes – na maior parte dos casos meninas – que tiveram seus rostos inseridos digitalmente em vídeos pornográficos. Situações como essa, além de traumáticas, têm consequências graves para a saúde mental, escolarização e convívio social das vítimas, além de configurarem formas de violência de gênero e abuso digital.
Os conteúdos manipulados por IA, frequentemente de cunho sexual ou difamatório, visam, de fato, humilhar, controlar ou silenciar mulheres. Tais práticas enquadram-se no disposto no art. 147-B do Código Penal, que tipifica como violência psicológica contra a mulher o ato de causar dano emocional por meio de manipulação, humilhação, constrangimento ou qualquer conduta que prejudique sua saúde psicológica e autodeterminação.
Em nosso país, embora uma resposta legislativa que levasse em consideração a gravidade desta nova realidade tenha demorado a se consolidar, houve um importante avanço: a sanção da Lei 15.123/2025, que alterou o referido artigo para aumentar pela metade a pena para o crime previsto quando cometido com o uso de IA ou qualquer outro recurso tecnológico que altere a imagem ou o som da vítima. A pena base, de seis meses a dois anos de reclusão e multa, passa agora a ter um agravamento proporcional quando a violência se manifesta por meio de conteúdos falsificados – sobretudo aqueles de natureza sexual.
No entanto, simplesmente processar procedimentos não é suficiente para reduzir os danos causados ​​pelos deepfakes devido à sua grande capacidade de se espalhar rapidamente pela internet. Um estudo realizado por pesquisadores do Instituto de Tecnologia de Massachusetts (MIT), publicado na <a href="https://www.science.org/doi/10.1126/science.aap9559">Revista Science</a>, revelou que conteúdos falsos têm uma propagação muito mais eficiente do que os conteúdos verdadeiros. De acordo com os autores do estudo, enquanto as informações corretas tendem a alcançar cerca de mil pessoas, as principais notícias falsas podem atingir até 100 mil usuários.
Não só o compartilhamento, mas a quantidade de afetados também preocupa. Isso se deve, também, ao aumento da facilidade em usar ferramentas e aplicativos para criar deepfakes, porque está tornando mais acessível a capacidade de falsificar a realidade para um número maior de pessoas que, antes, não tinham nenhum preparo.
Neste ritmo acelerado de avanços tecnológicos em que a habilidade de produzir falsificações realistas parece estar à frente do progresso na criação de meios de detecção e sistemas de responsabilização, a situação se torna ainda mais complexa  para as vítimas e sua proteção, seja preventivamente ou repressivamente.
É necessário articular um sistema integrado de prevenção, acolhimento e responsabilização. Isso inclui a adoção de mecanismos mais ágeis para a exclusão de conteúdos difamatórios e respostas mais céleres das plataformas, o fortalecimento da atuação do Ministério Público e das delegacias especializadas e o treinamento de agentes públicos sobre violência digital.
A celeridade na apreciação e remoção desses conteúdos pelas plataformas provavelmente demandará lei específica sobre transparência e responsabilidade de seus operadores, com normas voltadas ao combate de conteúdos falsos na rede ou alteração de leis já existentes como o <a href="https://www.jota.info/tudo-sobre/marco-civil-internet">Marco Civil da Internet</a> para se tornar ainda mais ágil nesses casos, com uma interpretação ampliada do art. 21.
A utilização de deepfakes contra mulheres não é apenas uma nova forma de misoginia digital; é também um ataque direto à liberdade de expressão feminina e à participação plena das mulheres na esfera pública. Muitas desistem de ocupar espaços de poder por medo de exposição, ridicularização ou violência reputacional – que, agora, pode ser fabricada com poucos cliques. É inaceitável que ambientes digitais operem sem parâmetros mínimos de segurança e governança, sobretudo quando tais omissões resultam em violações sistemáticas de direitos fundamentais.
O desafio é claro e urgente: assegurar que o avanço tecnológico não reproduza ou intensifique as estruturas históricas de exclusão e dominação das mulheres. Combater os deepfakes e outras formas de violência digital é, acima de tudo, proteger a dignidade, a integridade psíquica e o direito das mulheres à autodeterminação em um ambiente digital que, cada vez mais, constitui uma extensão dos espaços público, privado e da própria cidadania.
Neste contexto complexo e desafiador, é fundamental que as pessoas impactadas saibam que há suporte disponível para oferecer auxílio emocional amplo além de instrumentos para buscar orientação legal adequada diante de situações de violência sofridas.
Veja o que fazer:
<ol>
<li>Guarde provas: salve prints, links e arquivos. Use ferramentas para registrar a publicação.</li>
<li>Denuncie nas plataformas: use os canais oficiais de denúncia. Informe que se trata de conteúdo manipulado com IA e indique possíveis infrações dos termos de uso que demandam a remoção. Guarde o protocolo. Caso o conteúdo tenha cunho sexual, notifique formalmente a plataforma para remoção. Se ela não agir, pode ser responsabilizada, de acordo com o art 21 do Marco Civil da Internet.</li>
<li>Registre ocorrência: procure a Delegacia da Mulher ou especializada em crimes cibernéticos. Cite a Lei 15.123/2025.</li>
<li>Acione o Ministério Público: o MP pode cobrar providências, pedir remoção e responsabilização dos autores.</li>
<li>Busque apoio: procure atendimento psicológico e orientação jurídica em órgãos como Defensorias Públicas, Safernet e ONGs de proteção digital.</li>
</ol>

marco legal inteligencia artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Combater a violência digital é proteger dignidade, integridade psíquica e direito das mulheres à autodeterminação

Como deepfakes se tornaram armas de violência de gênero e o que fazer a respeito

Combater a violência digital é proteger dignidade, integridade psíquica e direito das mulheres à autodeterminação