Deepfakes contra mulheres entram na mira do Congresso

Câmara aprova urgência de projeto que tipifica como crime o uso de inteligência artificial para produzir conteúdos que violem mulheres. Proposta prevê punições para a criação e disseminação de conteúdos manipulados digitalmente

Entre 2023 e 2025, foram registrados cerca de 16 casos de deepfakes sexuais envolvendo ao menos 72 vítimas nas cinco regiões do país - (crédito: Imagem gerada por IA)

O uso de inteligência artificial para cometer crimes está cada vez mais comum. A manipulação de vídeos e fotos para difamar, constranger ou prejudicar mulheres tornou-se uma pauta relevante no Congresso Nacional. Na semana passada, o Plenário da Câmara dos Deputados aprovou, em regime de urgência, o Projeto de Lei 5.695/23, que tipifica como crime o uso de IA para produzir conteúdos que promovam qualquer forma de violência contra a mulher.

A matéria é de autoria do deputado Fred Linhares (Republicanos-DF) e prevê pena de reclusão de um a dois anos e multa. "A rápida evolução tecnológica possibilita a criação e disseminação de conteúdos falsos e prejudiciais, exacerbando a vulnerabilidade das mulheres e agravando o impacto emocional, psicológico e social das vítimas", disse o parlamentar.

As deepfakes sexuais são imagens ou vídeos de nudez ou conteúdo sexual criados com inteligência artificial para humilhar e violar a privacidade e a dignidade da vítima. O estudo "Uso indevido de IA generativa: perspectivas sobre riscos e danos centradas nas crianças", produzido pela SaferNet Brasil, mostrou que, entre 2023 e 2025, foram registrados cerca de 16 casos de deepfakes sexuais envolvendo ao menos 72 vítimas nas cinco regiões do país. São Paulo foi o estado com o maior número de casos.

Além disso, a plataforma educativa Força Meninas recebeu, nos últimos cinco anos, a notificação de 111 vítimas de deep nudes no Brasil. A maioria tinha entre 12 e 17 anos.

Um exemplo recente de deepfake sexual ocorreu em abril deste ano. Um vídeo de um grupo de jovens evangélicas, entre elas uma adolescente, foi manipulado para parecer que as vítimas dançavam de forma sexualizada, com roupas curtas, dentro de uma igreja. O vídeo original, alterado por IA pelo influenciador Jefferson de Souza, de 35 anos, mostrava as meninas dançando no mesmo ambiente, com saias longas.

De acordo com o advogado especialista em direito digital Luiz Augusto D'Urso, o PL de Fred Linhares é mais abrangente por tratar de qualquer forma de violência. No entanto, na prática, caberá ao juiz avaliar se a criação da deepfake teve a finalidade de causar algum tipo de dano à mulher. "Se ficar demonstrado que o conteúdo foi produzido com esse objetivo, a conduta poderá, em tese, enquadrar-se nesse novo ilícito", afirma.

D'Urso avalia que a legislação deve acompanhar essa evolução tecnológica, estabelecendo a obrigação para que as empresas desenvolvedoras adotem mecanismos que permitam a verificação, por meio de metadados ou outras tecnologias.

"Esse projeto pode representar um primeiro passo para a construção de uma regulamentação mais robusta. Na minha avaliação, a forma mais eficaz de enfrentar esse problema é impedir a criação desse tipo de conteúdo por meio da lei, obrigando as empresas desenvolvedoras a adotar mecanismos que impeçam sua geração. Assim, ao receber um comando para produzir um conteúdo ilícito, os próprios sistemas responderiam que não podem atender à solicitação", aponta.

Para o professor de engenharia de software da Uniceplac e pesquisador de cibernética e inteligência artificial Romes Heriberto Araújo, a detecção de vídeos produzidos por IA está cada vez mais difícil, embora ainda existam técnicas. Segundo ele, inconsistências em bordas de cabelo, orelhas e dentes, piscadas irregulares, iluminação desigual entre rosto e ambiente, sincronia imperfeita entre lábios e áudio e reflexos incoerentes nos olhos são algumas das pistas que podem indicar uma deepfake.

"O problema é que cada geração de modelos corrige justamente os defeitos que aprendemos a procurar, de modo que a inspeção a olho nu é uma corrida perdida no médio prazo. A detecção confiável está migrando do olho humano para ferramentas automáticas que analisam assinaturas estatísticas invisíveis na imagem", analisa.

Além disso, ele explica que existem técnicas de análise forense capazes de identificar a origem de uma imagem gerada por IA. "Chegar até a pessoa por trás depende de metadados, registros de acesso das plataformas e cooperação de provedores, algo que esbarra no anonimato, no uso de serviços fora do país e na remoção deliberada de rastros. Ou seja, rastreamos a tecnologia com mais facilidade do que o autor", afirma.

Big techs

Em maio, o presidente da República Luiz Inácio Lula da Silva assinou dois decretos que definem novas regras para a remoção de conteúdos criminosos em plataformas on-line. As big techs devem adotar mecanismos de denúncia mais fortes e acessíveis.

O documento prevê regras específicas para o combate à violência contra a mulher. Entre elas estão a proibição de ofertar ferramentas de IA para criação de "nudes" e a determinação da criação de um canal específico para denúncias desse tipo de conteúdo. As imagens devem ser retiradas em até duas horas após a denúncia.

De acordo com o professor, no entanto, a contribuição mais eficaz no combate às deepfakes está na infraestrutura da tecnologia, e não apenas na moderação reativa. "Isso inclui adotar marcas d'água robustas e metadados de proveniência que acompanhem o arquivo desde a criação, sinalizar de forma clara o conteúdo sintético, investir em detecção automática no momento do upload, acelerar a remoção mediante denúncia e cortar o alcance de contas reincidentes. Nenhuma medida isolada resolve, mas a combinação de proveniência na origem com resposta rápida na circulação reduz muito o dano", entende.

Romes avalia que um dos grandes desafios é enfrentar uma tecnologia que, ao mesmo tempo em que produz dublagens ou vídeos engraçados, também é motor para a violência de gênero. "Some a isso a assimetria de velocidade: criar é barato e instantâneo, enquanto detectar, remover e punir é lento e caro."

"Há ainda o caráter transfronteiriço, com o conteúdo cruzando países e jurisdições em segundos. O ponto central é que a segurança precisa ser projetada desde a concepção da ferramenta e não acrescentada depois que o dano já circula", acrescenta.

Ele ainda faz algumas observações sobre como as mulheres podem se proteger de crimes como esse. "É importante deixar claro que a responsabilidade é do agressor e das plataformas, e não da vítima, mas existem caminhos práticos de defesa. Reduzir a exposição pública de fotos em alta resolução e manter perfis mais fechados ajuda a limitar a matéria-prima disponível. Diante de um ataque, o essencial é preservar provas com capturas de tela e links antes de denunciar, acionar imediatamente os canais de remoção das plataformas, registrar boletim de ocorrência e procurar as delegacias especializadas de atendimento à mulher", explica.

"No Brasil, a legislação já tipifica a divulgação não consentida de conteúdo íntimo, inclusive sintético, e a busca por apoio jurídico e psicológico é parte da resposta. Vale conhecer também iniciativas que ajudam a bloquear a recirculação de imagens íntimas, permitindo que a vítima impeça novas publicações sem precisar expor o material outra vez", conclui o professor.

*Estagiária sob a supervisão de Rafaela Gonçalves

 

Por Maria Beatriz Giusti*

postado em 05/07/2026 04:00