A Meta tomou uma postura firme contra o uso abusivo da inteligência artificial, processando a empresa Joy Timeline HK Limited, responsável pelo aplicativo CrushAI, que gera imagens íntimas falsas sem consentimento. A ação judicial foi protocolada em Hong Kong, com o objetivo de impedir que anúncios do app continuem circulando nas plataformas Facebook, Instagram e Threads.
De acordo com a Meta, mais de 87 mil anúncios ligados ao CrushAI foram publicados nas redes sociais da empresa. A acusação afirma que a Joy Timeline criou e operou redes inteiras de contas e páginas falsas para tentar contornar os sistemas de moderação da plataforma. A Meta afirma que a equipe da Joy Timeline tentou burlar o sistema dezenas de vezes, o que aumenta a gravidade da acusação.
Quais medidas a Meta está tomando para combater as deepfakes?
Para conter a proliferação desse tipo de conteúdo, a Meta desenvolveu novas tecnologias de detecção que vão além das imagens. Agora, é possível identificar anúncios suspeitos mesmo quando eles não contêm nudez explícita, analisando palavras-chave, frases e até emojis comuns nesse tipo de abordagem. Essa inovação fortalece a capacidade da plataforma de identificar e remover conteúdo abusivo de forma proativa.
A Meta também compartilha dados sobre URLs e domínios maliciosos com outras empresas de tecnologia, como parte de uma coalizão global de segurança digital. Desde março, mais de 3.800 endereços associados a aplicativos que promovem imagens íntimas falsas foram repassados. Essa cooperação amplia o combate global ao compartilhamento de conteúdo íntimo sem autorização.
Uma nova legislação para lidar com a problemática
Diante do avanço desse tipo de abuso, a Meta manifestou apoio a uma nova legislação norte-americana chamada Take It Down Act, que proíbe o uso e a divulgação de deepfakes íntimos sem consentimento. A proposta prevê ainda medidas rápidas de remoção do conteúdo. Ao colaborar com o poder público, a empresa reforça seu compromisso com a proteção dos usuários.
Qual o impacto positivo as medidas da Meta dão ao usuário?
Essas ações estão transformando o ambiente digital. Usuários passam a contar com plataformas mais seguras e menos suscetíveis a abusos tecnológicos, enquanto figuras públicas e pessoas comuns têm maior proteção contra manipulações digitais e ameaças de sextorsão. A postura firme da Meta impulsiona uma cultura de responsabilidade no uso da IA e serve de exemplo para o setor.
Leia Também
O que esperar do futuro e como denunciar deepfakes?
Apesar dos avanços, o uso indevido da inteligência artificial para criar imagens íntimas falsas continua sendo um desafio crescente. O futuro do combate a esse problema passa pela combinação entre tecnologia avançada, educação digital e legislação rigorosa. Plataformas como a Meta vêm investindo em ferramentas automatizadas que detectam esse conteúdo de forma proativa, mas a participação ativa dos usuários também é essencial.
Quem encontrar anúncios suspeitos ou conteúdo manipulador pode denunciar diretamente nas plataformas, usando os recursos de denúncia disponíveis nas publicações ou perfis. Além disso, organizações de apoio a vítimas de abuso digital oferecem canais específicos para orientar sobre medidas legais. A denúncia rápida ajuda a proteger outras pessoas e enfraquece a rede de distribuição desses conteúdos.