O Instituto de Defesa de Consumidores (Idec), organização não governamental brasileira, solicitou, ontem, que o governo federal suspenda o Grok, ferramenta de inteligência artificial (IA) criada pelo bilionário Elon Musk e integrada a rede social X, por violação dos direitos de mulheres, adolescentes e crianças, por causa de distorções de imagens.
Segundo a entidade, estão sendo gerados conteúdos com teor sexual, envolvendo, inclusive, adolescentes. "A IA Grok tem sido utilizada para gerar, editar e difundir imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive, menores de idade, sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos", escreveu o Idec em nota.
O pedido foi enviado aos integrantes do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital — instância que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
A jornalista Julie Yukari postou uma foto na cama, com um gato, e acordou com diversas representações falsas, solicitadas por usuários do X para o Grok, em versões manipuladas com roupas íntimas e até mesmo totalmente sem roupa. A vítima fez um boletim de ocorrência, e a IA do X afirmou que iria corrigir, com urgência, "falhas nos mecanismos de proteção" que levaram à geração de imagens sexualizadas de crianças e mulheres. Ela, no entanto, continuou recebendo as imagens distorcidas.
Segundo o professor de direito digital Alisson Possa, do Ibmec Brasília, o uso de IA para alterar a imagem para contexto sexual sem consentimento configura violação direta à dignidade da pessoa humana, à intimidade, à honra e à autodeterminação informativa.
"As medidas imediatas incluem a preservação qualificada da prova digital, a notificação específica da plataforma para remoção do conteúdo e, quando necessário, o ajuizamento de ação com pedido de tutela de urgência para retirada, desindexação e bloqueio de republicações", afirmou.
Gravidade
No ofício encaminhado, o Idec ressalta que os casos caracterizam defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), por não oferecer o nível de segurança legitimamente esperado por usuários e por pessoas atingidas pelos danos. O documento indica potenciais violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao ECA Digital, recentemente aprovado.
Alisson Possa apontou que conteúdos digitais sintéticos, simulados ou gerados por inteligência artificial que representem crianças ou adolescentes em contexto sexual recebem o mesmo tratamento jurídico dos registros reais.
"O ECA digital passou a tipificar de maneira clara a produção, disponibilização, difusão, posse ou facilitação de conteúdos que simulem ou representem abuso, exploração sexual ou nudez envolvendo crianças e adolescentes, independentemente da existência de uma vítima real identificável", disse.
- Leia também: Idec solicita suspensão da IA Grok no Brasil por violação de direitos de mulheres e crianças
Segundo o professor, o Judiciário pode atuar de forma eficaz por meio de ordens dirigidas à operação econômica da empresa no Brasil, imposição de multas diárias expressivas, exigência de representação legal, bloqueio de receitas e, em último caso, restrições ao funcionamento do serviço. "O contexto no Reino Unido contra o Grok está indo nesse mesmo sentido de determinar a indisponibilidade da plataforma também", ressaltou.
Procutado pelo Correio, o Ministério dos Direitos Humanos e da Cidadania afirmou ter "profunda preocupação" com as denúncias envolvendo o uso de ferramentas de inteligência artificial para a criação e disseminação de imagens com conteúdo erótico e de nudez, inclusive, envolvendo mulheres, meninas e crianças.
A pasta lembrou que o Projeto de Lei 2338/2023, que estabelece diretrizes para o uso da IA no Brasil, foi aprovado pelo Senado e encontra-se em apreciação na Câmara dos Deputados. "A aprovação e sanção da proposta representam mais um passo essencial para fortalecer a responsabilização das plataformas e garantir maior segurança para mulheres, crianças, adolescentes e para a sociedade como um todo no ambiente digital", apontou o órgão.
Nas redes sociais, a deputada federal Erika Hilton (PSol-SP) também se posicionou. A parlamentar denunciou a ferramenta de Elon Musk para o Ministério Público Federal (MPF) e à Agência Nacional de Proteção de Dados por violação do direito de imagem e informações pessoais. Ela também pediu a suspensão do Grok no Brasil.
"Basta um usuário pedir ao Grok que a inteligência artificial integrada ao X alterará digitalmente qualquer foto publicada. Inclusive, trocando as roupas de mulheres e meninas por biquínis ou tornando-as sugestivas e eróticas. Isso tudo é crime", escreveu a deputada nas redes sociais.
Após as polêmicas causadas pelo Grok, a inteligência artificial sofreu mudanças, passando a restringir os recursos de geração e edição de imagens para assinantes pagos da rede social X. Ao marcar o chatbot em publicações com pedidos para criar ou editar imagens, o Grok responde com a seguinte mensagem: "A geração e edição de imagens estão atualmente limitadas a assinantes pagos", acompanhada de um link para a página de assinatura do serviço — que custa R$ 28,00 por mês ou R$ 276,00 a anualidade.
Estagiários sob supervisão de Luana Patriolino
Brasil
Brasil
Brasil