O Instituto de Defesa de Consumidores (Idec) solicitou, nesta segunda-feira (12/1), que o governo brasileiro suspenda o "Grok", inteligência artificial (IA) criada pelo bilionário Elon Musk e integrada em sua rede social X, por violação dos direitos de mulheres, adolescentes e crianças, por meio de distorções de imagens.
Siga o canal do Correio no WhatsApp e receba as principais notícias do dia no seu celular
“A Grok tem sido utilizada para gerar, editar e difundir imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade, sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos”, escreveu o instituto, em nota.
O pedido foi enviado aos integrantes do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital — instância que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
As manipulações de imagens sem a autorização dos retratados nas fotos, conhecidas como deepfakes, se popularizaram na internet. Um dos casos recentes e de maior repercussão é o da jornalista brasileira Julie Yukari, que postou uma foto na cama, com um gato, e acordou com diversas imagens alteradas, solicitadas por usuários do X para o Grok, em que ela estava de micro-biquínis, lingerie e até mesmo mostrando uma versão da vítima totalmente sem roupa.
Julie registrou ocorrência na 10ª DP (Botafogo) por imagem não autorizada de intimidade sexual e, no mesmo dia, a IA do X afirmou que iria corrigir, com urgência, "falhas nos mecanismos de proteção" que levaram à geração de imagens sexualizadas de crianças e mulheres. A jornalista, porém, continuou recebendo fotos distorcidas.
Reação internacional
No ofício enviado hoje, o Idec ressalta que o problema caracteriza defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), por não oferecer o nível de segurança legitimamente esperado por usuários e por pessoas atingidas pelos danos. O documento também aponta potenciais violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao ECA Digital, recentemente aprovado.
O Instituto de Defesa de Consumidores também enfatiza que o caso da Grok já gerou reações internacionais relevantes, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, concluiu, em nota.
*Estagiária sob a supervisão de Andreia Castro
Brasil
Brasil
Brasil