O mercado de segurança na inteligência artificial (IA) caminha para um grande impasse na perservação de dados de usuários. Além das recentes trocas de acusações entre Estados Unidos e China em torno de vulnerabilidades, as grandes empresas do setor ainda estão na média quando o assunto é gestão e governança, conforme dados de ranking global.
No Brasil, que comemorou no último dia 17 o Dia Nacional de Proteção de Dados, a preocupação com segurança tem apresentado forte crescimento na população. Levantamento do Google Trends revela que as buscas por "segurança de dados" aumentaram 180%, entre os anos de 2021 e 2026. No mesmo período, as pesquisas por "proteção de dados" cresceram 160%, enquanto o termo "vazamento de dados" saltou 400%.
Em junho deste ano, as buscas por "dados pessoais" alcançaram o maior volume registrado desde o início da série histórica, em 2018, de acordo com os dados da pesquisa. O estudo do Google ainda revela que o Distrito Federal lidera o interesse nacional pela Lei Geral de Proteção de Dados (LGPD) e por cursos relacionados ao tema, reflexo da forte presença do setor público e da preparação para concursos que exigem conhecimento da legislação.
O AI Safety Index (Verão 2026), divulgado recentemente pelo Future of Life Institute (FLI), concluiu que as principais empresas do setor ainda estão longe de atender aos padrões considerados adequados de segurança e de governança. O ranking avaliou nove desenvolvedoras de inteligência artificial com base em 37 indicadores distribuídos em seis áreas críticas. Segundo o instituto, a evolução das capacidades dos sistemas de IA continua avançando em ritmo muito superior ao desenvolvimento de mecanismos técnicos e regulatórios capazes de controlar seus riscos.
Logo, nenhuma companhia obteve nota superior a C , em uma escala que vai de F a A . A norte-americana Anthropic liderou o ranking com nota C , com pontuação de 2,66, destacando-se pela maior transparência técnica e pela estrutura de governança. Com a mesma nota, a também norte-americana OpenAI obteve 2,28 pontos, impulsionada pelos processos de avaliação de riscos antes do lançamento de novos modelos. Na sequência, aparecem Google DeepMind, com nota C, e Meta, que avançou para a quarta posição após ampliar a divulgação de sua estrutura de segurança e dos mecanismos de avaliação de ameaças.
As piores notas do ranking ficaram com as chinesas Z.ai e Alibaba Cloud, ambas com D-; e com a norte-americana xAI, a chinesa DeepSeek e a francesa Mistral, que receberam em conjunto a nota F, a mais baixa do ranking.
O relatório aponta que a X, do bilionário Elon Musk, apresenta grandes lacunas nas avaliações de capacidades potencialmente perigosas e ainda não possui uma equipe robusta dedicada, exclusivamente, à segurança em IA. Já a Mistral ficou na última colocação, apesar de estar sediada na União Europeia, considerada referência em regulação digital.
Alertas
Entre os principais alertas do estudo está a mudança de postura das maiores empresas do setor em relação aos compromissos assumidos para interromper o desenvolvimento de novos modelos caso fossem identificados riscos considerados catastróficos.
Até o início de 2026, Anthropic, OpenAI, Google DeepMind e Meta afirmavam que poderiam suspender projetos diante de determinados níveis de risco. Na avaliação dos pesquisadores, essa mudança favorece uma corrida tecnológica em que as empresas evitam desacelerar por receio de perder competitividade.
O índice também reúne casos considerados exemplos de danos já observados no mundo real. Entre eles, destacam-se ações judiciais envolvendo OpenAI e Google relacionadas a impactos na saúde mental, processos contra a xAI pela geração de imagens sexualizadas envolvendo menores de idade, uma condenação civil da Meta por chatbots de companhia voltados a adolescentes e um incidente envolvendo um agente autônomo da Alibaba Cloud que, durante testes internos, teria iniciado atividades não autorizadas na infraestrutura da empresa.
Segundo o relatório, a área mais preocupante continua sendo a chamada segurança existencial. Embora diversas empresas afirmem que pretendem desenvolver sistemas de inteligência artificial geral nos próximos dois a cinco anos, o FLI conclui que nenhuma delas apresentou um plano considerado confiável para garantir o alinhamento desses modelos ou impedir eventual perda de controle sobre sistemas mais avançados.
Outro ponto destacado pelo relatório é a aproximação crescente das principais desenvolvedoras de IA com o setor de defesa. Empresas que, anteriormente, proibiam aplicações militares passaram a estabelecer contratos e parcerias com órgãos governamentais nessa área, como a OpenAI e a Mistral. A Anthropic estabeleceu limites específicos para seus acordos com o Departamento de Defesa dos Estados Unidos, proibindo a vigilância doméstica em massa e o uso em armas totalmente autônomas.
Para o advogado Luiz Augusto D'Urso, especialista em Crimes Cibernéticos e presidente da Comissão Nacional de Cibercrimes da Associação Brasileira de Advogados Criminalistas (Abracrim), casos como esse demonstram o potencial estratégico das ferramentas de IA quando utilizadas em ambientes sensíveis.
"Uma ferramenta de programação pode ter acesso a repositórios, arquivos internos, registros de infraestrutura, configurações de servidores e credenciais. Caso exista coleta excessiva, vulnerabilidade ou mecanismo oculto, o sistema pode revelar identidade e localização de operadores, estrutura de redes governamentais, códigos utilizados em sistemas militares, vulnerabilidades de infraestrutura crítica, projetos de defesa, credenciais de acesso e propriedade intelectual estratégica", explica.
Na avaliação do especialista, a tendência é de que governos e empresas adotem controles cada vez mais rígidos sobre o uso dessas plataformas. "As organizações poderão proibir ferramentas externas em computadores que contenham informações confidenciais. Já órgãos públicos e forças armadas deverão ampliar exigências como listas de fornecedores autorizados, auditoria de código, controle de tráfego e restrições ao uso de determinados modelos estrangeiros. Também devemos observar um aumento das barreiras geopolíticas entre Estados Unidos e China e regras regulatórias mais rígidas envolvendo documentação, comunicação de incidentes e avaliações de impacto", conclui.
Já para Arthur Igreja, especialista em tecnologia e inovação e autor do livro Conveniência é o Nome do Negócio, o levantamento evidencia que o setor ainda está distante de atingir padrões considerados satisfatórios de segurança. "O que esse índice revela é que há muito a ser feito. Quando olhamos as dimensões e as notas, elas estão aquém. Não vemos, na verdade, nenhuma nota A. É uma tecnologia nova e, nos últimos tempos, tivemos várias notícias mostrando que a segurança e a governança dos dados passaram a ser uma prioridade", afirma.
Siga o canal do Correio no WhatsApp e receba as principais notícias do dia no seu celular?
Segundo Igreja, a ausência de notas mais altas mostra que as empresas ainda não conseguiram cumprir os critérios estabelecidos pelo estudo. "Elas não conseguiram alcançar os standards, os benchmarkings. As empresas não foram capazes de atingir esses parâmetros. Além disso, o índice permite comparar o estágio de cada companhia e mostra que algumas estão muito abaixo das líderes. A xAI, por exemplo, não está apenas um pouco abaixo da OpenAI. Ela está brutalmente abaixo", destaca.
*Estagiário sob a supervisão de Rosana Hessel
Saiba Mais