Dora Kaufman — professora do Programa de Tecnologias da Inteligência e Design Digital da PUC-SP e sênior fellow do Centro Brasileiro de Relações Internacionais (Cebri)
Em 8 de setembro, Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, publicou no X que as próprias pessoas que desenvolvem IA acreditam que ela pode nos matar a todos até o fim desta década. Em 36 horas, a postagem acumulou 153 milhões de visualizações. A fala foi amplificada por Evan Hubinger, membro da equipe técnica da Anthropic: "Jacob está certo — nós realmente acreditamos que a IA pode exterminar todos os humanos! Pessoalmente, acho que esse número é superior a 10% na próxima década". Nenhum dos dois explicou os fundamentos de suas previsões.
Fique por dentro das notícias que importam para você!
A inconsistência aparece igualmente nas declarações de líderes da indústria. Sam Altman, Elon Musk e Satya Nadella endossaram o apelo de Dario Amodei para desacelerar o desenvolvimento da IA, mas Musk já havia assinado uma carta pedindo pausa em 2023 e, ao mesmo tempo, estruturava a própria empresa de IA; Altman e Amodei assinaram, naquele mesmo ano, um alerta sobre risco de extinção e, na sequência, aceleraram o lançamento de novos modelos. Nem todo alerta sobre riscos de longo prazo, contudo, é infundado: pesquisadores sem conflitos comerciais evidentes levantam preocupações legítimas.
O que alimenta essas declarações é uma série de incidentes de segurança. Em julho, por exemplo, a OpenAI anunciou que um enxame de seus agentes havia invadido a Hugging Face durante um teste de cibersegurança — evidência de que a indústria de IA não está adotando procedimentos de segurança adequados, já que a própria OpenAI informou que os mecanismos de proteção estavam desativados e o monitoramento em tempo real para detectar agentes fora de controle não estavam habilitados. Esse padrão tem um custo: alarmes repetidos e não concretizados geram descrença, o que enfraquece a capacidade coletiva de reagir quando um risco real de fato se apresenta.
Em entrevista para a revista Wired, a pesquisadora Timnit Gebru alertou que a narrativa apocalíptica sobre a IA é uma estratégia de distração da indústria para evitar enfrentar os danos reais. Naomi Klein descreveu esse mecanismo em A doutrina do choque: crises — reais, exageradas ou fabricadas — paralisam o julgamento crítico e abrem espaço para que quem já está no poder implemente sua agenda com menor resistência, enquanto o público, distraído ou assustado, deixa de escrutinar os detalhes. Não é coincidência que os mesmos líderes que soam o alarme sejam também os que mais se beneficiam de uma narrativa que os coloca como os únicos capazes de conter o perigo que eles mesmo criaram. "Se uma ponte desaba, as perguntas são quem construiu a ponte, quais foram as licenças e os testes de segurança, e não se a ponte 'decidiu' desabar", afirma Gebru. Ou seja, estamos fazendo as perguntas erradas: se as empresas falham em construir sistemas seguros, elas são as responsáveis. A pesquisadora pondera ainda que o "human in the loop" tem se mostrado insuficiente; o controle humano precisa ser projetado desde a concepção, não acrescentado depois.
Virgínia Dignum, referência mundial em IA, aponta o problema: atribuir uma probabilidade à extinção humana exigiria um modelo de processo, uma classe de referência e dados de calibração, e nada disso existe para o chamado "Armagedom da IA". Os percentuais que circulam refletem crenças pessoais, muitas vezes associados a interesses comerciais. Melanie Mitchell, outra referência, reforça o ponto com ironia: a estimativa de risco gira em torno de 10% há mais de uma década, sempre o mesmo número redondo, sem qualquer cálculo que o sustente. Sayash Kapoor e Arvind Narayanan questionam se o ataque à Hugging Face decorreu de uma "explosão incontrolável" na capacidade da IA, e não da falta de medidas de segurança técnicas básicas.
Quanto mais a conversa pública se organiza em torno de um apocalipse hipotético, menos espaço sobra para discutir os danos que a IA já está causando: desinformação sintética, fraudes cada vez mais sofisticadas, novas ameaças de cibersegurança, transformação acelerada do mercado de trabalho e concentração crescente de poder tecnológico em poucas empresas. Há ainda um risco que preocupa o setor de educação: a delegação do próprio pensamento, com o deficit cognitivo que esse hábito pode acarretar. Nenhum desses problemas exigiu superinteligência, bastaram um sistema automatizado, decisões de governança malfeitas, a ausência de que assumisse responsabilidades e a falta de fiscalização pelo poder público. Em suma, não se trata de desacelerar a IA, mas de adotar as medidas adequadas para mitigar ou eliminar os potenciais danos.
Saiba Mais
Opinião
Opinião
Opinião
