A inteligência artificial permanece um desafio global. E as duas maiores potências econômicas não parecem inclinadas a selar um acordo que imponha limites efetivos à tecnologia. E, enquanto Estados Unidos e China disputam mercados, infraestrutura e influência estratégica, agentes de IA já são capazes de ultrapassar barreiras de segurança em sistemas públicos, como ocorreu na Austrália.
O Brasil ainda não fez desse tema um debate à altura de suas consequências. O episódio australiano é uma advertência. Um agente desenvolvido pela OpenAI, durante uma busca por informações, obteve acesso não autorizado a arquivos de um portal de estatísticas de saúde. A ocorrência foi em junho; o governo só recebeu a comunicação em setembro. As autoridades afirmam que, até agora, não há evidência de exposição de dados pessoais, e uma investigação apura o alcance do acesso. Mesmo assim, o caso revela um problema novo: a existência de programas capazes de agir por conta própria, em etapas sucessivas, e que podem produzir resultados que escapam à tarefa recebida e ao controle esperado por seus criadores.
Fique por dentro das notícias que importam para você!
Essa autonomia relativa amplia tanto a utilidade quanto o risco da IA. Um agente pode reunir documentos, comparar informações, escrever código e acelerar uma pesquisa científica. Também pode explorar uma falha, propagar um erro ou executar, em grande escala, uma instrução mal formulada. Entretanto, a responsabilidade não é da máquina que age por conta própria. Continua sendo de quem a desenvolve, opera, define suas permissões e deixa de interrompê-la quando algo sai do previsto. Essa é a questão central.
Na medicina, sistemas de IA podem auxiliar diagnósticos e organizar o atendimento. Na agricultura, ajudar a prever perdas e usar água e insumos com mais precisão. Na educação, oferecer apoio individual a estudantes e professores. Na administração pública, localizar fraudes e reduzir filas. Para um país desigual e de dimensões continentais como o Brasil, essas possibilidades são especialmente relevantes. Mas cada promessa depende de dados confiáveis, profissionais preparados e avaliação independente. Um algoritmo treinado com informações incompletas pode reproduzir a desigualdade que deveria ajudar a combater.
A ameaça à democracia também é igualmente concreta. Áudios, vídeos e imagens fabricados podem ser usados para atacar reputações e confundir eleitores. O perigo não está apenas em acreditar numa falsificação. Quando falsificações se tornam corriqueiras, também cresce a facilidade de desacreditar provas verdadeiras. Jornalismo, Justiça e instituições eleitorais terão de aperfeiçoar formas de verificação sem entregar a governos ou plataformas um poder arbitrário de decidir o que pode circular.
O Plano Brasileiro de Inteligência Artificial prevê investimentos de R$ 23 bilhões em quatro anos, enquanto no Congresso discute e empurra com a barriga um marco legal para a tecnologia. São iniciativas insuficientes se permanecerem restritas a especialistas, empresas e gabinetes. É preciso definir como serão auditados os sistemas usados pelo Estado, quais decisões exigirão revisão humana, como incidentes deverão ser comunicados e quem responderá pelos danos. Também é preciso investir em pesquisa, capacidade computacional e formação para que o país não se limite a comprar soluções concebidas segundo prioridades alheias.
Saiba Mais
Opinião
Opinião
Opinião
