Declaração recente do britânico Jacob Coxon, pesquisador de inteligência artificial e ex-funcionário da OpenAI e da Anthropic, acendeu o alerta sobre os riscos inerentes à nova tecnologia. "As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing", destacou Coxon. Nesta segunda-feira (14/9), o Conselho de Segurança da Organização das Nações Unidas (ONU) anunciou que realizará uma reunião para debater o tema na próxima semana, em Nova York. Uma fonte diplomática da França, que ocupa a presidência rotativa do Conselho, disse concordar que a IA representa uma "ameaça existencial" para a segurança mundial.
- Por que cofundador da Anthropic defende um 'botão de desligamento' obrigatório para IA
- Profissionais de IA estão 'genuinamente assustados' com futuro da humanidade, diz pesquisador que se demitiu da Anthropic
Por sua vez, Volker Türk, alto comissário da ONU para os Direitos Humanos, avisou: "Estamos à beira de uma mudança irreversível, que afeta não apenas nós, mas também as futuras gerações". Turk instou uma ação urgente de mobilização das estruturas multilaterais para regulamentar a IA. E foi além: "Todos os direitos humanos estão ameaçados por essa tecnologia, incluindo o direito à vida".
Fique por dentro das notícias que importam para você!
Apesar das advertências, o presidente dos Estados Unidos, Donald Trump, denunciou uma "conspiração doentia" contra a IA e descartou regulamentar a indústria do setor. "A IA assumir o controle do mundo, destruir a humanidade e todas essas coisas ruins é uma farsa", reagiu Trump em sua plataforma Truth Social. "Existe uma conspiração doentia em curso contra a IA e os centros de dados, e a única parte feliz com isso é a China", afirmou.
Dario Amodei, diretor-executivo da Anthropic, engrossou o coro dos críticos sobre a maneira e a velocidade com que a IA tem se desenvolvido. Ele cobrou uma desaceleração da tecnologia. "Precisamos controlar o ritmo na fronteira tecnológica. (...) O ritmo de desenvolvimento não significa interromper o treinamento de modelos ou o progresso técnico, mas sim garantir que as empresas dediquem tempo suficiente para alinhar e proteger seus modelos, e que avaliadores externos possam confirmar isso. Nossa estrutura de ritmo é uma tentativa de reforçar ainda mais nosso compromisso com a segurança e incentivar uma corrida rumo à excelência", escreveu o chefe da Anthropic.
Avanço
A inteligência artificial impacta o futuro de várias áreas da sociedade: emprego, saúde, defesa, biossegurança, educação, energia nuclear, entre outras. Cientista da computação britânico e professor da Universidade da Califórnia, Berkeley, Stuart J. Russell afirmou ao Correio que a inteligência artificial está se movendo tão rapidamente, que podemos ter chegado ao ponto em que os sistemas de IA são mais inteligentes do que nós em um senso prático: eles são capazes de ditar o que acontece, e nós não. "Minhas preocupações principais são a perda de controle irreversível, conforme previsto pelo matemático inglês Alan Turing em 1951. Não é fácil mantermos o poder para sempre sobre entidades mais poderosas do que nós mesmos", advertiu. "Uma vez perdido o controle, deixamos de ter qualquer voz sobre a nossa própria continuidade."
Outra preocupação de Russell diz respeito a uma possível falha sistêmica. "Isso envolveria uma deterioração e o colapso da coesão social humana — incluindo os sistemas econômicos — ou uma dependência e enfraquecimento permanentes", afirmou. "Também apontaria o uso indevido catastrófico da IA por parte de humanos, como, por exemplo, a criação de novos patógenos ou ataques a infraestruturas críticas." Para Russell, a recusa de Donald Trump em regular a IA não parece se basear em fatos sobre a tecnologia.
Professor de matemática da Universidade Stanford, Mohammed Abouzaid disse ao Correio que as ferramentas mais poderosas da IA estão nas mãos de poucas empresas. "A questão de saber se os matemáticos se tornarão dependentes dessas empresas ou se conseguirão construir os próprios sistemas alternativos é motivo de grande preocupação para a área", comentou. "Assim como outras atividades humanas, a matemática depende tanto de trabalho quanto de capital para produzir conhecimentos. À primeira vista, pode parecer que as capacidades da IA visam substituir humanos na produção matemática. Isso só ocorreria se não houvesse um efeito de complementaridade — se as ferramentas de IA não permitissem a criação de uma quantidade tão maior de matemática a ponto de necessitarmos de muito mais matemáticos para compreendê-la. O resultado ficará claro com o tempo", concluiu Abouzaid, vencedor do Prêmio New Horizons in Mathematics.
EU ACHO...
"As máquinas e a automação substituíram centenas de milhões de empregos manuais e diversas funções administrativas rotineiras, mas isso ocorreu de forma gradual. Novos empregos foram criados simultaneamente. A onda recente de IA está começando a substituir todo tipo de trabalho humano, desde dirigir táxis até redigir contratos jurídicos e artigos de jornal. As preocupações são duas: o processo pode ocorrer muito rapidamente e em escala massiva, e a IA também assumirá os novos empregos. Quando não pudermos mais vender nossas habilidades físicas e mentais, o que nos restará? O que fazer: direcionar a IA para atender a necessidades ainda não supridas, em vez daquelas que são atendidas por humanos."
STUART J. RUSSELL, cientista da computação britânico e professor da Universidade da Califórnia, Berkeley
PALAVRA DE ESPECIALISTA
O risco de um erro em escala
"Na saúde, um erro humano costuma ter endereço. Um erro algorítmico pode ter escala. Essa talvez seja a fronteira mais delicada da inteligência artificial aplicada à medicina: sistemas capazes de ampliar extraordinariamente nossa capacidade de diagnosticar, prever e organizar o cuidado também podem multiplicar, com velocidade e aparência de precisão, erros que antes permaneceriam localizados.
A inteligência artificial não conhece o paciente. Conhece dados sobre ele. E dados não são a realidade: são uma representação necessariamente incompleta, produzida por sistemas de saúde que carregam desigualdades, ausências e escolhas históricas. Quando algoritmos aprendem com esse passado, podem transformar injustiças existentes em previsões aparentemente neutras. O preconceito deixa de parecer parcialidade porque passa a chegar vestido de matemática.
Há ainda um risco mais silencioso. Quanto melhores se tornam essas ferramentas, maior a tentação de substituir julgamento por confiança. Sistemas generativos podem produzir informações incorretas com extraordinária fluência, enquanto a automação progressiva pode enfraquecer justamente aquilo que a medicina mais precisa preservar: dúvida, raciocínio crítico e capacidade de reconhecer quando algo não faz sentido.
Somam-se a isso questões de privacidade, segurança cibernética, opacidade dos modelos e responsabilidade. Na medicina do futuro, a pergunta decisiva não será se devemos usar inteligência artificial. Será quem controla essa inteligência, segundo quais valores e a serviço de quem. A tecnologia deve ampliar a capacidade humana de cuidar. Nunca substituir nossa responsabilidade por fazê-lo."
Álvaro Madeira Neto é médico sanitarista, gestor em saúde e vice-presidente da Associação Médica Cearense
Saiba Mais
Cidades DF
Mundo
Cidades DF
-
Stuart J. Russell, cientista da computação britânico e professor da Universidade da Califórnia, Berkeley Foto: Peg Skorpinski -
Álvaro Madeira Neto, médico sanitarista, gestor em saúde e vice-presidente da Associação Médica Cearense Foto: Arquivo pessoal
Rodrigo Craveiro
Subeditor de MundoJornalista formado pela Universidade Federal de Goiás (UFG) em 1997. Curioso por natureza, adora buscar histórias. Desde 2005, trabalha no Correio Braziliense, onde entrevistou laureados com o Nobel da Paz, embaixadores e ex-presidentes.