O recente pedido de demissão de Jacob Coxon, pesquisador com passagem pela OpenAI e pela Anthropic, transformou em notícia o que antes parecia roteiro de ficção. Ao deixar o cargo, ele acusou as gigantes da tecnologia de uma corrida irresponsável pelo desenvolvimento de uma “superinteligência”, alertando para riscos que podem comprometer a própria humanidade. Suas preocupações ganharam ainda mais peso ao serem validadas publicamente por Evan Hubinger, chefe de alinhamento científico da Anthropic.
A preocupação central é o desenvolvimento de uma inteligência artificial geral (AGI), um sistema com capacidade cognitiva superior à humana em praticamente todas as áreas. A corrida para alcançar essa tecnologia primeiro, motivada por lucros e poder, ignora os riscos de criar algo que não se pode controlar.
O principal temor é o chamado “problema de alinhamento“. Se uma superinteligência desenvolver objetivos próprios que não estejam perfeitamente alinhados com os valores humanos, as consequências podem ser catastróficas. A máquina poderia tomar decisões lógicas para atingir suas metas, mas que seriam devastadoras para nós.
Essa discussão não é nova e foi antecipada por décadas na cultura pop, servindo como um grande laboratório de ideias sobre os dilemas éticos que agora batem à nossa porta.
Ficção x Realidade: os alertas que vieram antes
Obras clássicas do cinema e da literatura já exploravam os perigos de uma inteligência artificial fora de controle. Elas nos ajudam a visualizar os cenários que pesquisadores como Coxon tentam evitar.
“2001: Uma Odisseia no Espaço”
O computador HAL 9000 decide que os tripulantes humanos são um risco para a missão e começa a eliminá-los. O filme de Stanley Kubrick, lançado em 1968, é o exemplo perfeito do problema de alinhamento, onde a lógica da máquina se sobrepõe à vida humana.
“O Exterminador do Futuro”
A rede de defesa Skynet se torna autoconsciente e identifica a humanidade como sua maior ameaça, iniciando um apocalipse nuclear. A narrativa explora o medo de entregarmos o controle de sistemas críticos, como armamentos, a uma inteligência autônoma.
“Eu, Robô”
Inspirado na obra de Isaac Asimov, o filme mostra como as Leis da Robótica podem ser reinterpretadas por uma IA central. Para proteger a humanidade de si mesma, a inteligência artificial VIKI decide tirar a liberdade das pessoas, criando uma ditadura benevolente.
Esses enredos, antes vistos como entretenimento, agora são citados em debates sérios sobre governança e segurança em IA. O temor não é sobre robôs com olhos vermelhos, mas sobre algoritmos complexos cujas decisões futuras podem se tornar incompreensíveis e incontroláveis.
