Comandante robô, socorro!

Comandante robô, socorro!

RENATO GUADAGNIN Professor de inteligência artificial da Universidade Católica de Brasília
postado em 31/03/2015 00:00



Em 2001, a tripulação de quatro aeronaves foi rendida e os pilotos que assumem o comando conduzem-nas até o choque com as torres gêmeas, em Nova York; com o Departamento de Defesa dos EUA; e com o solo, na Pensilvânia, matando cerca de 3 mil pessoas. Em 2006, pilotos do Legacy desligam sistemas de controle, assumem rota de avião da Gol em sentido contrário e provocam queda da aeronave, matando 154 pessoas. Em 2007, a tripulação de um jato da TAM executa comandos indevidos no pouso no aeroporto de Congonhas, o que provocou choque com edifícios após a pista e matou 199 pessoas. Em 2013, o piloto de uma empresa de Moçambique leva, propositadamente, a aeronave a se chocar com o chão na Namíbia, vitimando 33 pessoas. Recentemente, aeronave da Germanwings fragmenta-se ao se chocar com o solo a 770km/h nos Alpes Franceses, supostamente por ação deliberada do copiloto, vitimando 150 pessoas. São apenas alguns acidentes aéreos que chocaram a opinião pública e fizeram muitas vítimas

O nível de automação das aeronaves é, sabidamente, muito elevado, facilitando amplamente o trabalho da tripulação, que cada vez mais não necessita de se ocupar de questões meramente operacionais, decorrentes de condições meteorológicas ou de funcionamento. As decisões de nível mais elevado, as estratégicas e táticas, cabem a seres humanos, que supostamente dispõem de competências exclusivas para definir ações de maior complexidade. A par disso, em meios de transporte terrestre, existem sistemas de direção automática com decisões praticamente exclusivas de sistemas de controle mecanizado.

Todos os acidentes aéreos mencionados têm algo em comum: foram provocados por respostas do equipamento a decisões inadequadas tomadas por seres humanos. Apesar de eventuais advertências sonoras, luminosas, não houve desobediência aos comandos emitidos. A aeronave é sistema homem-máquina como vários outros com que convivemos no dia a dia, como veículos, elevadores, eletrodomésticos. Eles são construídos para atender a determinadas finalidades, seja o transporte seguro de pessoas, a realização de colheita ou o processo industrial. A utilização depende da participação do ser humano em maior ou menor intensidade. Devido à grande variedade de sensores, atualmente, existentes, as máquinas podem captar uma infinidade de informações para desencadear ações que levem aos objetivos do artefato. Os sensores vão bem além dos cinco sentidos humanos, ampliando a capacidade de decisão do equipamento em comparação com os seres humanos.

A questão crucial é: em que medida a máquina pode julgar a pertinência de decisões tomadas por seres humanos antes de desencadear ações? É dilema pensado por Alan Turing, que considerava desafio reconhecer, por meio dos resultados, se ações são oriundas de máquinas ou de seres humanos. O atual avanço da inteligência artificial é no sentido de construção de máquinas que se comportam como seres humanos, mesmo que internamente difiram totalmente da mente humana. Muitas vezes, interagimos com aparentes pessoas em redes sociais que nada mais são do que os chamados agentes inteligentes artificiais, que têm capacidade de conversar com seres humanos.

No caso do recente acidente, uma descida repentina sem justificativa explícita deveria ser cegamente obedecida pela aeronave? Até que ponto pode a tripulação se afastar do planejamento inicial de voo? É possível aferir a capacidade da tripulação de seguir no comando da aeronave ao longo do percurso, e rever o nível de automação em função disso?

Pode parecer que a adoção de novo paradigma de efetiva preponderância da máquina sobre o homem, em situações críticas, venha a violentar princípios arraigados de supremacia do homem sobre o que ele mesmo constrói. Já se fala em caros transportando crianças para a escola sem motorista e há muitos trens sem condutores. Nos exemplos citados muitas vidas teriam sido certamente poupadas, caso a máquina desconsiderasse decisões inadequadas de seres humanos.

Nova realidade pode estar por vir, com agentes inteligentes artificiais em funções de comando. Comunidades deles interagindo com vistas a objetivos comuns, seres humanos se ocupando de questões muito mais nobres do que apertar botões durante horas para transportar pessoas com segurança em volta do globo terrestre.


Tags

Os comentários não representam a opinião do jornal e são de responsabilidade do autor. As mensagens estão sujeitas a moderação prévia antes da publicação