Roberta Machado
postado em 19/05/2014 06:03
Se você estivesse em um trem descontrolado que fosse atropelar cinco pessoas, o que você faria? Tombaria o trem para salvá-las, colocando em risco a vida dos passageiros? E se nos trilhos houvesse um desvio que pudesse salvar as cinco pessoas, mas colocasse outro indivíduo em risco? E se a solução para parar o trem fosse jogar um homem de cima de uma ponte na frente do veículo em alta velocidade? Questionamentos como esses são o suficiente para esquentar a cabeça de qualquer pessoa, mas agora os cientistas querem ir além e submetê-los a um novo tipo de mente: a robótica.Um grupo de pesquisadores norte-americanos vai investir US$ 7,5 milhões e cinco anos de trabalho para ajudar robôs a tomar decisões que às vezes são complicadas até mesmo para pessoas de carne e osso. O consórcio entre a Marinha dos EUA, do Instituto Politécnico Rensselaer e das universidades Tufts e Brown aceitou o desafio de criar um senso de ética artificial e ensinar máquinas a distinguir o certo do errado. ;Os robôs atuais são muito limitados na forma de julgar situações, especialmente quando se trata de aspectos éticos. Em casos limitados, os robôs podem evitar realizar ações que violariam os princípios que eles seguem, mas essas máquinas não têm a habilidade de nenhum tipo de raciocínio moral;, ressalta Matthias Scheutz, professor de ciência da computação na Tufts e principal pesquisador do projeto.
Três perguntas para
Wendell Wallach, pesquisador do Centro Interdisciplinar de Bioética da Universidade de Yale e autor de Moral machines: Teaching robots right from wrong
Qual é o primeiro passo a ser tomado para a criação de uma máquina eticamente autônoma?
Estamos criando sistemas com cada vez mais autonomia, então teremos mais situações que não podem ser previstas pelos engenheiros. Valores já são colocados nos sistemas, mas para ações pensadas com antecedência pelo designer. O próximo passo é chegar ao estágio em que haja várias circunstâncias sobre as quais os engenheiros não pensaram, e o algoritmo possibilite à máquina calcular a forma apropriada de agir.
Uma máquina seria capaz de ter sentimentos?
Humanos são criaturas que evoluíram com um sistema emocional químico e instintivo. Robôs são sistemas construídos com base em uma plataforma lógica. Mas, de forma fascinante, há pesquisas sobre se é possível criar algum tipo de inteligência emocional e afetiva, ou robôs com consciência ou capacidade de deduzir as intenções e os desejos de outros. Algumas pessoas acreditam que teremos um dia máquinas com consciência, outras dizem que isso não é possível. Mas essa é a ambiguidade e, do ponto de vista filosófico, o fascínio dos robôs, que nos fazem pensar se somos distintamente diferentes do que estamos criando ou se algumas capacidades podem ser reproduzidas ou simuladas em uma plataforma robótica.
Qual é o principal desafio para criar máquinas com consciência moral?
Há dois grandes problemas. Em um nível, escolher um procedimento, ou teoria ética, ou processo e implementar isso em um computador. O outro problema é que às vezes nos referimos às coisas com nomes diferentes e há uma questão de perspectiva. Mas o ponto é que há todas essas preocupações secundárias que são essenciais para a tomada de decisões que são alheias ao procedimento. Por exemplo: como um sistema reconhece que está em uma situação de importância ética? Como ele define se tem a informação necessária para resolver o problema? Que capacidades seriam necessárias para fazer julgamentos válidos em situações complexas? É algo difícil até para humano, e não sabemos ainda como implementar em robôs.
A matéria completa está disponível , para assinantes. Para assinar, clique .