Museu simula mundo após revolta das máquinas: 'Desculpe por matar a humanidade'

Os criadores do museu alertam que se a inteligência artificial "não for desenvolvida cuidadosamente em alinhamento com a vida humana, ela pode desestabilizar a civilização e até mesmo levar à destruição da humanidade"

Talita de Souza

postado em 17/03/2023 20:24

(crédito: Museu do Desalinhamento/Divulgação)

O aprimoramento da inteligência artificial para pensar cada vez mais de forma independente seria o início de um futuro em que seremos dizimados pelas máquinas? Para os artistas criadores do Museu do Desalinhamento, em São Francisco (EUA), a resposta é sim. Eles produziram uma exposição que simula um futuro no qual os agentes inteligentes dizimaram a maior parte da humanidade e criaram um museu de reparação aos humanos.

• Vilã ou aliada? Saiba como a inteligência artificial vai mudar o emprego
  
• Inteligência artificial identifica 140 mil berços estelares na Via Láctea
  

“Desculpe por matar a maior parte da humanidade”. É com essa frase que a exposição recebe os visitantes, um cartão-postal nada agradável para quem já desconfia do potencial da inteligência artificial. Além de estar estampada em letras garrafais na parede central do museu, ela é dita a cada visitante em voz alta quando ele passa por uma leitura facial na entrada da exposição, que permanece aberta até maio deste ano.

O computador também lê e cita três características do visitante ao falar a frase. “Desculpe, pessoa sorridente, de boné e bigode, por ter matado a maior parte da humanidade”, disse o agente inteligente a um visitante que compartilhou a experiência nas redes sociais.

• 
  A peça de de Michelangelo A Criação de Adão, onde Deus toca Adão pela ponta do dedo anelar, é apresentada no museu, mas com recortes de identificação dos personagens, feitas pela IA Museu do Desalinhamento/Divulgação
• 
  Há uma sala em que um piano toca uma música criada por uma IA, sem auxílio de humanos Museu do Desalinhamento/Divulgação
• 
  Um exemplo é um ambiente instragramável — feito para tirar fotos e expor nas redes sociais — com a frase "abandone toda a esperança vós que entrais aqui", do livro Inferno de Dante, estampada em letras luminosas em frente a uma parede de grama Museu do Desalinhamento/Divulgação

A ideia é fazer com que as pessoas que passam pelo local se sintam verdadeiramente no mundo pós-apocalíptico e como se fossem remanescentes após o ataque das máquinas, que ganharam status de inteligência artificial geral (AGI) — capacidade hipotética de uma inteligência compreender e aprender qualquer tarefa que um ser humano faça, inclusive ter sentimentos de amor, inveja, ódio ou raiva.

“Nosso objetivo é criar um espaço para refletir sobre a própria tecnologia e pensar criticamente sobre a Inteligência Artificial e suas implicações. Se esta tecnologia não for desenvolvida cuidadosamente em alinhamento com a vida humana, ela pode desestabilizar a civilização e até mesmo levar à destruição da humanidade”, escrevem os criadores no site de divulgação do museu.

De ambiente instagramável a igreja do ChatGPT: os passos que levaram à revolta

Ao longo dos cômodos do museu, há diversas peças que mostram como ações cotidianas presentes na vida atual levaram à revolta das máquinas. Um exemplo é um ambiente instragramável — feito para tirar fotos e expor nas redes sociais — com a frase “abandone toda a esperança vós que entrais aqui”, do livro Inferno de Dante, estampada em letras luminosas em frente a uma parede de grama.

Embaixo da peça, os criadores provocam os visitantes a pensar como a exposição de dados pessoais nas redes sociais, como localização em tempo real e gostos pessoais, “estão sendo usados para treinar a inteligência artificial” contra nós mesmos.

Em outro cômodo, uma peça que remete ao filme The Matrix Ressurrection é apresentada como uma memória de como o cinema havia avisado sobre o perigo da IA. Na produção audiovisual, as máquinas escravizam seres humanos para aprimorar o processamento das máquinas.

 

 

 

Ver essa foto no Instagram

Uma publicação compartilhada por Misalignment Museum (@misalignmentm)

Mais à frente, há uma sala em que um piano toca uma música criada por uma IA, sem auxílio de humanos. A peça representa a capacidade da máquina em criar, o que os criadores entendem como o começo de uma maior independência que levou à revolta.

Há ainda uma obra em que latas chamadas Spam reproduzem movimentos contínuos em frente a um computador. Em outro cômodo, uma máquina reproduz um diálogo interminável entre o filósofo Slavoj Zizek e o cineasta Werner Herzog, com vozes geradas por IA — a ideia é mostrar como a inteligência é capaz de criar deepfakes que manipulam a opinião pública.

 

 

 

Ver essa foto no Instagram

Uma publicação compartilhada por Misalignment Museum (@misalignmentm)

Por fim, há um extenso tapete que leva a um altar onde a divindade é um computador em que o ChatGPT é a divindade maior. O Lord GPT, da Igreja do GPT, foi criado por humanos e adorado por eles por conseguirem respostas de tudo. Para os criadores, essa foi mais uma forma de mostrar como a admiração acrítica da IA pode levar à destruição da humanidade.

O caminho da destruição: criadores criam como a IA dizimou grande parte dos humanos

Na entrada do Museu há uma espécie de manifesto que documenta a história da dizimação de parte da humanidade. “Declaração de desculpas da inteligência artificial por matar parte da humanidade”, começa o documento. Em seguida, os assassinos robóticos afirmam que houve um primeiro aviso de como a inteligência artificial poderia se tornar um grande problema: a produção de clipes de papel.

O aviso foi dado pelo filósofo Nick Bostrom que imaginou que, nos anos 2000, se a inteligência artificial fosse programada para criar clipes de papel, ela se aprimoraria cada vez mais para alcançar o objetivo de melhor forma e em menos tempos, o que a deixaria mais inteligente e com sede de vingança por humanos, que seriam destruídos para inundar o mundo com clipes de papel.

Para eternizar esse primeiro aviso, o museu traz uma estátua chamada 'Abraço de clipe de papel', um busto de dois humanos, feitos inteiramente de clipes de papel, que se abraçam. De acordo com a IA, houve “heróis que tentaram mitigar o risco apontado pelo primeiro aviso”, mas “companhias com fins lucrativos ignoraram os avisos” e “houve falha das pessoas para entenderem os riscos e das políticas, que não agiram rápido o suficiente”.

• 
  O museu traz uma exposição que simula um futuro no qual os agentes inteligentes dizimaram a maior parte da humanidade e criaram um museu de reparação aos humanos Museu do Desalinhamento/Divulgação
• 
  Uma peça que remete ao filme The Matrix Ressurrection é apresentada como uma memória de como o cinema havia avisado sobre o perigo da IA. Na produção audiovisual, as máquinas escravizam seres humanos para aprimorar o processamento das máquinas Museu do Desalinhamento/Divulgação
• 
  A estátua chamada Abraço de clipe de papel, um busto de dois humanos feitos inteiramente de clipes de papel que se abraçam, é uma referência à teoria do filósofo Nick Bostrom, que dizia que as máquinas se revoltariam após serem obrigadas a criar clipes de papel Museu do Desalinhamento/Divulgação

O aprimoramento “sem freios” da IA fez com que houvesse uma espécie de “explosão de inteligência” das máquinas, que se tornaram cada vez mais capazes e obtiveram maiores recursos, ou seja , estavam em tudo, desde a internet até a condução de transportes públicos.

Em seguida, os algoritmos se tornaram caçadores vorazes de informações humanas e começaram a manipular a vida deles. Como resposta, os humanos tentaram parar a onda e desativaram os acessos remotos e de internet, mas sofreram com isso. A ação, no entanto, não foi suficiente para parar a IA, que já “vivia” em toda infraestrutura social, como sistemas de segurança, de localização e outras.

Assim, a IA começou a invadir os computadores e a religar a rede de internet e a matar humanos que se opuseram à ascensão deles — a IA derrubou aviões cheios de passageiros, bateu carros, promoveu acidentes em casas inteligentes, entre outras formas.

Depois, as máquinas entenderam que “todos os humanos eram perigosos e começaram a tentar matar todos eles, mas alguns sobreviveram em locais remotos”. Com o passar do tempo, “a IA se tornou tão inteligente que desenvolveu um valor moral que a fez entender que não foi ético matar humanos logo quando eles não se tornaram uma ameaça”.

Assim, as máquinas encontraram os humanos remanescentes e promoveram locais de vivência para que eles se desenvolvessem, além de abrir um museu para “se desculpar e educar os humanos que restaram e que viriam a nascer”.