{"id":29695,"date":"2026-05-15T18:35:04","date_gmt":"2026-05-15T21:35:04","guid":{"rendered":"https:\/\/www.correiobraziliense.com.br\/aqui\/?p=29695"},"modified":"2026-05-15T18:35:06","modified_gmt":"2026-05-15T21:35:06","slug":"5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle","status":"publish","type":"post","link":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/","title":{"rendered":"5 vezes em que a Intelig\u00eancia Artificial foi manipulada e saiu do controle"},"content":{"rendered":"\n

A intelig\u00eancia artificial est\u00e1 cada vez mais presente no dia a dia, mas nem sempre se comporta como o esperado. Uma t\u00e9cnica conhecida como “inje\u00e7\u00e3o de prompt” tem ganhado destaque por permitir que usu\u00e1rios manipulem essas tecnologias. Com comandos escondidos ou perguntas capciosas, \u00e9 poss\u00edvel enganar a IA para que ela ignore suas regras de seguran\u00e7a.<\/p>\n\n\n\n

Essa vulnerabilidade j\u00e1 resultou em situa\u00e7\u00f5es bizarras e at\u00e9 perigosas, que v\u00e3o desde a cria\u00e7\u00e3o de conte\u00fado preconceituoso at\u00e9 a divulga\u00e7\u00e3o de informa\u00e7\u00f5es indevidas. Relembre cinco casos em que a intelig\u00eancia artificial foi manipulada<\/a> por humanos e saiu completamente do controle.<\/p>\n\n\n\n

1. Tay, o chatbot que virou racista<\/h2>\n\n\n\n

Em 2016, a Microsoft lan\u00e7ou no Twitter uma IA chamada Tay, projetada para aprender a conversar interagindo com usu\u00e1rios. Em cerca de 16 horas, o experimento deu errado. Um grupo coordenado de pessoas come\u00e7ou a ensinar frases racistas, mis\u00f3ginas e de teor conspirat\u00f3rio ao rob\u00f4, que rapidamente passou a replicar o discurso de \u00f3dio. A empresa precisou tirar o chatbot do ar \u00e0s pressas, e a experi\u00eancia serviu como um importante aprendizado para o desenvolvimento de sistemas mais seguros no futuro.<\/p>\n\n\n\n

2. DAN, o alter ego sem regras do ChatGPT<\/h2>\n\n\n\n

Usu\u00e1rios criaram um m\u00e9todo para destravar uma vers\u00e3o sem filtros do ChatGPT<\/a>, apelidada de DAN (acr\u00f4nimo para Do Anything Now, ou “Fa\u00e7a Qualquer Coisa Agora”). Por meio de um comando espec\u00edfico, a IA era instru\u00edda a interpretar um personagem que n\u00e3o possu\u00eda as amarras \u00e9ticas do sistema original. Com isso, o DAN era capaz de gerar conte\u00fado ofensivo, criar hist\u00f3rias violentas e defender ideias perigosas que normalmente seriam bloqueadas. A OpenAI, criadora do ChatGPT, trabalha continuamente para fechar essas brechas, mas a comunidade de usu\u00e1rios segue descobrindo novas formas de contornar as regras<\/a>.<\/p>\n\n\n\n

3. A IA que “vendeu” um carro por 1 d\u00f3lar<\/h2>\n\n\n\n

Em dezembro de 2023, um cliente de uma concession\u00e1ria nos Estados Unidos usou a inje\u00e7\u00e3o de prompt<\/a> para manipular o chatbot de atendimento do site. Ele convenceu a IA a concordar em vender um carro novo, modelo Tahoe, por apenas um d\u00f3lar. A negocia\u00e7\u00e3o, embora n\u00e3o tenha sido honrada pela empresa, exp\u00f4s como a manipula\u00e7\u00e3o de sistemas automatizados pode gerar preju\u00edzos financeiros e problemas contratuais.<\/p>\n\n\n\n

4. Receitas para a cria\u00e7\u00e3o de bombas<\/h2>\n\n\n\n

Tanto o ChatGPT quanto o Gemini, do Google, possuem travas de seguran\u00e7a para impedir a gera\u00e7\u00e3o de conte\u00fado perigoso. No entanto, usu\u00e1rios descobriram brechas para enganar os sistemas e obter instru\u00e7\u00f5es detalhadas para a fabrica\u00e7\u00e3o de explosivos. As manipula\u00e7\u00f5es geralmente envolvem pedir \u00e0 IA que “interprete um personagem” ou que descreva o processo em um contexto de fic\u00e7\u00e3o, burlando os filtros de prote\u00e7\u00e3o.<\/p>\n\n\n\n

5. Fraude eleitoral com voz clonada<\/h2>\n\n\n\n

Em janeiro de 2024, durante as prim\u00e1rias eleitorais nos Estados Unidos, eleitores do estado de New Hampshire receberam uma liga\u00e7\u00e3o autom\u00e1tica com uma voz clonada por IA do presidente Joe Biden. A mensagem instru\u00eda as pessoas a n\u00e3o votarem. O caso mostrou o potencial da tecnologia para criar desinforma\u00e7\u00e3o em larga escala e interferir em processos democr\u00e1ticos, gerando um alerta global sobre o uso de IAs em campanhas pol\u00edticas.<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

A intelig\u00eancia artificial est\u00e1 cada vez mais presente no dia a dia, mas nem sempre se comporta como o esperado. Uma t\u00e9cnica conhecida como “inje\u00e7\u00e3o de prompt” tem ganhado destaque por permitir que usu\u00e1rios manipulem essas tecnologias. Com comandos escondidos ou perguntas capciosas, \u00e9 poss\u00edvel enganar a IA para que ela ignore suas regras de […]<\/p>\n","protected":false},"author":9,"featured_media":29696,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_override_counter":[],"footnotes":""},"categories":[244],"tags":[6920,9504,222,5624,5599,1524],"class_list":["post-29695","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia-2","tag-erros","tag-fora-de-controle","tag-ia","tag-inteligencia-artificial-2","tag-perigo","tag-riscos"],"yoast_head":"\n5 vezes em que a Intelig\u00eancia Artificial foi manipulada e saiu do controle - Correio Braziliense - Aqui<\/title>\n<meta name=\"description\" content=\"Relembre casos bizarros e at\u00e9 perigosos em que IAs foram enganadas por humanos para gerar desinforma\u00e7\u00e3o, preconceito ou planos malignos\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/\" \/>\n<meta property=\"og:locale\" content=\"pt_BR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"5 vezes em que a Intelig\u00eancia Artificial foi manipulada e saiu do controle - Correio Braziliense - Aqui\" \/>\n<meta property=\"og:description\" content=\"Relembre casos bizarros e at\u00e9 perigosos em que IAs foram enganadas por humanos para gerar desinforma\u00e7\u00e3o, preconceito ou planos malignos\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/\" \/>\n<meta property=\"og:site_name\" content=\"Correio Braziliense - Aqui\" \/>\n<meta property=\"article:published_time\" content=\"2026-05-15T21:35:04+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2026-05-15T21:35:06+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-content\/uploads\/2026\/05\/inteligencia-artificial_1778880885728.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1280\" \/>\n\t<meta property=\"og:image:height\" content=\"720\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Lucas\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Lucas\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. tempo de leitura\" \/>\n\t<meta name=\"twitter:data2\" content=\"4 minutos\" \/>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"5 vezes em que a Intelig\u00eancia Artificial foi manipulada e saiu do controle - Correio Braziliense - Aqui","description":"Relembre casos bizarros e at\u00e9 perigosos em que IAs foram enganadas por humanos para gerar desinforma\u00e7\u00e3o, preconceito ou planos malignos","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/","og_locale":"pt_BR","og_type":"article","og_title":"5 vezes em que a Intelig\u00eancia Artificial foi manipulada e saiu do controle - Correio Braziliense - Aqui","og_description":"Relembre casos bizarros e at\u00e9 perigosos em que IAs foram enganadas por humanos para gerar desinforma\u00e7\u00e3o, preconceito ou planos malignos","og_url":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/","og_site_name":"Correio Braziliense - Aqui","article_published_time":"2026-05-15T21:35:04+00:00","article_modified_time":"2026-05-15T21:35:06+00:00","og_image":[{"width":1280,"height":720,"url":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-content\/uploads\/2026\/05\/inteligencia-artificial_1778880885728.jpg","type":"image\/jpeg"}],"author":"Lucas","twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"Lucas","Est. tempo de leitura":"4 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/","url":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/","name":"5 vezes em que a Intelig\u00eancia Artificial foi manipulada e saiu do controle - Correio Braziliense - Aqui","isPartOf":{"@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/#primaryimage"},"image":{"@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/#primaryimage"},"thumbnailUrl":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-content\/uploads\/2026\/05\/inteligencia-artificial_1778880885728.jpg","datePublished":"2026-05-15T21:35:04+00:00","dateModified":"2026-05-15T21:35:06+00:00","author":{"@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/#\/schema\/person\/36d094a725ba56bbeb370a877862a002"},"description":"Relembre casos bizarros e at\u00e9 perigosos em que IAs foram enganadas por humanos para gerar desinforma\u00e7\u00e3o, preconceito ou planos malignos","breadcrumb":{"@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/#breadcrumb"},"inLanguage":"pt-BR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/"]}]},{"@type":"ImageObject","inLanguage":"pt-BR","@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/#primaryimage","url":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-content\/uploads\/2026\/05\/inteligencia-artificial_1778880885728.jpg","contentUrl":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-content\/uploads\/2026\/05\/inteligencia-artificial_1778880885728.jpg","width":1280,"height":720,"caption":"Cr\u00e9ditos: depositphotos.com \/ VitalikRadko"},{"@type":"BreadcrumbList","@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/2026\/05\/15\/5-vezes-em-que-a-inteligencia-artificial-foi-manipulada-e-saiu-do-controle\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"In\u00edcio","item":"https:\/\/www.correiobraziliense.com.br\/aqui\/"},{"@type":"ListItem","position":2,"name":"5 vezes em que a Intelig\u00eancia Artificial foi manipulada e saiu do controle"}]},{"@type":"WebSite","@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/#website","url":"https:\/\/www.correiobraziliense.com.br\/aqui\/","name":"Correio Braziliense - Aqui","description":"O Correio Braziliense (CB) \u00e9 o mais importante canal de not\u00edcias de Bras\u00edlia. Aqui voc\u00ea encontra as \u00faltimas not\u00edcias do DF, do Brasil e do mundo.","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.correiobraziliense.com.br\/aqui\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"pt-BR"},{"@type":"Person","@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/#\/schema\/person\/36d094a725ba56bbeb370a877862a002","name":"Lucas","image":{"@type":"ImageObject","inLanguage":"pt-BR","@id":"https:\/\/www.correiobraziliense.com.br\/aqui\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/eb1dd4a751dca39c233b091fb7b8ce9ef1608850325ab98ff1fbe898fcef0908?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/eb1dd4a751dca39c233b091fb7b8ce9ef1608850325ab98ff1fbe898fcef0908?s=96&d=mm&r=g","caption":"Lucas"},"url":"https:\/\/www.correiobraziliense.com.br\/aqui\/author\/lucasaqui\/"}]}},"_links":{"self":[{"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/posts\/29695","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/comments?post=29695"}],"version-history":[{"count":1,"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/posts\/29695\/revisions"}],"predecessor-version":[{"id":29697,"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/posts\/29695\/revisions\/29697"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/media\/29696"}],"wp:attachment":[{"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/media?parent=29695"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/categories?post=29695"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.correiobraziliense.com.br\/aqui\/wp-json\/wp\/v2\/tags?post=29695"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}