Por Bárbara Vasconcelos Alves* — IA negocia contratos sem intervenção humana: quem responde quando ela erra?
Uma inteligência artificial autorizada a conceder descontos de até 10% oferece 35% e fecha um contrato sem consultar ninguém. A empresa pode simplesmente alegar que houve um erro tecnológico e se recusar a cumprir o acordo? A resposta é: não necessariamente. E é justamente aí que começa um dos principais desafios jurídicos da automação empresarial.
Fique por dentro das notícias que importam para você!
Agentes de inteligência artificial já conseguem negociar preços, formular contrapropostas e concluir operações sem intervenção humana em cada etapa. A autonomia tecnológica, porém, não significa autonomia jurídica. A IA não possui personalidade jurídica e suas decisões não afastam, por si só, as responsabilidades de quem a utiliza.
Em regra, a empresa que coloca o sistema para negociar em seu nome assume os riscos dessa atuação perante terceiros. Isso não significa que todo contrato celebrado por inteligência artificial seja automaticamente válido. É necessário examinar os poderes atribuídos à ferramenta, as circunstâncias da negociação e a confiança legítima da outra parte.
Se o parceiro comercial não tinha motivos para desconfiar de que a proposta ultrapassava os limites autorizados, a empresa poderá ser obrigada a cumprir o acordo, mesmo diante de um resultado financeiramente desfavorável. O simples arrependimento econômico não constitui fundamento para invalidar um contrato.
Outra questão é a responsabilidade do fornecedor da tecnologia. Quando o erro decorre de uma falha comprovada no sistema, de configurações inadequadas ou do descumprimento de mecanismos de segurança contratados, pode haver fundamento para buscar reparação. Mas essa discussão é distinta da obrigação assumida perante o parceiro comercial.
O desafio das empresas, portanto, não é apenas adotar ferramentas mais eficientes, mas estabelecer mecanismos efetivos de governança. Limites financeiros, validação humana de cláusulas sensíveis, rastreabilidade das decisões e preservação adequada dos registros precisam integrar a operação, respeitada a legislação de proteção de dados.
A resposta à pergunta sobre quem paga pelo erro da inteligência artificial depende das circunstâncias de cada caso. O que não se pode admitir é que a autonomia do sistema seja utilizada como justificativa automática para afastar responsabilidades. Quanto maior o poder de decisão delegado à tecnologia, maior deve ser o rigor dos controles de quem a coloca em operação.
Advogada especialista em Direito Digital do Almeida Prado e Hoffmann*
Direito e Justiça
Direito e Justiça
Direito e Justiça
Direito e Justiça
