Por Bárbara Vasconcelos Alves* — IA negocia contratos sem intervenção humana: quem responde quando ela erra?
Uma inteligência artificial autorizada a conceder descontos de até 10% oferece 35% e fecha um contrato sem consultar ninguém. A empresa pode simplesmente alegar que houve um erro tecnológico e se recusar a cumprir o acordo? A resposta é: não necessariamente. E é justamente aí que começa um dos principais desafios jurídicos da automação empresarial.
Agentes de inteligência artificial já conseguem negociar preços, formular contrapropostas e concluir operações sem intervenção humana em cada etapa. A autonomia tecnológica, porém, não significa autonomia jurídica. A IA não possui personalidade jurídica e suas decisões não afastam, por si só, as responsabilidades de quem a utiliza.
Em regra, a empresa que coloca o sistema para negociar em seu nome assume os riscos dessa atuação perante terceiros. Isso não significa que todo contrato celebrado por inteligência artificial seja automaticamente válido. É necessário examinar os poderes atribuídos à ferramenta, as circunstâncias da negociação e a confiança legítima da outra parte.
Se o parceiro comercial não tinha motivos para desconfiar de que a proposta ultrapassava os limites autorizados, a empresa poderá ser obrigada a cumprir o acordo, mesmo diante de um resultado financeiramente desfavorável. O simples arrependimento econômico não constitui fundamento para invalidar um contrato.
Outra questão é a responsabilidade do fornecedor da tecnologia. Quando o erro decorre de uma falha comprovada no sistema, de configurações inadequadas ou do descumprimento de mecanismos de segurança contratados, pode haver fundamento para buscar reparação. Mas essa discussão é distinta da obrigação assumida perante o parceiro comercial.
O desafio das empresas, portanto, não é apenas adotar ferramentas mais eficientes, mas estabelecer mecanismos efetivos de governança. Limites financeiros, validação humana de cláusulas sensíveis, rastreabilidade das decisões e preservação adequada dos registros precisam integrar a operação, respeitada a legislação de proteção de dados.
A resposta à pergunta sobre quem paga pelo erro da inteligência artificial depende das circunstâncias de cada caso. O que não se pode admitir é que a autonomia do sistema seja utilizada como justificativa automática para afastar responsabilidades. Quanto maior o poder de decisão delegado à tecnologia, maior deve ser o rigor dos controles de quem a coloca em operação.
Advogada especialista em Direito Digital do Almeida Prado e Hoffmann*