Quando a IA da sua empresa promete o que você não pode cumprir, a conta é sua

Terça-feira, dez da manhã. Um cliente aparece no balcão com o print de uma conversa: o seu canal de atendimento automatizado confirmou um prazo de entrega de 48 horas e um desconto de 20%. Nenhuma das duas coisas é verdade. O prazo real é de sete dias e o desconto máximo autorizado é 12%. Você não escreveu aquilo. Ninguém do seu time escreveu aquilo. E, ainda assim, quem vai ter que resolver é você.

Esse tipo de episódio deixou de ser hipótese. O Brasilianista relatou que os processos judiciais envolvendo empresas de inteligência artificial estão disparando, e reportagem da Band mostrou empresas surpreendidas por agentes de IA que executaram ações não previstas. São dois sintomas do mesmo amadurecimento: a IA saiu do modo sugestão e entrou no modo execução — e execução gera obrigação.

Aqui está a contradição que pega o dono de PME desprevenido. Você contratou a IA de um fornecedor, paga uma mensalidade e assume, sem pensar muito, que o fornecedor responde pelos erros dela. Perante o seu cliente, não responde. Quem vendeu foi você. Quem prometeu, do ponto de vista de quem estava do outro lado, foi a sua empresa. O contrato com o fornecedor pode até te dar direito de regresso lá na frente, mas o prejuízo imediato, o desgaste e a obrigação de honrar aparecem no seu caixa primeiro.

A diferença entre errar sozinho e errar em escala

Funcionário erra. Isso sempre existiu e a empresa sempre absorveu. A diferença é de volume e velocidade. Um vendedor mal treinado promete errado para três clientes num dia ruim. Um agente de IA mal configurado promete errado para trezentos clientes em uma tarde, com redação impecável e aparência de política oficial da casa.

Há um agravante. O erro humano costuma vir com hesitação, e o cliente percebe. O erro da IA vem com confiança total, formatado, educado e coerente — o que aumenta a chance de o cliente agir com base nele e reduz a chance de alguém desconfiar a tempo. Do ponto de vista de defesa do consumidor, uma informação clara e assertiva vinda de um canal oficial da empresa é vinculante, independentemente de ter sido escrita por pessoa ou máquina.

Os quatro erros que mais viram conta para pagar

Na prática, os incidentes se concentram em quatro categorias, e todas têm prevenção conhecida.

1. Promessa fora da política. Prazo, preço, desconto, condição de pagamento, garantia. É o caso mais comum e o mais caro, porque tende a gerar obrigação direta.

2. Informação técnica incorreta. Especificação de produto, orientação de uso, compatibilidade. Em alguns setores isso não gera só devolução — gera dano.

3. Ação executada sem alçada. Aqui mora o risco novo dos agentes: cancelar um pedido, emitir um crédito, disparar uma compra, alterar um cadastro, enviar mensagem em massa. Não é uma frase errada, é um ato praticado.

4. Vazamento ou uso indevido de dado. Um agente que puxa histórico de um cliente e menciona para outro, ou que envia informação sensível para o canal errado. Além do dano comercial, entra no escopo da LGPD.

As cinco travas que você instala em uma semana

Nenhuma dessas medidas exige projeto grande, e as cinco juntas cobrem a maior parte do risco real.

• Limite de alçada por escrito e configurado. Defina o que a IA pode afirmar e o que ela pode fazer sozinha, com teto em valor. Acima do teto, ela encaminha para um humano. Regra simples e eficaz: a IA nunca aprova exceção.
• Lista de nunca-diga. Um bloco explícito de temas proibidos: prazo garantido, desconto não tabelado, promessa jurídica, orientação médica, condição especial de pagamento. Se o tema aparecer, a resposta é encaminhar.
• Registro completo de conversas e ações. Log com data, hora, canal, conteúdo e identificação de quem falava. Sem isso, você não consegue provar nada nem descobrir a origem do problema. É a trava mais barata e a que mais salva.
• Identificação clara do canal. Deixar explícito que o atendimento é automatizado e como chamar uma pessoa. Reduz mal-entendido, melhora a percepção do cliente e diminui a chance de a promessa ser interpretada como manifestação pessoal de um vendedor.
• Revisão semanal por amostragem. Trinta conversas por semana lidas por alguém do time. Não é auditoria formal, é higiene — e é assim que se descobre o desvio na semana um em vez de na semana doze, quando ele já virou padrão.

O que precisa estar no contrato com o fornecedor

Travas operacionais reduzem a chance do erro. O contrato define quem paga quando ele acontece mesmo assim. A maioria dos contratos de ferramenta de IA é padrão e limita a responsabilidade do fornecedor ao valor pago pelo serviço — o que, numa mensalidade de poucos milhares de reais, é praticamente nada diante de um incidente sério. Antes de assinar ou renovar, vale exigir clareza em cinco pontos:

• Propriedade dos dados. Os dados que você insere são seus, permanecem seus e podem ser exportados a qualquer momento, em formato utilizável.
• Uso para treinamento. Se o fornecedor pode ou não usar o conteúdo da sua operação para treinar modelos. Se puder, você precisa saber e decidir conscientemente.
• Registro e acesso a logs. Direito de acessar e exportar o histórico completo, inclusive após o encerramento do contrato. Sem isso você fica sem prova no dia em que precisar.
• Aviso de mudança de comportamento. Atualização de modelo pode alterar respostas sem que ninguém mexa em nada. Exija notificação prévia e um ambiente para testar antes.
• Responsabilidade e limites. O que o fornecedor cobre em caso de falha, indisponibilidade ou vazamento — e qual o teto. Se o teto for irrisório, você agora sabe que o risco é integralmente seu e pode precificar isso na decisão.

Um último item costuma ser esquecido: plano de saída. Como você desliga o serviço, em quanto tempo, e o que leva com você. Ferramenta de IA que se enrola na base de clientes sem porta de saída é dependência, não parceria.

O ZNITH AI já resolve isso

Colocar IA para executar sem colocar limite é o caminho mais rápido para transformar um ganho de produtividade em passivo. A ZNITH.AI desenha a infraestrutura comercial com IA já com as travas no lugar: alçada definida, escalonamento para humano, registro auditável e regras de negócio configuradas antes de qualquer canal ir ao ar. Automação que promete o que a operação entrega — nem mais, nem menos. Conheça o ZNITH AI e coloque limites na sua automação.

Cuidado com a reação oposta

Existe um risco simétrico e igualmente caro: ler tudo isso e decidir travar a IA em tudo, exigindo aprovação humana para cada mensagem. Isso elimina o ganho e devolve o gargalo para o mesmo time sobrecarregado de antes. O ponto não é frear — é desenhar a fronteira.

A fronteira que funciona costuma ser esta: a IA tem autonomia ampla para informar, autonomia média para executar dentro de alçada e reversível, e nenhuma autonomia para comprometer, conceder exceção ou praticar ato irreversível. Com esses três níveis definidos por escrito, o time sabe o que esperar e o cliente para de receber promessa que a operação não consegue honrar.

A IA que executa é um ganho real de produtividade e não vai voltar atrás. Só precisa entrar com a mesma regra que qualquer funcionário novo tem desde sempre: até onde você pode ir sozinho, e a partir de onde precisa chamar alguém. Nenhuma empresa dá procuração ilimitada no primeiro dia de trabalho. Não faz sentido dar para um sistema que fala com trezentos clientes por tarde.

Perguntas Frequentes

Quem é responsável quando o chatbot da empresa promete algo errado?

Perante o consumidor, a responsabilidade é da empresa que oferece o canal, não do fornecedor da tecnologia. A informação prestada em canal oficial vincula quem o mantém. Eventual direito de cobrar o fornecedor depende do que está no contrato entre as duas empresas e não afasta a obrigação imediata diante do cliente.

Como impedir que a IA ofereça desconto ou prazo fora da política?

Com três medidas combinadas: limite de alçada configurado na ferramenta, lista explícita de temas proibidos que forçam encaminhamento a um humano e revisão semanal por amostragem das conversas. A regra mais eficaz é que a IA nunca conceda exceção — exceção sempre passa por pessoa.

O que exigir no contrato com um fornecedor de IA?

Cinco pontos: propriedade e portabilidade dos seus dados, regra clara sobre uso do conteúdo para treinamento, direito de acesso e exportação dos logs, aviso prévio de mudanças de modelo com ambiente de teste e definição de responsabilidade com o respectivo limite. Vale incluir também as condições de encerramento e o que você leva ao sair.

Preciso avisar o cliente que ele está falando com uma IA?

É a prática recomendada e tende a se tornar exigência. Além de reduzir mal-entendido, a identificação clara do canal automatizado e a oferta de um caminho fácil para falar com uma pessoa diminuem atrito e melhoram a percepção de transparência da empresa.

Guardar o histórico das conversas com IA é obrigatório?

Manter registro é essencial na prática, tanto para investigar incidentes quanto para demonstrar o que foi efetivamente dito. Ao guardar, aplique as regras da LGPD: finalidade definida, prazo de retenção, controle de acesso e base legal adequada — registro sem governança resolve um problema e cria outro.