Chatbots de IA para suporte: o que acontece de verdade quando o seu promete algo que você não autorizou
Quase todo diretório adiciona um chat pelo mesmo motivo: os tickets chegam às duas da manhã, um anunciante quer saber por que um pagamento falhou ou por que uma foto foi recusada, e ninguém quer pagar um turno noturno para responder às mesmas cinco perguntas. Um assistente treinado nas páginas de ajuda parece a solução óbvia. Nunca dorme, nunca perde a paciência com um anunciante difícil, e custa uma fração de uma contratação no suporte.
O que escapa a essa conta é o que acontece na primeira vez que o assistente erra. Não um erro de digitação, não um link quebrado, mas uma resposta errada dita com total confiança: sim, esse reembolso está aprovado, sim, você pode pular a reverificação desta vez, sim, essa foto cumpre as regras. O instinto é tratar isso como um bug de software: corrige, pede desculpa, segue em frente. Vários tribunais já decidiram que esse instinto está errado, e o raciocínio que usaram se aplica a um diretório de classificados com a mesma precisão com que se aplicou às empresas que foram de fato processadas.
Um chatbot não é uma entidade jurídica à parte
A formulação mais clara do princípio vem de um tribunal de pequenas causas da Colúmbia Britânica, num caso que não tinha nada a ver com conteúdo adulto. Um viajante chamado Jake Moffatt perguntou ao chatbot do site da Air Canada sobre a tarifa de luto após uma morte na família, e o chatbot disse a ele que poderia pedir o desconto depois de reservar, dentro de noventa dias. Isso estava errado. Outra página do mesmo site dizia que o desconto precisava ser pedido antes da viagem, e a Air Canada se recusou a reconhecer a diferença quando Moffatt apontou o que o próprio chatbot havia dito a ele.
A defesa da Air Canada foi que o chatbot deveria ser tratado como uma entidade separada, responsável por suas próprias palavras, não a companhia aérea. O tribunal rejeitou esse argumento em termos que vale a pena repetir a qualquer pessoa que esteja construindo um bot de suporte: "A Air Canada sugere que o chatbot é uma entidade jurídica separada, responsável por seus próprios atos. Essa é uma alegação notável. Embora o chatbot tenha um componente interativo, ele continua sendo apenas parte do site da Air Canada. Não faz diferença se a informação vem de uma página estática ou de um chatbot." A Air Canada tentou também uma segunda defesa, citando cláusulas de sua própria tarifa publicada, mas perdeu essa também porque nunca apresentou o texto real da tarifa como prova, apenas uma descrição do que supostamente dizia.
O valor em jogo era pequeno: cerca de 650 dólares canadenses em indenização mais juros e taxas do tribunal, já que se tratava de um processo de pequenas causas, não de um julgamento com júri. E é exatamente nesse detalhe que vale a pena se deter. O princípio jurídico que decidiu o caso não dependia do valor, e se aplicaria da mesma forma a um chatbot que cotar a um anunciante um preço de renovação errado, ou que confirmar um reembolso que o financeiro nunca aprovou. Também era um tribunal da Colúmbia Britânica, não um precedente vinculante em nenhum outro lugar e certamente não é lei americana, mas o raciocínio reflete a doutrina comum da declaração negligente que existe na maioria dos sistemas de common law, incluindo aqueles a que um operador sediado nos Estados Unidos de fato responde.
Os tribunais americanos chegaram lá décadas antes
Isso não é um problema novo inventado pela IA generativa. Em 1972, um tribunal de apelação dos Estados Unidos decidiu o caso State Farm Mutual Automobile Insurance Co. contra Bockhorst, sobre um tipo de automação bem mais antigo: um mainframe que gerou um aviso de reativação de apólice usando informações desatualizadas que um funcionário humano não havia atualizado a tempo. O tribunal considerou a seguradora vinculada ao que seu próprio computador havia enviado, escrevendo que "um computador opera apenas de acordo com as informações e instruções fornecidas por seus programadores humanos. Se o computador não pensa como um ser humano, a culpa é do ser humano."
O mecanismo jurídico desse caso não é idêntico ao de Moffatt, e seria forçar a barra apresentá-los como o mesmo teste: Bockhorst girava em torno do que a lei considera conhecimento próprio da seguradora por meio de seus funcionários, enquanto Moffatt girava em torno de um dever de representar os fatos com precisão perante um consumidor. O que os dois casos têm em comum é a conclusão que realmente importa para um operador: nenhum dos dois tribunais deixou a empresa apontar para sua própria máquina e ir embora. Um bot de suporte não é uma brecha, e nunca foi, porque a doutrina que fecha essa brecha é anterior ao chatbot em meio século.
Duas formas diferentes em que isso morde, e um diretório corre as duas
Dentro do mesmo widget de chat se escondem duas exposições separadas, e elas exigem soluções diferentes. A primeira é o que o bot diz a um anunciante específico numa conversa privada, a situação de Moffatt e Bockhorst: uma promessa errada em que o anunciante confiou e que lhe custou dinheiro. A segunda é o que você afirma, no material de marketing ou no próprio site, sobre o que o bot ou os sistemas por trás dele realmente fazem, uma questão de veracidade publicitária em vez de direito contratual.
A segunda exposição tem seu próprio histórico de aplicação. Em setembro de 2024, a Federal Trade Commission dos Estados Unidos abriu cinco processos naquilo que chamou de Operation AI Comply, contra empresas que, segundo ela, haviam exagerado o que seus produtos de IA realmente conseguiam fazer. Uma delas, a DoNotPay, havia se apresentado como o "primeiro advogado robô do mundo" e afirmava que sua ferramenta permitia processar por agressão sem advogado e gerar documentos juridicamente válidos, sem nunca ter testado seu resultado contra o padrão de um advogado humano nem ter contratado advogado algum. A empresa pagou um acordo de 193 mil dólares e aceitou a proibição de afirmar que seu serviço pode substituir uma consultoria profissional sem provas que sustentem isso. O comentário da então presidente da FTC, Lina Khan, foi direto: "Usar ferramentas de IA para enganar, iludir ou fraudar pessoas é ilegal", e "não existe isenção para a IA nas leis já em vigor".
Esses cinco casos eram todos contra empresas que vendiam um produto de IA com alegações exageradas, não contra uma empresa que simplesmente usava um chatbot para o próprio suporte ao cliente, então convém tratar isso como um aviso forte, não como uma decisão sobre esse cenário exato. A lei por trás de tudo isso, a Seção 5 do FTC Act, proíbe de forma geral práticas desleais ou enganosas, sem exceção quanto a quem escreveu a frase em questão. Um diretório que diz aos anunciantes "nossa IA verifica automaticamente cada perfil" quando o processo na verdade é uma checagem humana auxiliada por software está fazendo exatamente o tipo de alegação que essa lei existe para coibir, algo que vale a pena ler junto com o que realmente precisa ser verdade antes que um anúncio seja impresso como verificado.
As promessas que um bot de suporte faz com mais facilidade
Imagine as perguntas que um anunciante realmente digita no chat de um diretório, porque é aí que o risco se concentra. Perguntas sobre cobrança produzem as respostas mais perigosas: um bot treinado para ser prestativo tenderá a confirmar um reembolso, um rateio ou um cancelamento que o anunciante está pedindo, porque é a resposta que encerra a conversa mais rápido. Cada uma dessas respostas é um compromisso que o financeiro nunca aprovou, e ela mina o caminho de reembolso, deliberadamente mais lento, criado para impedir que uma contestação vire um chargeback.
As perguntas sobre verificação são piores, porque o que está em jogo é regulatório, não só financeiro. Um anunciante que não quer reenviar um documento de identidade vai formular a pergunta de um jeito que faça pular essa etapa soar razoável, e um bot otimizado para uma resposta curta e satisfatória pode confirmar que o cadastro existente está bom quando não está atualizado ou nunca foi de fato verificado. O mesmo risco aparece na moderação: um anunciante que contesta uma foto recusada ou um anúncio removido vai perguntar direto ao bot se o conteúdo é permitido, e uma resposta errada dita com confiança contradiz aqui uma decisão que um moderador já tomou por um motivo que o bot não consegue ver.
Não é preciso uma falha espetacular para isso sair caro. Um único anunciante que consiga mostrar uma captura de tela do bot prometendo algo que a empresa não vai cumprir já tem os elementos básicos de uma reclamação, e um padrão de promessas parecidas repetido em muitos anunciantes transforma um reembolso constrangedor num padrão que um regulador ou o advogado de um autor podem apontar. O caso de 2026 de uma concessionária de carros em Toronto cujo bot, apelidado de Quinn, mandou por mensagem a um cliente uma oferta de recompra de seu carro por mais de 27 mil dólares canadenses ilustra bem o custo para a empresa mesmo sem nunca ter chegado à justiça: a concessionária revogou a oferta chamando-a de erro da IA, e só a honrou integralmente depois que uma emissora nacional ligou pedindo um comentário, e depois mudou seu processo para que ofertas de recompra agora venham de uma pessoa. Nada nesse desfecho dependeu de um juiz, e é exatamente esse o detalhe que vale notar: a parte cara foi a retratação e a reportagem, não uma sentença.
O que fazer de verdade, em ordem
Comece decidindo o que o bot nunca pode resolver sozinho. Valores de reembolso, exceções de verificação, e qualquer decisão sobre se um conteúdo específico é permitido deveriam acionar uma resposta fixa que passa a conversa para uma pessoa, em vez de uma resposta gerada na hora, porque essas são exatamente as categorias em que uma frase errada vira uma promessa vinculante ou uma brecha de conformidade.
Mantenha aquilo em que o bot foi treinado ou instruído perfeitamente alinhado com as páginas de política atuais de fato em vigor, e trate uma mudança de política como incompleta até que o material-fonte do bot seja atualizado no mesmo dia, não na mesma semana. Um bot respondendo a partir de uma política de reembolso substituída há um mês não é um risco hipotético, é a forma mais comum de isso dar errado na prática.
Registre cada conversa por completo e mantenha os registros num lugar que um líder de suporte realmente lê com regularidade, não só num lugar onde ficam armazenados. Uma revisão semanal de uma amostra de transcrições pega um padrão ruim enquanto ainda é o problema de um anunciante, não de cem, e esses mesmos registros são o que permite mostrar, se um dia for preciso, que a empresa estava agindo com cuidado razoável em vez de ignorar a ferramenta depois de ligada.
Não trate uma linha de aviso como um escudo de responsabilidade por si só. Um aviso de que respostas de IA podem ser imprecisas ainda vale a pena ter, porque é prova de que a empresa teve algum cuidado, mas a Air Canada perdeu o caso pela imprecisão do que o bot havia dito, não pela ausência de um aviso, e a objeção do tribunal foi que ninguém conferiu a resposta do chatbot contra a política real antes de ela ser mostrada aos clientes. Um aviso ao lado de respostas que ninguém nunca audita serve de pouco.
Por fim, pergunte diretamente à sua seguradora, por escrito, se sua apólice atual cobre uma reclamação decorrente de algo que uma ferramenta de suporte com IA disse a um cliente, na mesma conversa em que você já está verificando o que as exclusões de conteúdo de uma apólice padrão realmente deixam descoberto. A maioria das apólices de responsabilidade civil geral foi redigida antes de tudo isso existir, e a resposta honesta de um corretor a quem nunca se fez a pergunta direta costuma ser um palpite, não um fato.
O fio comum em tudo isso é simples o bastante para repetir a qualquer pessoa da equipe que ache que o bot é um problema separado da empresa: todo tribunal que já analisou essa questão até agora tratou o chatbot como a própria empresa falando, com sua própria voz, por meio de uma interface diferente. Construa as barreiras, os registros e o hábito de revisão como se um funcionário novo e um tanto confiante demais tivesse acabado de começar a responder cada ticket durante a noite, porque, legalmente, é quase exatamente isso que aconteceu.
