Chatbots IA pour le support : ce qui se passe vraiment quand le vôtre promet quelque chose que vous n'avez pas autorisé

Presque tous les annuaires ajoutent un chat pour la même raison : les tickets arrivent à deux heures du matin, un annonceur veut savoir pourquoi un paiement a échoué ou pourquoi une photo a été refusée, et personne ne veut payer une équipe de nuit pour répondre aux cinq mêmes questions. Un assistant entraîné sur les pages d'aide semble la solution évidente. Il ne dort jamais, il ne s'énerve jamais contre un annonceur difficile, et il coûte une fraction d'une embauche au support.

Ce qui échappe à ce calcul, c'est ce qui se passe la première fois que l'assistant se trompe. Pas une faute de frappe, pas un lien cassé, mais une réponse fausse donnée avec une pleine assurance : oui, ce remboursement est approuvé, oui, vous pouvez sauter la revérification cette fois, oui, cette photo respecte les règles. Le réflexe est de traiter cela comme un bug logiciel : on corrige, on s'excuse, on avance. Plusieurs tribunaux ont déjà jugé que ce réflexe est erroné, et le raisonnement qu'ils ont suivi s'applique à un annuaire de petites annonces avec la même précision qu'aux entreprises réellement poursuivies.

Un chatbot n'est pas une entité juridique à part

La formulation la plus claire du principe vient d'un tribunal de petites créances de Colombie-Britannique, dans une affaire qui n'avait rien à voir avec du contenu pour adultes. Un voyageur nommé Jake Moffatt a demandé au chatbot du site d'Air Canada des informations sur le tarif de deuil après un décès familial, et le chatbot lui a dit qu'il pouvait demander la réduction après avoir réservé, dans un délai de quatre-vingt-dix jours. C'était faux. Une autre page du même site indiquait que la réduction devait être demandée avant le voyage, et Air Canada a refusé de rembourser la différence lorsque Moffatt a signalé ce que son propre chatbot lui avait dit.

La défense d'Air Canada était que le chatbot devait être considéré comme une entité séparée, responsable de ses propres propos, et non la compagnie aérienne. Le tribunal a rejeté cet argument en des termes qui méritent d'être répétés à quiconque construit un bot de support : "Air Canada suggère que le chatbot est une entité juridique distincte, responsable de ses propres actes. C'est une affirmation remarquable. Bien que le chatbot ait une composante interactive, il reste simplement une partie du site d'Air Canada. Peu importe que l'information vienne d'une page statique ou d'un chatbot." Air Canada a aussi tenté une seconde défense, en invoquant des clauses de son propre tarif publié, mais elle l'a également perdue car elle n'a jamais produit le texte réel de ce tarif comme preuve, seulement une description de ce qu'il était censé dire.

La somme en jeu était faible : environ 650 dollars canadiens de dommages plus les intérêts et les frais de tribunal, puisqu'il s'agissait d'une procédure de petites créances et non d'un procès avec jury. Et c'est exactement le détail sur lequel il faut s'arrêter. Le principe juridique qui a tranché l'affaire ne dépendait pas du montant, et il s'appliquerait de la même façon à un chatbot qui annonce à un annonceur un mauvais prix de renouvellement, ou qui confirme un remboursement que le service comptable n'a jamais approuvé. C'était aussi un tribunal de Colombie-Britannique, pas un précédent contraignant ailleurs et certainement pas le droit américain, mais le raisonnement reflète la doctrine ordinaire de la déclaration négligente qui existe dans la plupart des systèmes de common law, y compris ceux devant lesquels répond réellement un opérateur basé aux États-Unis.

Les tribunaux américains y étaient arrivés des décennies plus tôt

Ce n'est pas un problème nouveau inventé par l'IA générative. En 1972, une cour d'appel américaine a tranché l'affaire State Farm Mutual Automobile Insurance Co. contre Bockhorst, concernant un type d'automatisation bien plus ancien : un ordinateur central qui avait généré un avis de réactivation de police en utilisant des informations périmées qu'un employé humain n'avait pas mises à jour à temps. Le tribunal a jugé l'assureur lié par ce que son propre ordinateur avait envoyé, écrivant qu'"un ordinateur fonctionne uniquement selon les informations et les instructions fournies par ses programmeurs humains. Si l'ordinateur ne pense pas comme un homme, c'est la faute de l'homme."

Le mécanisme juridique de cette affaire n'est pas identique à celui de Moffatt, et ce serait forcer les choses que de les présenter comme le même test : Bockhorst reposait sur ce que la loi considère comme la connaissance propre de l'assureur via ses employés, tandis que Moffatt reposait sur un devoir de représenter les faits avec exactitude envers un consommateur. Ce que les deux affaires ont en commun, c'est la conclusion dont un opérateur a vraiment besoin : aucun des deux tribunaux n'a laissé l'entreprise pointer du doigt sa propre machine et s'en aller. Un bot de support n'est pas une échappatoire, et il ne l'a jamais été, parce que la doctrine qui ferme cette échappatoire précède le chatbot d'un demi-siècle.

Deux façons différentes dont cela mord, et un annuaire risque les deux

Deux expositions distinctes se cachent dans le même widget de chat, et elles appellent des remèdes différents. La première est ce que le bot dit à un annonceur précis dans une conversation privée, la situation de Moffatt et de Bockhorst : une promesse fausse sur laquelle l'annonceur s'est fié et qui lui a coûté de l'argent. La seconde est ce que vous affirmez, dans le matériel marketing ou sur le site lui-même, sur ce que font réellement le bot ou les systèmes derrière lui, une question de véracité publicitaire plutôt que de droit des contrats.

La seconde exposition a son propre historique de mise en application. En septembre 2024, la Federal Trade Commission américaine a ouvert cinq dossiers dans ce qu'elle a appelé Operation AI Comply, contre des entreprises qui, selon elle, avaient surévalué ce que leurs produits d'IA pouvaient réellement faire. L'une d'elles, DoNotPay, se présentait comme le "premier avocat robot au monde" et affirmait que son outil permettait de poursuivre pour agression sans avocat et de produire des documents juridiquement valides, sans jamais avoir testé sa production face au niveau d'un avocat humain ni avoir jamais engagé le moindre avocat. L'entreprise a réglé l'affaire pour 193 000 dollars et une interdiction d'affirmer que son service peut remplacer un conseil professionnel sans preuves à l'appui. Le commentaire de la présidente de la FTC de l'époque, Lina Khan, était sans détour : "Utiliser des outils d'IA pour tromper, induire en erreur ou escroquer les gens est illégal", et "il n'existe aucune exemption pour l'IA dans les lois déjà en vigueur".

Ces cinq dossiers visaient tous des entreprises vendant un produit d'IA avec des affirmations exagérées, et non une entreprise qui se contentait d'utiliser un chatbot pour son propre support client, il faut donc traiter cela comme un avertissement sérieux plutôt que comme un jugement sur ce scénario précis. Le texte derrière tout cela, la Section 5 du FTC Act, interdit de façon générale les pratiques déloyales ou trompeuses, sans exception selon qui a écrit la phrase incriminée. Un annuaire qui dit à ses annonceurs "notre IA vérifie automatiquement chaque profil" alors que le processus est en réalité un contrôle humain assisté par logiciel fait exactement le genre d'affirmation que ce texte existe pour sanctionner, à lire en parallèle avec ce qui doit réellement être vrai avant qu'une annonce ne soit imprimée comme vérifiée.

Les promesses qu'un bot de support fait le plus facilement

Imaginez les questions qu'un annonceur tape réellement dans le chat d'un annuaire, car c'est là que le risque se concentre. Les questions de facturation produisent les réponses les plus dangereuses : un bot entraîné à être serviable aura tendance à confirmer un remboursement, un prorata ou une résiliation que l'annonceur demande, parce que c'est la réponse qui clôt la conversation le plus vite. Chacune de ces réponses est un engagement que le service comptable n'a jamais validé, et elle sape le parcours de remboursement, délibérément plus lent, conçu pour empêcher un litige de se transformer en rétrofacturation.

Les questions de vérification sont pires, car l'enjeu est réglementaire, pas seulement financier. Un annonceur qui ne veut pas renvoyer un document d'identité formulera la question de façon à rendre l'omission raisonnable, et un bot optimisé pour une réponse courte et satisfaisante peut confirmer que le dossier existant convient alors qu'il n'est pas à jour ou n'a jamais vraiment été vérifié. Le même risque apparaît autour de la modération : un annonceur qui conteste une photo refusée ou une annonce retirée demandera directement au bot si le contenu est autorisé, et une réponse fausse donnée avec assurance contredit ici une décision qu'un modérateur a déjà prise pour une raison que le bot ne peut pas voir.

Il n'est pas nécessaire qu'un échec spectaculaire survienne pour que cela coûte cher. Un seul annonceur capable de montrer une capture d'écran du bot promettant quelque chose que l'entreprise ne tiendra pas a déjà les éléments de base d'une plainte, et un schéma de promesses similaires répété sur de nombreux annonceurs transforme un remboursement gênant en un schéma qu'un régulateur ou l'avocat d'un plaignant peut pointer du doigt. L'affaire de 2026 d'un concessionnaire automobile de Toronto dont le bot, surnommé Quinn, a envoyé par message à un client une offre de rachat de sa voiture pour plus de 27 000 dollars canadiens illustre bien le coût pour l'entreprise, même si l'affaire n'est jamais allée devant un tribunal : le concessionnaire a révoqué l'offre en la qualifiant d'erreur de l'IA, puis l'a honorée intégralement seulement après qu'un média national a appelé pour un commentaire, et il a ensuite changé son processus pour que les offres de rachat viennent désormais d'une personne. Rien dans ce dénouement ne dépendait d'un juge, et c'est précisément le détail à retenir : la partie coûteuse a été la rétractation et l'article de presse, pas un jugement.

Que faire vraiment, dans l'ordre

Commencez par décider ce que le bot ne peut jamais résoudre seul. Les montants de remboursement, les exceptions de vérification, et toute décision sur le caractère autorisé d'un contenu précis devraient déclencher une réponse fixe qui transfère la conversation à une personne, plutôt qu'une réponse générée sur le moment, parce que ce sont exactement les catégories où une phrase erronée devient une promesse contraignante ou une faille de conformité.

Gardez ce sur quoi le bot a été entraîné ou instruit parfaitement aligné avec les pages de politique actuelles réellement en vigueur, et considérez un changement de politique comme incomplet tant que le matériel source du bot n'a pas été mis à jour le jour même, pas la semaine même. Un bot qui répond à partir d'une politique de remboursement remplacée il y a un mois n'est pas un risque hypothétique, c'est la façon la plus courante dont cela tourne mal en pratique.

Enregistrez chaque conversation dans son intégralité et conservez les journaux à un endroit qu'un responsable du support lit vraiment à intervalles réguliers, pas seulement un endroit où ils sont stockés. Un contrôle hebdomadaire d'un échantillon de transcriptions permet de repérer un schéma problématique tant qu'il reste le problème d'un seul annonceur, pas de cent, et ces mêmes journaux sont ce qui vous permet de démontrer, si cela devient nécessaire, que l'entreprise faisait preuve d'une diligence raisonnable plutôt que d'ignorer l'outil une fois allumé.

Ne traitez pas une ligne d'avertissement comme un bouclier de responsabilité à elle seule. Un avertissement indiquant que les réponses de l'IA peuvent être inexactes vaut quand même la peine d'être affiché, car c'est une preuve que l'entreprise a fait preuve d'un minimum de soin, mais Air Canada a perdu son procès à cause de l'inexactitude de ce que le bot avait dit, pas à cause de l'absence d'un avertissement, et l'objection du tribunal était que personne n'avait vérifié la réponse du chatbot par rapport à la politique réelle avant qu'elle ne soit affichée aux clients. Un avertissement placé à côté de réponses que personne n'audite jamais sert à peu de chose.

Enfin, demandez directement à votre assureur, par écrit, si votre police actuelle couvre une réclamation née de ce qu'un outil de support basé sur l'IA a dit à un client, dans la même conversation où vous vérifiez déjà ce que les exclusions de contenu d'une police standard laissent réellement non couvert. La plupart des polices de responsabilité civile générale ont été rédigées avant que tout cela n'existe, et la réponse honnête d'un courtier à qui on n'a jamais posé la question directe est généralement une supposition, pas un fait.

Le fil conducteur de tout cela est assez simple pour être répété à quiconque dans l'équipe pense que le bot est un problème séparé de l'entreprise : tous les tribunaux qui ont examiné cette question jusqu'à présent ont traité le chatbot comme l'entreprise elle-même qui parle, de sa propre voix, à travers une interface différente. Construisez les garde-fous, les journaux et l'habitude de contrôle comme si un employé nouveau et un peu trop sûr de lui venait de commencer à répondre à chaque ticket toute la nuit, parce que juridiquement, c'est presque exactement ce qui s'est passé.