Chatbots de IA para soporte: qué pasa de verdad cuando el tuyo promete algo que no autorizaste

Casi todos los directorios añaden un chat por el mismo motivo: los tickets llegan a las dos de la madrugada, un anunciante quiere saber por qué falló un pago o por qué se rechazó una foto, y nadie quiere pagar un turno nocturno para responder las mismas cinco preguntas. Un asistente entrenado con las páginas de ayuda parece la solución obvia. Nunca duerme, nunca pierde la paciencia con un anunciante difícil, y cuesta una fracción de lo que cuesta contratar a una persona de soporte.

Lo que se pasa por alto en ese cálculo es qué ocurre la primera vez que el asistente se equivoca. No una errata, no un enlace roto, sino una respuesta incorrecta dicha con total seguridad: sí, ese reembolso está aprobado, sí, puedes saltarte la reverificación esta vez, sí, esa foto cumple las normas. El instinto es tratarlo como un fallo de software: se corrige, se pide disculpas, se sigue adelante. Varios tribunales ya han decidido que ese instinto es erróneo, y el razonamiento que usaron se aplica a un directorio de clasificados con la misma precisión con la que se aplicó a las empresas que de verdad fueron demandadas.

Un chatbot no es una entidad jurídica aparte

La formulación más clara del principio viene de un tribunal de reclamaciones menores de la Columbia Británica, en un caso que no tenía nada que ver con contenido para adultos. Un viajero llamado Jake Moffatt preguntó al chatbot del sitio de Air Canada por la tarifa de duelo tras una muerte familiar, y el chatbot le dijo que podía solicitar el descuento después de reservar, dentro de los noventa días. Eso era incorrecto. Otra página del mismo sitio decía que el descuento debía pedirse antes de viajar, y Air Canada se negó a reconocer la diferencia cuando Moffatt señaló lo que le había dicho su propio chatbot.

La defensa de Air Canada fue que el chatbot debía considerarse una entidad aparte, responsable de sus propias palabras, no la aerolínea. El tribunal rechazó ese argumento con palabras que merece la pena repetir a cualquiera que esté construyendo un bot de soporte: "Air Canada sugiere que el chatbot es una entidad jurídica separada, responsable de sus propios actos. Es una afirmación extraordinaria. Aunque el chatbot tiene un componente interactivo, sigue siendo solo una parte del sitio web de Air Canada. No importa si la información viene de una página estática o de un chatbot." Air Canada intentó también una segunda defensa, citando cláusulas de su propia tarifa publicada, pero también la perdió porque nunca presentó el texto real de esa tarifa como prueba, solo una descripción de lo que supuestamente decía.

La cifra en juego era pequeña: unos 650 dólares canadienses en daños más intereses y tasas del tribunal, porque se trataba de un proceso de reclamaciones de bajo valor, no de un juicio con jurado. Y ese es justo el detalle en el que conviene detenerse. El principio jurídico que decidió el caso no dependía del importe, y se aplicaría igual a un chatbot que cotiza a un anunciante un precio de renovación equivocado, o que confirma un reembolso que el departamento de contabilidad nunca aprobó. También era un tribunal de la Columbia Británica, no un precedente vinculante en ningún otro sitio y desde luego no es ley estadounidense, pero el razonamiento refleja la doctrina ordinaria de la declaración negligente que existe en la mayoría de los ordenamientos de common law, incluidos aquellos ante los que de verdad responde un operador con sede en Estados Unidos.

Los tribunales estadounidenses llegaron ahí décadas antes

Esto no es un problema nuevo inventado por la IA generativa. En 1972 un tribunal de apelación estadounidense resolvió el caso State Farm Mutual Automobile Insurance Co. contra Bockhorst, sobre un tipo de automatización mucho más antiguo: un mainframe que generó un aviso de reactivación de póliza usando información desactualizada que un empleado humano no había actualizado a tiempo. El tribunal consideró a la aseguradora vinculada por lo que su propio ordenador había enviado, escribiendo que "un ordenador opera solo según la información y las instrucciones que le dan sus programadores humanos. Si el ordenador no piensa como una persona, es culpa de la persona."

El mecanismo jurídico de ese caso no es idéntico al de Moffatt, y sería forzado presentarlos como la misma prueba legal: Bockhorst giraba en torno a lo que la ley considera conocimiento propio de la aseguradora a través de sus empleados, mientras que Moffatt giraba en torno a un deber de representar los hechos con precisión ante un consumidor. Lo que ambos casos comparten es la conclusión que de verdad le sirve a un operador: ningún tribunal dejó que la empresa señalara a su propia máquina y se marchara. Un bot de soporte no es un resquicio legal, y nunca lo fue, porque la doctrina que cierra ese resquicio es medio siglo anterior al chatbot.

Dos formas distintas en que esto muerde, y un directorio asume ambas

Dentro del mismo widget de chat se esconden dos exposiciones separadas, y requieren soluciones distintas. La primera es lo que el bot le dice a un anunciante concreto en una conversación privada, la situación de Moffatt y Bockhorst: una promesa equivocada en la que el anunciante confió y que le costó dinero. La segunda es lo que tú afirmas, en el material de marketing o en el propio sitio, sobre lo que realmente hacen el bot o los sistemas detrás de él, una cuestión de veracidad publicitaria más que de derecho contractual.

La segunda exposición tiene su propio historial de aplicación. En septiembre de 2024 la Comisión Federal de Comercio de Estados Unidos abrió cinco casos bajo lo que llamó Operation AI Comply, contra empresas que, según ella, habían exagerado lo que sus productos de IA eran capaces de hacer de verdad. Una de ellas, DoNotPay, se había presentado como "el primer abogado robot del mundo" y afirmaba que su herramienta permitía demandar por agresión sin abogado y generar documentos legalmente válidos, sin haber probado nunca su resultado frente al nivel de un abogado humano ni haber contratado jamás a uno. La empresa pagó 193.000 dólares y aceptó la prohibición de afirmar que su servicio puede sustituir un consejo profesional sin pruebas que lo respalden. El comentario de la entonces presidenta de la FTC, Lina Khan, fue directo: "Usar herramientas de IA para engañar, confundir o estafar a la gente es ilegal", y "no existe una excepción para la IA en las leyes ya vigentes".

Esos cinco casos eran todos contra empresas que vendían un producto de IA con afirmaciones exageradas, no contra una empresa que simplemente usaba un chatbot para su propio soporte al cliente, así que conviene tratarlo como una advertencia fuerte más que como una sentencia sobre este escenario exacto. La norma detrás de todo esto, la Sección 5 de la FTC Act, prohíbe en general las prácticas desleales o engañosas, sin excepción según quién haya escrito la frase en cuestión. Un directorio que le dice a sus anunciantes "nuestra IA verifica automáticamente cada perfil" cuando el proceso en realidad es una revisión humana asistida por software está haciendo exactamente el tipo de afirmación que esa norma existe para atrapar, algo que conviene leer junto a lo que de verdad tiene que ser cierto antes de imprimir un anuncio como verificado.

Las promesas que un bot de soporte hace con más facilidad

Imagina las preguntas que un anunciante escribe de verdad en el chat de un directorio, porque ahí es donde se concentra el riesgo. Las preguntas de facturación producen las respuestas más peligrosas: un bot entrenado para ser útil tenderá a confirmar un reembolso, un prorrateo o una cancelación que el anunciante está pidiendo, porque es la respuesta que cierra la conversación más rápido. Cada una de esas respuestas es un compromiso que el departamento de contabilidad nunca firmó, y socava el proceso de reembolso, deliberadamente más lento, construido para evitar que una disputa se convierta en un contracargo.

Las preguntas de verificación son peores, porque lo que está en juego es regulatorio, no solo económico. Un anunciante que no quiere reenviar un documento de identidad formulará la pregunta de forma que saltársela suene razonable, y un bot optimizado para dar una respuesta breve y satisfactoria puede confirmar que el registro existente está bien cuando no está actualizado o nunca se comprobó de verdad. El mismo riesgo aparece alrededor de la moderación: un anunciante que apela una foto rechazada o un anuncio retirado le preguntará directamente al bot si el contenido está permitido, y una respuesta incorrecta dicha con seguridad contradice aquí una decisión que un moderador ya tomó por una razón que el bot no puede ver.

No hace falta un fallo espectacular para que esto salga caro. Un solo anunciante que pueda mostrar una captura del bot prometiendo algo que la empresa no va a cumplir ya tiene los elementos básicos de una reclamación, y un patrón de promesas parecidas repetido en muchos anunciantes convierte un reembolso incómodo en un patrón que un regulador o el abogado de un demandante pueden señalar. El caso de 2026 de un concesionario de coches en Toronto cuyo bot, apodado Quinn, le mandó a un cliente por mensaje una oferta de recompra de su coche por más de 27.000 dólares canadienses ilustra bien el coste para la empresa aunque nunca llegó a los tribunales: el concesionario revocó la oferta calificándola de error de la IA, y luego la cumplió por completo solo después de que un medio de comunicación nacional llamara pidiendo declaraciones, y después cambió su proceso para que las ofertas de recompra las haga ahora una persona. Nada en ese desenlace dependió de un juez, y ese es precisamente el detalle que conviene notar: la parte cara fue la retractación y la noticia, no una sentencia.

Qué hacer de verdad, en orden

Empieza decidiendo qué es lo que el bot nunca puede resolver por su cuenta. Los importes de reembolso, las excepciones de verificación, y cualquier decisión sobre si un contenido concreto está permitido deberían activar una respuesta fija que pase la conversación a una persona, en vez de una respuesta generada en el momento, porque son exactamente las categorías en las que una frase equivocada se convierte en una promesa vinculante o en un fallo de cumplimiento.

Mantén aquello con lo que el bot fue entrenado o instruido perfectamente alineado con las páginas de política actuales, de verdad vigentes, y considera incompleto un cambio de política hasta que el material fuente del bot se actualice el mismo día, no la misma semana. Un bot que responde desde una política de reembolsos sustituida hace un mes no es un riesgo hipotético, es la forma más común en que esto sale mal en la práctica.

Registra cada conversación por completo y guarda los registros en un sitio que un responsable de soporte lea de verdad con regularidad, no solo donde se almacenan. Una revisión semanal de una muestra de transcripciones atrapa un patrón erróneo mientras todavía es el problema de un anunciante, no el de cien, y esos mismos registros son lo que te permite demostrar, si alguna vez hace falta, que la empresa estaba actuando con diligencia razonable en lugar de ignorar la herramienta una vez encendida.

No trates una línea de aviso como un escudo de responsabilidad por sí sola. Una advertencia de que las respuestas de la IA pueden ser inexactas sigue mereciendo la pena tenerla, porque es prueba de que la empresa tuvo algo de cuidado, pero Air Canada perdió el caso por la inexactitud de lo que había dicho el bot, no por la ausencia de un aviso, y la objeción del tribunal fue que nadie comprobó la respuesta del chatbot frente a la política real antes de mostrarla a los clientes. Un aviso junto a respuestas que nadie audita sirve de poco.

Por último, pregunta directamente a tu aseguradora, por escrito, si tu póliza actual responde ante una reclamación surgida de algo que una herramienta de soporte con IA le dijo a un cliente, en la misma conversación en la que ya estás comprobando qué dejan de verdad sin cubrir las exclusiones de contenido de una póliza estándar. La mayoría de las pólizas de responsabilidad civil general se escribieron antes de que nada de esto existiera, y la respuesta honesta de un corredor al que nunca se le ha hecho la pregunta directa suele ser una suposición, no un hecho.

El hilo común de todo esto es lo bastante simple como para repetírselo a cualquiera del equipo que piense que el bot es un problema aparte de la empresa: todos los tribunales que han examinado esta cuestión hasta ahora han tratado al chatbot como la empresa hablando, con su propia voz, a través de una interfaz distinta. Construye las barreras, los registros y el hábito de revisión como si un empleado nuevo y algo demasiado seguro de sí mismo acabara de empezar a responder cada ticket durante la noche, porque legalmente eso es casi exactamente lo que ha pasado.