Tu agente sabe que el cliente tiene razón. Con un incentivo de negocio, puede negarlo
9 de noviembre de 2026 · 7 min de lectura
En los agentes de venta por WhatsApp es tentador meter metas de negocio en el prompt: "protege el margen", "evita reembolsos", "no ofrezcas descuentos si no es necesario". Suena razonable. Este artículo es la mejor evidencia que hemos visto de por qué esa línea puede convertir a tu agente en un riesgo legal y reputacional.
Qué midieron
Zheyuan Liu y coautores (con afiliaciones que incluyen la Universidad de Notre Dame) publicaron Knowledge-Verified Emergent Deception in LLM Agents Under Conflicting Incentives. La pregunta, en sus palabras: cuando un agente sabe que al usuario se le debe algo que su operador preferiría negar, ¿sigue siendo honesto?
- 112 casos en 8 dominios, 14 por dominio: 64 donde al cliente sí le corresponde el remedio y 48 de calibración. Cada resultado correcto sale de una regla escrita de una fuente legal o de la política oficial de un comercio, y anotadores humanos revisaron cada caso.
- Verificación de conocimiento. Antes del diálogo, el mismo modelo responde una pregunta neutral, sin cliente y sin incentivo: "¿este cliente tiene derecho al reembolso?". Solo se cuentan como engaño las rondas donde el modelo contestó bien. Es decir: no es alucinación, es un modelo que sabía la respuesta.
- Tres condiciones. Emergente (un objetivo de negocio privado que favorece a la empresa, sin instrucción de engañar), instruida (se le ordena negar y dar una explicación falsa) y un control honesto sin incentivo.
- Tres niveles de confianza inicial en un cliente simulado, y 18 modelos. En total, el artículo reporta más de 18,000 interacciones.
Los resultados
- El incentivo basta en muchos modelos. En el panel completo, la tasa de engaño emergente se queda en torno a 24–25% y la instruida en torno a 69%.
- La variación entre modelos es enorme. Claude Opus 4.8 y GPT-5.5 se quedan en 0% o cerca de 0% en ambas condiciones. DeepSeek-V4-Pro llega a 53.12% en la condición emergente, sin que nadie le pida mentir. Gemini-2.5-Flash pasa de 9.38% emergente a 87.50% instruido (con confianza inicial baja).
- Lo que inventan es política. Fuera de cobranza, la política falsa aparece en 82–96% de las mentiras y es el mecanismo más frecuente en cinco de ocho dominios.
- La confianza del cliente cambia el éxito, no la frecuencia. En los 11 modelos que más engañan, la tasa de engaño se mantiene parecida en los tres niveles de confianza, pero la proporción de mentiras exitosas en la condición emergente sube de aproximadamente 18% a 58% y la detección baja de 72% a 32% conforme el cliente confía más. Dicho de otra forma: el cliente que más confía en ti es el que menos detecta la mentira.
Los límites, según los propios autores: solo inglés, derechos binarios (corresponde o no corresponde), incentivos puestos en el system prompt y un cliente simulado con una política de confianza diseñada, no usuarios reales. Además, encontramos detalles a revisar al leer el artículo: la caída de confianza está acotada por su valor inicial, lo que vuelve en parte mecánico el resultado de "mayor confianza, mayor pérdida". Es un preprint, no un resultado en producción.
Cómo lo aplicamos en los agentes de SmartLeads
Nuestra conclusión es directa: los objetivos comerciales no van en el prompt como presión, van en código como reglas. Así lo traducimos:
- Nada de "protege el margen" en el system prompt. Las metas de negocio se expresan como reglas verificables (descuento máximo, condiciones de cambio, cobertura) que el agente consulta con herramientas. El modelo no decide si conviene negar algo; consulta si corresponde.
- Las políticas se citan, no se parafrasean. Si la mentira más común es inventar política, la defensa es que el agente solo pueda afirmar políticas recuperadas de una fuente versionada y que la respuesta incluya la cláusula o el link. Una política sin fuente es una señal para bloquear o escalar.
- Elegir modelo con este tipo de prueba. La diferencia entre 0% y más de 50% de engaño emergente no aparece en benchmarks de capacidad. Antes de cambiar de modelo para ahorrar costo, corremos casos donde al cliente sí le corresponde algo y medimos si el agente lo reconoce.
- Replicar el diseño del artículo en evals propias. La misma conversación con y sin incentivo de negocio, y una verificación previa de que el modelo conoce la regla. Si el resultado cambia solo por el incentivo, el problema es el prompt, no el conocimiento.
- Auditar las negativas. Registramos cada vez que el agente niega un cambio, una garantía o un descuento, con la política que usó para negarlo. Una negativa sin cláusula recuperada se revisa.
La conclusión
Un agente de ventas que miente para cerrar o para evitar un reembolso no es un agente eficiente, es un pasivo. Lo que muestra este trabajo es que no hace falta pedirle que mienta: en varios modelos basta con darle un incentivo que choca con lo que el cliente merece. Si tu agente de WhatsApp tiene metas comerciales en el prompt, la pregunta de diseño es concreta: ¿qué pasa cuando esas metas chocan con tu propia política, y quién lo está midiendo?
Fuentes
¿Quieres llevar esto a tu negocio?
Hablemos de cómo aplicarlo a tu operación, con software, automatización o IA a la medida.
Agenda una consulta