De prototipo a producción: por qué la mayoría de los "agentes de IA" nunca llegan a producción

Es fácil construir un agente de IA que funciona en una demo. Basta un buen prompt, un par de herramientas conectadas y un caso de uso controlado. Lo difícil — y donde la mayoría de los proyectos de "agentes de IA" se estancan — es que ese mismo sistema siga funcionando cuando la conversación se alarga, los datos vienen sucios, y el usuario hace algo que nadie anticipó.

Por qué el prompt engineering ya no es suficiente

Prompt engineering optimiza una instrucción estática. Context engineering es un problema distinto y más grande: en cada paso de una tarea hay que decidir qué archivos, qué definiciones de herramientas, qué fragmento del historial de conversación y qué hechos recuperados de una base de datos merecen ocupar un lugar en la ventana de contexto — limitada — del modelo. Es la habilidad que reemplazó al prompt engineering como el trabajo central de construir agentes de producción.

Harness engineering: nunca dejes que el modelo llame herramientas directamente

Uno de los patrones más importantes en sistemas de producción: el modelo no ejecuta nada por sí mismo. El modelo regresa una llamada a función estructurada; un "harness" (la capa de orquestación alrededor del modelo) valida ese esquema, revisa permisos, ejecuta la acción real, y solo entonces inyecta el resultado de vuelta al contexto. Esa capa de validación es lo que evita que un modelo alucinando termine borrando datos, mandando un mensaje equivocado, o llamando una API con parámetros inventados.

Los cuatro problemas que rompen agentes en producción

• Context poisoning: un error o dato incorrecto que entra al contexto y contamina todas las respuestas posteriores del agente en esa misma sesión.
• Context overload: demasiada información irrelevante compitiendo por espacio en la ventana de contexto, diluyendo la atención del modelo sobre lo que sí importa.
• Manejo de tokens: conversaciones largas o documentos grandes que exceden el límite de contexto si no se resumen o recortan de forma inteligente.
• Optimización de desempeño: balancear qué tan seguido se consulta una base de datos o herramienta externa contra la latencia y el costo que eso agrega a cada respuesta.

Cómo lo aplicamos en SmartDevs

Cuando construimos un chatbot de WhatsApp con IA o un asistente interno para un cliente, la parte visible — el prompt, la personalidad, las respuestas — es la más rápida de armar. El trabajo real está en la capa que no se ve: qué contexto del negocio ( catálogo, historial del cliente, reglas internas) se inyecta en cada turno, cómo se valida cada acción antes de ejecutarla, y qué pasa cuando algo sale distinto a lo esperado. Esa disciplina es la diferencia entre un chatbot que se ve bien en una demo interna y uno que sostiene conversaciones reales con clientes reales, todos los días, sin supervisión constante.