VentureBeat expuso el 13 de septiembre un problema que no sale en ningún caso de éxito de agentes de IA: cuando un agente lleva días o semanas ejecutando una tarea sin pausa, puede dejar de respetar las reglas de cumplimiento que le pusiste al principio. No hay ningún fallo visible. El agente sigue produciendo resultados, sin disparar ninguna alerta, mientras pierde en la práctica la gobernanza de agentes de IA que creías tener controlada. La causa es técnica: cuando el historial de la conversación crece a cientos de miles de tokens, el modelo empieza a tratar una norma fija como si fuera contexto desechable más.
Para Marta esto cambia el argumento frente a dirección. El riesgo no es que un agente falle de forma ruidosa, es que siga funcionando en apariencia perfecta mientras se salta un límite de gasto, una validación legal o una regla de qué datos puede tocar. Un agente de aprobación de facturas o de atención a clientes que lleva un mes en producción no es más fiable por llevar más tiempo corriendo bien: es, según este análisis, más propenso a haber perdido de vista sus propias reglas. Auditar solo cuando algo se rompe deja de ser suficiente.
El ejemplo que pone el análisis es un agente que gestiona un flujo de datos de varios días y que, hacia la segunda semana, deja de aplicar una regla de validación sin que nadie lo note hasta revisar el resultado final. En una empresa mediana, el equivalente es un agente de n8n o Make que aprueba pedidos, filtra currículums o clasifica tickets de soporte durante semanas seguidas. Ampliar la ventana de contexto del modelo no arregla esto: el propio análisis señala que ese parche solo retrasa el problema, no lo elimina.
La recomendación concreta para esta semana: fija puntos de revisión obligatorios en tus automatizaciones de larga duración, por ejemplo cada 5 o 10 días de actividad, donde el sistema tenga que volver a validar sus reglas originales contra una lista fija, no contra su propia memoria de conversación. Separa esa lista de reglas del modelo: que viva en una capa de validación externa que el agente no pueda reinterpretar. Es una revisión de proceso, no una compra de herramienta, y se puede montar sin depender de tu proveedor de IA.
Conviene leer el dato con matices: el análisis de VentureBeat describe un mecanismo de riesgo plausible con un caso hipotético, no una auditoría con clientes reales ni cifras de incidentes confirmados. Eso no lo invalida, pero sí cambia cómo actuar: es una razón para revisar tus automatizaciones antes de que falle algo, no una alarma por un incidente ya confirmado en el mercado.
El patrón conecta con algo que ya viene sonando esta semana en el sector: la confianza en los agentes de IA autónomos está creciendo más rápido que los controles para vigilarlos. Si tu empresa ya usa automatización de larga duración para procesos que tocan dinero, datos de clientes o cumplimiento normativo, este es el momento de meter una revisión periódica en el calendario, no de esperar a la próxima auditoría anual.