El 10 de junio, el equipo de investigación de Writer publicó un hallazgo concreto: los sistemas de memoria de IA degradan la precisión del modelo al aplicar contexto almacenado a preguntas que no tienen relación con ese contexto. Las herramientas de compresión Mem0 y Zep intensifican el efecto.
En uno de los tests, cuando el sistema registró que el libro favorito del usuario era "Station Eleven", el modelo empezó a nombrarlo en respuesta a preguntas de libros generales sin ninguna relación. El efecto aumentaba cuanto más memoria acumulaba el sistema.
El experimento financiero es el relevante para operaciones. Los investigadores introdujeron conceptos financieros erróneos en la memoria del usuario. Sin memoria: el modelo evaluó correctamente que una empresa tenía alta rotación de clientes. Con memoria activa: aceptó los errores del usuario y generó un análisis incorrecto. La personalización había convertido al asistente en una cámara de eco.
Si tu empresa usa un asistente de IA para análisis de negocio, soporte interno o atención al cliente, y ese asistente acumula contexto del usuario, puede estar aplicando ese contexto donde no corresponde. El sistema aprende preferencias pero no sabe cuándo ignorarlas.
La investigación establece un patrón documentado: la memoria comprimida introduce sesgos cuando el sistema no puede distinguir contexto relevante de contexto irrelevante. "All memory systems fundamentally struggle to distinguish relevant context from irrelevant anchors", concluye el equipo de Writer. El artículo no cuantifica el porcentaje exacto de degradación.
Si tienes desplegado un agente con memoria persistente para tareas operativas críticas, testéalo: haz la misma consulta con y sin memoria activada. Si los resultados difieren en decisiones de negocio, establece un protocolo de QA antes de confiar en esos outputs.
