Una encuesta de VentureBeat Pulse a 157 empresas confirma un problema que muchos equipos ya sospechaban: dar autonomía a un agente de IA y confiar en que pasó las pruebas internas no es garantía de que funcione bien con un cliente real. La mitad de las empresas encuestadas ha llevado a producción un agente que superó su evaluación interna y aun así falló de cara al cliente. Solo una de cada veinte confía plenamente en que sus pruebas automatizadas detecten esos fallos antes de que ocurran.
Para Marta esto es una alerta concreta antes de dar más autonomía a cualquier agente que ya tenga funcionando en la empresa. El estudio encuentra que dos de cada tres empresas ya permiten, o están diseñando activamente, desplegar cambios de agentes a producción basándose solo en la evaluación automatizada, sin que una persona revise el resultado antes de que llegue al cliente. Cuantas más tareas delega un agente sin supervisión, más pesa la pregunta de qué pasa el día que la evaluación automática no detecta el fallo.
El estudio no distingue cuánto cambia esto según el tamaño de la empresa, y ahí está la lectura que le falta. Una empresa grande puede permitirse un equipo dedicado a revisar evaluaciones de agentes. Una empresa mediana normalmente no lo tiene, así que el riesgo de un fallo no detectado es mayor, no menor, aunque tenga menos agentes en marcha.
La recomendación práctica es sencilla de aplicar esta semana: antes de dar autonomía completa a un agente para una tarea de cara al cliente, añade un punto de revisión humana durante al menos las primeras semanas de producción, aunque haya superado todas las pruebas internas. No hace falta un equipo de evaluación completo, basta con que una persona revise una muestra de las respuestas del agente antes de escalar su autonomía.
Vale la pena vigilar en los próximos meses si las plataformas de automatización como n8n, Make o Zapier añaden algún tipo de checkpoint de revisión humana nativo para agentes en producción, porque eso indicaría que el mercado ya está tratando este problema como un fallo de diseño, no como una anécdota puntual.