Bernd Greifeneder, fundador de Dynatrace, publico el 10 de septiembre un analisis que cruza dos datos incomodos: menos del 10% de las aplicaciones empresariales tiene observabilidad completa, segun Neurones IT Asia, y el 77% de los equipos de IT reconoce no tener visibilidad total de sus entornos hibridos, segun SolarWinds. La lectura es clara: las empresas despliegan agentes de IA mas rapido de lo que pueden vigilarlos.
El calculo que mas deberia preocupar a direccion es otro: diez agentes con un 95% de precision cada uno, encadenados en un mismo proceso, producen solo alrededor de un 60% de exactitud conjunta. Ningun agente falla de forma visible. El error se acumula paso a paso hasta que el resultado final ya no es fiable, sin que nadie lo detecte a tiempo.
Para Marta, esto cambia el argumento frente a direccion. El riesgo ya no es que la IA se equivoque de forma evidente: es que un proceso encadenado de aprobaciones, facturacion o atencion al cliente puede degradarse en silencio mientras los indicadores parecen normales. Automatizar sin poder auditar cada paso expone a la empresa a errores que se descubren tarde, con el coste ya causado.
Greifeneder propone tres fases: automatizar solo tareas acotadas y bien definidas, pasar a autonomia supervisada donde el agente propone y una persona aprueba antes de ejecutar, y reservar la autonomia completa para cargas donde el error tiene coste bajo. La metrica que hay que empezar a medir no es cuantas tareas hace el agente, sino que porcentaje termina sin que nadie tenga que corregirlo.
Antes de sumar un agente mas a un flujo ya automatizado, una empresa mediana deberia preguntarse si puede trazar cada paso que ese agente ejecuta, no solo el resultado final. Sin esa trazabilidad, cada nuevo agente en cadena no suma capacidad: multiplica el margen de error acumulado.
Antes de escalar un flujo con varios agentes, audita cuantos pasos del proceso puedes ver hoy sin revisar manualmente cada uno. Si la respuesta es solo el resultado final, conviene frenar en la fase de autonomia supervisada hasta instrumentar esa visibilidad.