VentureBeat encuestó a 108 empresas de más de 100 empleados en tres oleadas entre enero y marzo de 2026 sobre cómo gestionan sus agentes de IA en producción. El resultado: solo 1 de cada 10 puede detectar automáticamente cuándo uno de esos agentes falla. El 79% de las empresas encuestadas ya ha pagado por las consecuencias de un agente que se salió de control, y el 88% registró al menos un incidente de seguridad relacionado con agentes de IA en los últimos doce meses.
La cifra que más debería preocupar a una empresa mediana no es el fallo en sí, es el silencio alrededor de él. Solo el 21% de las empresas encuestadas tiene visibilidad en tiempo real de lo que hace un agente mientras trabaja. El resto se entera del problema cuando ya ha generado una factura, un cliente enfadado o una filtración de datos. Con OpenAI, Salesforce y Anthropic compitiendo por meter agentes en cada proceso, la pregunta de quién vigila al agente se queda casi siempre sin responder.
El riesgo más temido por las empresas encuestadas, y el que más ha crecido oleada tras oleada, es que un agente acceda a herramientas o datos para los que no tiene permiso: pasó del 42% de las respuestas en enero al 50% en marzo. No es un problema de que la IA se rebele, es un problema de permisos mal configurados y de nadie revisando qué conecta cada agente con qué sistema, algo parecido a lo que ya reportó OpenAI esta semana sobre el descontrol de plugins en ChatGPT Business.
Antes de dar autonomía a un agente de IA en un proceso crítico -facturación, atención al cliente, RRHH- exige que la herramienta incluya un registro de lo que hizo y por qué, no solo del resultado final. Y revisa, aunque sea una vez al mes, qué sistemas y datos tiene realmente permiso para tocar.
La pregunta que debería hacerse cualquier responsable de operaciones no es qué puede hacer el agente. Es quién se entera cuando lo hace mal.