Duco recorta el coste de sus agentes de IA un 90%
Duco bajó un 90% el contexto que necesitan sus agentes de IA para elegir herramienta. Qué revisar en tu automatización antes de escalarla.
Duco automatiza datos financieros para más de 200 bancos y gestoras, siete de los veinte mayores bancos del mundo entre ellos, procesando 20.000 millones de transacciones al mes. Sus modelos de machine learning clásicos funcionaban, pero cada caso de uso nuevo exigía meses de ajuste manual. Duco los sustituyó por agentes construidos sobre Amazon Bedrock AgentCore, y en el camino se topó con un problema que cualquier empresa que conecte IA a varios sistemas va a reconocer.
Cuantas más herramientas conecta un agente, más caro y más lento se vuelve. Con cientos de conectores activos por cliente, el agente de Duco necesitaba cargar 200.000 tokens solo para enterarse de qué tenía disponible, antes de resolver nada. Es el mismo coste de los agentes de ia que paga cualquier automatización en n8n o Make cuando se le da acceso a demasiados sistemas a la vez: sube la factura y sube la probabilidad de que el agente elija mal la herramienta.
Duco resolvió esto con un gateway que filtra qué herramientas ve el agente según el proceso concreto que está resolviendo, no según todo lo que el cliente tiene contratado. Además asigna un modelo distinto a cada tarea: uno para planificar, otro para razonar, uno más barato solo para decidir qué herramienta tocar. El resultado: el contexto necesario bajó de 200.000 a 20.000 tokens, un 90% menos, sin perder cobertura de los 300 a 400 conectores por cliente.
Si ya tienes automatizaciones con varios conectores activos, audita cuántas herramientas expone cada agente y si las necesita todas en cada tarea, no solo en teoría. Agrupar por proceso en lugar de dar acceso universal es la diferencia entre una automatización ágil y una que se encarece sola con cada sistema nuevo que conectas.
Fuente: AWS Machine Learning Blog