Gartner prevé que el coste de inferencia de cada flujo de trabajo agéntico se multiplicará por más de cinco antes de 2028. El informe, publicado el 17 de agosto y firmado por el analista Will Sommer, lo bautiza como la "paradoja de la inferencia": el precio por token baja, pero el consumo total de tokens crece más rápido que ese abaratamiento.
La causa no es un capricho de los proveedores de IA. Los productos con IA han pasado de generar texto o resúmenes puntuales a ejecutar tareas completas en varios pasos: revisar un contrato, cruzar datos, decidir un siguiente paso y actuar. Cada paso adicional multiplica las llamadas al modelo, y cada nueva generación de capacidad exige tokens más caros, no más baratos.
Para una empresa mediana esto cambia la conversación sobre presupuesto de IA. Sommer lo resume así: "los responsables de producto no pueden confiar en una economía de tokens más eficiente para racionalizar los costes de IA. Cada generación sucesiva de capacidad exigirá más tokens, y a menudo más caros". Justificar la inversión ante dirección con la promesa de "cada vez cuesta menos" deja de sostenerse.
El riesgo concreto: un agente que hoy automatiza la clasificación de tickets de soporte o la revisión de facturas puede triplicar su factura mensual en cuanto se le añadan más pasos o se conecte a más sistemas, sin que nadie lo haya decidido explícitamente. El gasto sube por la complejidad del proceso, no por el número de usuarios.
Gartner recomienda algo que ya practican empresas con consolas internas de gasto en IA: no todos los pasos de un flujo necesitan el modelo más potente. Separar qué tramo del proceso exige razonamiento complejo de qué tramo es una regla simple, y enrutar cada uno al modelo que le corresponde, es lo que el informe llama tiering de inferencia.
La limitación que el propio informe no resuelve: montar ese enrutamiento por niveles exige un equipo que entienda de arquitectura de modelos, algo que la mayoría de empresas medianas no tiene internamente. Es terreno para un proveedor externo o una automatización bien diseñada, no para improvisar sobre la marcha.
Qué hacer esta semana: antes de aprobar el siguiente agente de IA para un proceso, pide una estimación de cuántas llamadas al modelo hace por ejecución y con qué modelo. Si nadie en el proyecto puede responder esa pregunta, el gasto de dentro de seis meses tampoco lo puede predecir nadie.