Los modelos de IA que deciden sin explicar por qué

Modelos de decisión como Jev prometen respuestas rápidas y baratas, pero no explican por qué deciden. Qué preguntar antes de usarlos en procesos críticos.

Análisis · 2 min de lectura

Varios proveedores han lanzado modelos de decisión: Jev, Clef de Cloudflare y la Decisions API de OpenAI. Devuelven un valor estructurado, verdadero o falso, con una probabilidad de confianza. No incluyen razonamiento. Son más rápidos y más baratos que un modelo de lenguaje tradicional, y por eso crecen rápido: según datos de Ramp, Jev ya está entre los modelos más usados por las empresas que gestiona esta plataforma de gasto.

Un modelo de lenguaje normal explica sus supuestos, pide una aclaración si falta contexto o justifica su respuesta. Un modelo de decisión no. Entrega un sí o un no, sin trazas ni registro de por qué llegó ahí. Para tareas rutinarias eso es una ventaja de coste. Para una decisión que alguien tenga que justificar después, en una auditoría, ante un cliente o ante dirección, la falta de explicación traslada todo el riesgo a quien diseñó el sistema, no al modelo.

El uso que funciona hoy es acotado: clasificar tickets de soporte y derivarlos al equipo correcto, o actuar como juez automático que compara una respuesta con un resultado de referencia ya definido. En ambos casos existe un criterio externo para comprobar si el modelo acertó, y el coste de un error puntual es bajo. Ahí el ahorro en tokens compensa la falta de explicación, porque nadie necesita saber el por qué, solo si el resultado fue correcto.

Antes de llevar un modelo de decisión a algo más sensible, aprobar un crédito, descartar un candidato, cerrar una cuenta, conviene exigir una pregunta simple al proveedor: qué registro queda si alguien pregunta por qué se decidió así. Si la respuesta es ninguno, ese proceso necesita seguir con un modelo que razone, aunque cueste más por token. El ahorro no compensa si la decisión toca a una persona y hay que responder por ella.

La limitación no es solo técnica. El anuncio de estos modelos rara vez menciona qué pasa cuando el contexto que recibe el modelo está incompleto. Un modelo de lenguaje tradicional pregunta; uno de decisión no pregunta, decide con lo que tiene. Eso traslada la responsabilidad de empaquetar bien el contexto a quien construye el flujo de trabajo, no al modelo, y es un cambio de trabajo real para cualquier equipo que automatice procesos con estas herramientas.

Para Marta, esto es un punto concreto que añadir a cualquier checklist de gobernanza de IA antes de aprobar un nuevo proveedor: preguntar explícitamente por la trazabilidad de cada decisión automatizada, no solo por su precisión. Para Carla, el ahorro en tokens solo es real si el proceso elegido tolera una tasa de error sin explicación. Úsalo donde ya exista una forma de verificar el resultado, no donde la única justificación sea el propio modelo.

Fuente: VentureBeat

Newsletter diaria

Una noticia al día. La que importa.

  • Lunes a viernes
  • 3 minutos de lectura
  • Sin spam