PayPal separa el conocimiento de negocio del modelo de IA

PayPal subio la precision de su asistente interno del 43% al 95% sin cambiar de IA. La clave para tu empresa: donde vive el conocimiento.

Casos de uso · 1 min de lectura

PayPal dice que la precision de su asistente interno de datos paso del 43% al 95% en preguntas de negocio, sin cambiar el modelo de lenguaje. Lo conto Ren Zhang, responsable de producto de IA de la empresa, en una conferencia sobre infraestructura de agentes. El asistente ya tenia acceso a los datos correctos. El fallo estaba en la definicion: ante una pregunta sobre clientes nuevos, aplicaba un criterio de negocio equivocado.

Para Marta, el dato que importa no es el 95%, una cifra de la propia PayPal sin auditoria externa, sino el metodo: separaron el conocimiento de negocio del modelo. PayPal probo varios modelos para su asistente de cara al cliente y redujo el fine-tuning intensivo, porque mantenerlo cada vez que sale una version nueva sale caro y exige personal especializado. Es la pregunta que ningun proveedor de IA te hace antes de firmar: ese conocimiento, ¿vive dentro del modelo o fuera de el?

En la practica, el equipo de PayPal documento sus definiciones de negocio, sus consultas de referencia y los procedimientos de analisis que ya usaban sus analistas -como investigar una caida en el uso de passkeys- y los convirtio en una capa aparte, consultable por el asistente. Ese stack de reglas, no el modelo, es lo que la empresa trata como activo real. Cuando cambien de modelo, el conocimiento se queda.

Antes de evaluar otro proveedor de IA, pide a tu equipo una lista de las diez preguntas de negocio que el asistente falla hoy, y por que. Casi siempre el problema es una definicion mal puesta, no el modelo. Documentarla primero sale mas barato que migrar de proveedor despues.

Fuente: VentureBeat

Newsletter diaria

Una noticia al día. La que importa.

  • Lunes a viernes
  • 3 minutos de lectura
  • Sin spam