Goodfire lanzó el 8 de octubre una forma barata de monitorizar agentes de IA desde dentro: monitores que no leen lo que escribe el agente, sino su actividad interna mientras trabaja. Están disponibles para clientes de Baseten, una plataforma que aloja modelos para otras empresas, y según la startup cuestan una fracción de lo que cuesta revisar cada paso con otro modelo de IA.
Para Marta, el interés no está en montarlo ella misma: es una pregunta nueva que hacerle a su proveedor de IA o de automatización. Si contrata agentes que actúan en nombre de su empresa, puede exigir que le expliquen cómo detectan un comportamiento fuera de lo previsto antes de que cause un problema, no después.
El método funciona como un control de aeropuerto: unas sondas revisan la actividad interna del modelo en cada paso, y solo cuando algo parece sospechoso se activa una revisión más cara y detallada. Según Goodfire, monitorizar un millón de interacciones cuesta unos 185 dólares con sondas, frente a más de 5.000 dólares con un modelo barato revisando cada paso, o 200.000 dólares con uno de gama alta. Son cifras de la propia empresa, sin verificación independiente.
La limitación práctica es clara: esto nace pensado para modelos abiertos que se pueden descargar y manipular, y se ofrece a través de un proveedor de inferencia, no como un panel que cualquier equipo sin perfil técnico pueda activar solo. No es una herramienta para implementar esta semana en una pyme, es un argumento para presionar a quien ya vende agentes de IA.