Anthropic y Accenture anunciaron el 18 de septiembre una asociación para instalar evaluadores externos dentro de Anthropic. A través de su filial Faculty, Accenture construye un equipo que hará red-teaming de los modelos, evaluará su alineación y probará las salvaguardas de seguridad. Ambas compañías esperan invertir al menos 1.000 millones de dólares cada una a lo largo de cinco años.
Lo distinto de este acuerdo no es el dinero, es el acceso. Los evaluadores de Faculty entran con permisos de nivel empleado: pueden ver los modelos mientras se entrenan, hablar directamente con el personal de Anthropic y observar decisiones de despliegue en tiempo real. Ninguna auditoría externa que solo use la interfaz pública llega tan adentro.
Para Marta, que necesita defender ante dirección la elección de un proveedor de IA, esto cambia el tipo de garantía que puede exigir. Hasta ahora, la seguridad de un proveedor era una cláusula de contrato y una promesa de marketing. Ahora hay un tercero con acceso interno real que puede confirmarla o desmentirla, aunque de momento solo para Anthropic.
El propio anuncio reconoce que todavía no hay estándares comunes sobre cómo debe funcionar el acceso de un evaluador ni cómo se reportan los hallazgos. Anthropic financia la iniciativa directamente por ahora, con la idea de que a largo plazo la financiación venga de fondos conjuntos o públicos, para que el evaluador no dependa económicamente de la empresa que audita.
Esto llega en la misma semana en que Dario Amodei, consejero delegado de Anthropic, pidió frenar el ritmo de desarrollo de la IA e introducir supervisión externa. La compañía dice haberse comprometido de forma unilateral a este primer paso, y anima al resto del sector a seguirlo.
Si tu empresa depende de un proveedor de IA para procesos críticos, pregúntale directamente si permite evaluación externa con acceso real, no solo un sello de cumplimiento. La respuesta, o el silencio, dice más sobre el riesgo real que cualquier página de seguridad en su web.