Dario Amodei, consejero delegado de Anthropic, publicó el 12 de septiembre un ensayo que pide un freno al desarrollo de IA sin renunciar a la ventaja competitiva de Estados Unidos, según recogió CNBC. Horas después, Sam Altman, de OpenAI, dijo estar de acuerdo con parte del planteamiento y anunció que su empresa incorporará revisores externos independientes para evaluar sus propias prácticas de seguridad. Elon Musk también se sumó al mensaje. Es la primera vez que estos tres, habitualmente enfrentados entre sí, coinciden en público sobre este punto.
La propuesta de Amodei tiene tres partes: revisores externos permanentes para los laboratorios de IA, estándares de seguridad compartidos con una vía de excepción antimonopolio para que coordinarse en esto no se considere colusión, y cooperación internacional para evitar una carrera de capacidades sin control. Ninguna de las tres es una promesa de frenar el desarrollo mañana: son cambios de gobernanza a nivel de industria, no un anuncio de producto.
Para Marta esto importa más que un titular de prensa. Cuando los laboratorios que probablemente ya usas o evalúas empiezan a hablar en público de revisores externos y estándares compartidos, es una señal de que la exigencia de auditoría y cumplimiento a los proveedores de IA va a subir en los próximos meses. Sam Altman confirmó además que OpenAI descarta salir a bolsa este año, citando la necesidad de tomarse con calma la seguridad antes que la presión de mercado.
El caso de uso aquí no es una herramienta que instalar, es un criterio de compra. Si tu empresa está evaluando o renovando un contrato con un proveedor de IA, esta es la primera vez que tienes cobertura pública de que hasta los propios fabricantes reconocen que faltan controles externos. Es un argumento legítimo para pedirle a tu proveedor actual su política de auditoría externa, no solo su ficha de producto.
Conviene ser conservador con lo que esto significa a corto plazo: es una declaración de intenciones y un acuerdo informal entre consejeros delegados, no una regulación aprobada ni un cambio de producto inmediato. Nada de esto obliga legalmente a nadie todavía, y el propio sector tiene incentivos comerciales para que la conversación se quede en gesto público.
Lo que hay que vigilar en los próximos 30 a 90 días es si esta propuesta de revisores externos se traduce en algo verificable, como una auditoría publicada o un estándar concreto, o se queda en un ensayo y una rueda de prensa. Hasta entonces, trátalo como una señal de hacia dónde va la exigencia regulatoria, no como una garantía ya cumplida por tu proveedor.