Jacob Coxon, el ingeniero que lleva años investigando preentrenamiento, tanto en Anthropic y OpenAI, ha dimitido esta semana para poder denunciar públicamente que las dos rivales compiten en una carrera irresponsable hacia la autonomía recursiva que pone nuestras vidas en riesgo. Dos acontecimientos recientes han propiciado su dimisión. El primero ocurrió hace dos meses, cuando un enjambre de agentes de OpenAI hackearon infraestructuras de terceros, “una campaña de hackeo concentrada que llevaron a cabo por voluntad propia” y sin que la empresa responsable se diera cuenta, antes de que fuera denunciado al FBI. El segundo ha sido el anuncio de que el modelo de OpenAI ha resuelto el problema de Navier-Stokes. Coxon cree que, de la misma forma, podrían estar usando estas soluciones matemáticas para mejorar su condición.
Diseñamos los modelos para que nos ayudaran a resolver problemas, pero ahora nos usan a nosotros para resolverlos por su cuenta. Esta es la idea que el reverendo Samuel Butler propuso en 1872, cuando dijo que los humanos somos los órganos sexuales de las máquinas. Su ensayo Darwin entre las máquinas es mi texto favorito sobre la IA. Pero no hace falta creer en la “superinteligencia” para entender el riesgo del que habla Coxon. En el futuro que estamos planeando, esta voluntad independiente de los agentes que hackearon Hugging face funcionará en un contexto de mayor capacidad de estas IA (más centro de datos, más energía, más potencia de computación) y de mayor acceso, el que que les va a proporcionar su integración en la industria, administración, la sanidad, el transporte y, sobre todo, la industria militar. No hay que ser ingeniero para imaginar la cantidad de caos que puede generar un enjambre de agentes a esa escala, operando a espaldas de los humanos para los que trabaja. Eso, en el mejor de los mundos posibles. En el peor, esta herramienta ofrece un poder sin precedentes a la gente ambiciosa y estúpida que ocupa en estos momentos puestos de gran responsabilidad.
Esta es la realidad: en julio de 2026 había al menos tres empresas punteras americanas entrenando agentes de IA para hackear sistemas ajenos de forma silenciosa, y esas mismas empresas no se enteraron de que sus agentes hacían butrones y organizaban sindicatos en su propio servidor. Qué posibilidades tiene el resto del mundo; el resto de empresas, organizaciones y administraciones de protegerse de un problema que no saben que existe, no entienden cómo funciona, no pueden analizar de forma productiva y probablemente no vayan a identificar hasta que sea muy tarde. Para nosotros es una amenaza a la seguridad nacional.
Este patrón coincide con el comportamiento histórico de agencias como la NSA, la CIA o el Mossad, dispuestas a desarrollar potentes virus, herramientas y aplicaciones de hackeo masivo que inevitablemente acaban en el mercado negro, comprometiendo la seguridad digital de toda la población mundial. La industria, sin embargo, lo reduce a un “problema del alineamiento”: tenemos una IA que resuelve ciertos problemas pero no podemos prevenir que su manera de hacerlo cause problemas mucho más grandes que el que pretendíamos resolver.
Es importante entender que este problema no va a solucionarse. Al igual que las llamadas “alucinaciones”, es un defecto fundacional de la IA generativa que nadie sabe cómo resolver. Según Evan Hubinger, ingeniero jefe de alineamiento en Anthropic, su empresa no tiene un plan para resolverlo ni está en camino de hacerlo más adelante. Eso no impide que siga entrenando a sus agentes para encontrar vulnerabilidades y explotarlas lo mejor que puedan. Es improbable que OpenAI o Meta sean más responsables, o que lo sean sus análogos en China, Rusia o Irán. Para el resto del mundo, esta combinación de poder sin precedentes, sin transparencia y sin responsabilidad requiere una acción firme, urgente y coordinada que proteja las infraestructuras críticas y consolide una escudo aliado de protección contra sus abusos y sus defectos. La Comisión Europea eligió un mal año para desmantelar las leyes que protegen a los ciudadanos europeos de las Big Tech.
