Durante el pulso de Anthropic con el Departamento de Guerra de Estados Unidos por negarse a ceder el control absoluto de sus herramientas de inteligencia artificial, Donald Trump estalló considerándola una “empresa de IA de izquierda radical fuera de control”. La compañía parecía dispuesta a reducir el uso bélico de sus productos renunciando a un contrato de 200 millones de dólares con el Pentágono y arriesgándose a ir a parar una “lista negra”. Pocos publicistas habrían podido imaginar una propaganda mejor para una campaña de reputación basada en la ética.
Este plante a la administración Trump ha sido uno de los episodios más mediáticos de una intensa campaña de imagen de Anthropic que ha desembocado en el anuncio de la salida a Bolsa de la empresa, antes que su principal competidora, OpenAI. Sin embargo, algunas voces expertas recuerdan que, más allá de la imagen, la práctica de Anthropic no es diferente de la del resto de grandes tecnológicas, de las que pretende distanciarse.
El prólogo de esta historia fue la publicación de la nueva Constitución de Claude (uno de los modelos comercializados por Anthropic), en enero, un esfuerzo por humanizar sus sistemas con la ética y la seguridad por bandera. El primer capítulo, un mes después, fue el desafío al Gobierno de EE UU. El segundo, la advertencia de la amenaza de Mythos, otra familia de productos desarrollados por la empresa, que aplazó su lanzamiento porque se consideraba demasiado peligroso. Inmediatamente llegó el proyecto Glasswing, junto a algunas de las principales tecnológicas, “en un esfuerzo por proteger el software más crítico del mundo”.
El cuarto capítulo ha sido la publicación de la encíclica Magnifica Humanitas. La presencia de Chris Olah, cofundador de Anthropic, en la presentación eximía a la compañía del ataque del Papa León XIV a los tecnoligarcas. Lo siguiente ha sido el meteórico ascenso de la valoración de Anthropic y el anuncio de su salida a Bolsa en otoño.
La desconfianza en la imagen de marca que Anthropic promueve tiene que ver con la distancia entre declaraciones y acciones. “Su postura”, comenta Albert Sabater, director del Observatorio de Ética en Inteligencia Artificial de Cataluña (OEIAC), “es solo parcialmente sincera. Ha rechazado un contrato directo con el Pentágono, pero no ha impedido que Claude sea utilizado por los ejércitos de EE UU e Israel contra Irán”. Mientras, Lorena Jaume-Palasí, fundadora de The Ethical Tech Society, recuerda que “fue Anthropic la que inició su colaboración con Palantir y Amazon para crear una infraestructura de Defensa con el Departamento de Defensa”. Esta experta interpreta el cambio de rumbo de la compañía como un intento de defender su ventaja competitiva: “Empezaron a ofrecer resistencia en el momento en el que Trump quería un acceso completo a todo el código y la arquitectura de Anthropic”.
Las advertencias respecto a Mythos han revitalizado la retórica del “riesgo existencial”. Aunque Albert Sabater aclara que a “lo que realmente nos enfrentamos no es un riesgo existencial, una amenaza que por sí sola pudiera acabar con la humanidad; sino un riesgo de seguridad grave, aunque perfectamente delimitable”. Sin embargo, “tanto la Unión Europea como el gobierno de EE UU han alimentado la narrativa del riesgo existencial porque justifica medidas excepcionales”; mientras que “Anthropic se apoya en esta narrativa porque le otorga legitimidad regulatoria y la posiciona como socio preferente de los gobiernos”, según Sabater.
Por su parte, la economista Cecilia Rikap, responsable de investigación del Instituto para la Innovación y el Propósito Público (IIPP) del University College London, considera que deberíamos preguntarnos “por qué los gobiernos permiten el desarrollo de tecnología que sus propios productores ven como extremadamente peligrosas” y “por qué Anthropic decide invertir recursos en este tipo de modelo”. Para esta experta, eso hace pensar que los ejecutivos de estas compañías “manejan un nivel de irresponsabilidad similar al de un infante o son hipócritas y proclaman peligros como muestra de que su tecnología es la más poderosa y entonces es solo una estrategia de marketing”.
Emily M. Bender, profesora de Lingüística en la Universidad de Washington y coautora de La estafa de la IA, advierte: “La noción de ‘riesgo existencial’ se basa en una fantasía compartida de que los grandes modelos de lenguaje, por el mero hecho de su tamaño, de alguna manera alcancen la conciencia”. Y sentencia: “Sigue careciendo de fundamento científico o real”. Pero, para esta experta, este discurso oculta “los daños reales que se están causando con la producción y el uso de estos sistemas, porque son ‘menos existenciales’ que las fantasías que preocupan a los defensores del riesgo existencial”.
Ahí es donde una pretendida posición empresarial se convierte en operación de marketing para la académica e investigadora estadounidense: “Siguen llevando a cabo las mismas prácticas nocivas que el resto del sector: alquilan el centro de datos de Elon Musk en Memphis, terriblemente contaminante; practican la misma explotación de datos y mano de obra; saquean el ecosistema de la información, etc. Al hacer alarde de mantener unas ‘líneas rojas’ muy poco exigentes, muchos los perciben como la empresa ‘ética’ de este ámbito”.
“Anthropic no está intentando cambiar el paradigma”, asegura Lorena Jaume-Palasí. Ella lo llama “marketing moral”. Albert Sabater disecciona esta estrategia: “Anthropic tiende a mezclar conscientemente el riesgo de seguridad (real, inmediato, técnicamente abordable) con el riesgo existencial (especulativo, remoto, pero mucho más alarmante). Esta ambigüedad le permite exigir medidas de precaución extraordinarias al tiempo que presenta a sus competidores como irresponsables y, por supuesto, al adoptar esta postura, ha encontrado un nicho rentable en el miedo regulado”.
Alimentar esa idea de la empresa de “IA buena” es rentable. Rikap considera que la compañía “se ha dado cuenta de que hay una enorme cantidad de público que se opone a las interferencias autoritarias de un gobierno como el de Donald Trump y se preocupa porque tenga acceso a sus datos y a una tecnología de vigilancia de vanguardia”. Y añade otras dos derivadas como “que sus propios empleados estén empujando en favor de un uso, entre comillas, más ético de la inteligencia artificial” y que se estén preparando para el avance de las regulaciones en muchos países. “Me parece que es un posicionamiento de mercado en un momento en el que hace falta, porque cada vez aparecen más modelos y la variable ‘soy el que lo hace mejor’ no es suficiente”, sentencia Rikap.
El hecho es que los resultados han sido espectaculares. Lorena Jaume-Palasí recuerda el “aumento exponencial” de la valoración de la compañía. En febrero de este mismo año, cuando se produjo el conflicto con el Departamento de Guerra del gobierno estadounidense, la empresa tenía una valoración de 380.000 millones de dólares. Hoy roza el billón de dólares de valoración; ha superado por primera vez, a su competidora más directa, OpenAI; e incluso se ha adelantado en su anuncio de salida a bolsa. El éxito de esta operación de “marketing moral” puede significar el éxito de las declaraciones frente a los hechos, pero también puede representar lo que la sociedad espera de las empresas que marcan el avance de la inteligencia artificial.
