La empresa de inteligencia artificial más relevante del momento no es OpenAI, creadora de ChatGPT, ni Google, pionera en sistemas generativos, sino Anthropic. Aunque es poco conocida para muchos, esta compañía está definiendo el rumbo tecnológico de los próximos años. Su modelo, Claude, ha demostrado ser eficaz, pero su confrontación con el Ejército de EE.UU. ha puesto de manifiesto que esta tecnología es vista como un arma por el Gobierno estadounidense.
La controversia ha ido creciendo en los últimos meses. La IA de Anthropic es crucial para la gestión de sistemas clasificados del Pentágono. Hasta ahora, el Departamento de Defensa había confiado en esta start-up para estas labores, lo que se tradujo en un contrato militar multimillonario. Sin embargo, la situación se complicó cuando el Ejército exigió que pudiera utilizar Claude tanto para el espionaje masivo como para desarrollar armas autónomas, es decir, máquinas que pueden atacar sin intervención humana. Anthropic se ha negado rotundamente a eliminar las restricciones dentro de su programación que prohíben este tipo de aplicaciones bélicas, provocando la ira de la Casa Blanca.
A pesar de las intensas negociaciones, la empresa ha mantenido su postura. Frustrado por esta negativa, el secretario de defensa, Pete Hegseth, ha optado por la intimidación. El Pentágono ha amenazado a Anthropic con designarla como un «riesgo para la cadena de suministro», lo que podría hacer estallar el contrato y obligar a todos los proveedores del Ejército a romper vínculos con la start-up. Este ultimátum de Washington tiene como fecha límite este viernes para que Anthropic ceda.
La situación es delicada. Un alto funcionario del organismo, que fue renombrado por Donald Trump como Departamento de Guerra, comentó que «será complicado desenredar todo esto y nos aseguraremos de que paguen un precio por obligarnos a tomar esta medida». Anthropic fue fundada en 2021 por siete ex-empleados de OpenAI, entre ellos los hermanos Daniela y Dario Amodei. El CEO de la compañía no es un empresario habitual, sino un físico especializado en circuitos neuronales que aboga por una IA ética.
La firma, valorada en cifras multimillonarias, es conocida por Claude, su familia de modelos de lenguaje que se sitúa entre los más potentes del mundo. Su rendimiento la vuelve especialmente popular entre programadores de Silicon Valley. La historia de Anthropic está ligada a la de su principal competidor. En 2016, Dario Amodei dejó Google para convertirse en vicepresidente de investigación de OpenAI, donde lideró el desarrollo de modelos como GPT-2 y GPT-3. Sin embargo, su visión sobre la mitigación de riesgos de una IA superhumana fue incompatible con el enfoque comercial de Sam Altman, líder de OpenAI.
Descontento con este cambio de rumbo, Amodei decidió crear una alternativa. Anthropic nació con el lema de ser una IA ética. En los últimos meses, la compañía ha mostrado resistencia ante las exigencias del Pentágono y ha publicado un marco que describe como «Constitución» para asegurar que su tecnología sea útil y cumpla con las órdenes humanas. Sin embargo, el camino no está exento de controversias, ya que en septiembre, la empresa tuvo que pagar una multa significativa por un caso legal relacionado con la descarga de libros digitalizados de manera ilegal para entrenar a Claude.
Además, recientemente, Anthropic anunció que, al igual que OpenAI, ha decidido retroceder en su enfoque de precaución y seguridad para seguir siendo competitiva. Este cambio se produjo justo después de una reunión entre Amodei y Hegseth. La pregunta que queda en el aire es si Anthropic cederá ante la presión del Gobierno estadounidense.
