La startup californiana Anthropic demandó el lunes al gobierno del presidente Donald Trump por considerar que la penalizó por negarse a autorizar el uso militar sin límites de sus modelos de inteligencia artificial Claude.
El Departamento de Defensa de Estados Unidos designó la semana pasada a Anthropic como un «riesgo» para la cadena de suministro de seguridad nacional, después de que la empresa rechazara el uso de su tecnología para vigilancia masiva o fines bélicos.
En la demanda de 48 páginas, presentada ante un tribunal federal de San Francisco, Anthropic solicita que esa designación sea revertida y declarada ilegal.
La compañía sostiene que se fundó sobre la convicción de que su IA debe «usarse de una manera que maximice los resultados positivos para la humanidad» y debe «ser la más segura y la más responsable».
«Anthropic presenta esta demanda porque el Gobierno federal ha tomado represalias por expresar ese principio», añade en su escrito.
Anthropic es la primera empresa estadounidense calificada como «riesgo» por el gobierno federal, una consideración habitualmente reservada a entidades de países rivales, como el gigante tecnológico chino Huawei.
La designación exige a proveedores y contratistas de defensa certificar que no utilizan los modelos de Anthropic en su trabajo con el Pentágono.
«Consecuencias enormes»
«Las consecuencias de este caso son enormes», afirma la demanda, ya que el Gobierno «pretende destruir el valor económico creado por una de las empresas privadas de más rápido crecimiento del mundo».
La disputa estalló después de que Anthropic enfureciera al jefe del Pentágono, Pete Hegseth, al insistir en que su tecnología no debía utilizarse para vigilar a ciudadanos ni para sistemas de armas totalmente autónomos.
Posteriormente, Trump ordenó a todas las agencias federales dejar de utilizar la tecnología de Anthropic.
Hegseth dispuso además que ningún contratista, proveedor o socio militar «puede realizar ninguna actividad comercial con Anthropic». No obstante, concedió un período de transición de seis meses para el propio Pentágono.
Más de una treintena de ingenieros en inteligencia artificial de OpenAI y Google —entre ellos el científico jefe de Google, Jeff Dean— manifestaron su apoyo a Anthropic en un escrito presentado ante el tribunal el lunes.
Indicaron que expresaban sus opiniones como profesionales que desarrollan, entrenan o estudian IA y que no representaban a sus empresas. También instaron al tribunal a fallar a favor de Anthropic.
«Estamos unidos en la convicción de que los sistemas de IA de vanguardia actuales presentan riesgos cuando se utilizan para permitir la vigilancia masiva doméstica o en la operación de sistemas de armas letales autónomas sin supervisión humana, y que esos riesgos requieren algún tipo de límites, ya sea mediante medidas de seguridad técnicas o restricciones de uso», señalaron.
En su declaración también afirmaron que «la designación gubernamental de Anthropic como un riesgo para la cadena de suministro fue un uso de poder impropio y arbitrario que tiene serias repercusiones para nuestra industria».
El diferendo entre el Pentágono y Anthropic se desató días antes de la ofensiva militar estadounidense contra Irán.
Claude es el modelo de IA de vanguardia más ampliamente desplegado por el Pentágono y el único de este tipo que opera actualmente en los sistemas clasificados del Departamento de Defensa.
En su demanda, Anthropic sostiene que las medidas adoptadas en su contra exceden la autoridad legal del Pentágono y violan derechos constitucionales.
«La Constitución no permite que el gobierno utilice su enorme poder para castigar a una empresa por su discurso», afirma el documento.
Fundada en 2021 por los hermanos Dario Amodei y Daniela Amodei, ambos exempleados de OpenAI —creadora de ChatGPT—, Anthropic se ha posicionado en la carrera de la inteligencia artificial como una alternativa centrada en la seguridad.
