Choque histórico entre Anthropic y el Pentágono por el uso militar de la IA

En las últimas dos semanas se ha desatado un pulso inédito entre Anthropic, creadora del modelo de IA Claude, y el Departamento de Defensa de EE. UU. (DoD). El secretario de Defensa, Pete Hegseth, exige poder usar la tecnología de Anthropic para cualquier fin “legal”, mientras que el CEO de la empresa, Dario Amodei, se niega a permitir que sus sistemas se empleen en vigilancia masiva de ciudadanos estadounidenses o en armas totalmente autónomas que decidan y disparen sin intervención humana.

Anthropic sostiene que la IA actual no es lo bastante fiable para asumir decisiones letales o de seguridad nacional sin supervisión humana. Teme que un sistema autónomo pueda identificar mal un objetivo, escalar un conflicto por error o automatizar el uso de la fuerza de manera opaca. También alerta de que la IA podría amplificar de forma drástica la vigilancia ya permitida por la ley, al hacer posible el análisis masivo y automatizado de comunicaciones y comportamientos.

El Pentágono, por su parte, afirma que no pretende desplegar vigilancia masiva interna ni armas autónomas, pero rechaza que una empresa privada imponga límites operativos al ejército. Su portavoz, Sean Parnell, ha reclamado que Anthropic autorice “todos los usos legales” de su modelo y ha fijado un ultimátum: si la compañía no cede antes del viernes a las 17:01 ET, será considerada “riesgo de cadena de suministro” y se romperá la relación contractual.

La amenaza es seria: esa etiqueta podría prácticamente expulsar a Anthropic del negocio con el gobierno, algo que algunos inversores consideran un posible “apagón” para la empresa. A la vez, expertos en defensa advierten de que expulsar a Anthropic puede debilitar la capacidad tecnológica del país durante meses, hasta que rivales como OpenAI o xAI ofrezcan modelos igual de avanzados. Mientras xAI, propiedad de Elon Musk, se presenta dispuesta a dar al DoD un control casi total sobre su tecnología, informes recientes sugieren que OpenAI mantendría líneas rojas parecidas a las de Anthropic.

El choque va mucho más allá de un contrato: plantea quién debe fijar los límites en el uso militar de la inteligencia artificial avanzada —las empresas que la crean o el Estado que quiere desplegarla— y abre un debate de fondo sobre la gobernanza de armas autónomas y la vigilancia en la era de la IA.