Anthropic y el Pentágono: cuando la ética de la IA choca con las necesidades de la defensa

La cita entre Pete Hegseth, secretario de Defensa de Estados Unidos, y Dario Amodei, CEO de Anthropic, no es solo una reunión más en los pasillos del poder: simboliza un punto de inflexión en la relación entre las grandes empresas de inteligencia artificial y las instituciones encargadas de la seguridad nacional. Mientras el Pentágono despliega una red interna para incorporar modelos de IA al trabajo militar, Anthropic —creadora del chatbot Claude— se encuentra en la disyuntiva entre colaborar sin restricciones y mantener su postura de cautela y seguridad.

Un contexto de contratos, redes internas y promesas de ética

El Departamento de Defensa anunció contratos por hasta 200 millones de dólares con varias empresas de IA para integrarlas a su red segura GenAI.mil. Anthropic fue la primera compañía aprobada para operar en redes clasificadas y trabaja con socios como Palantir; otras compañías, por ahora, operan en entornos no clasificados.

Sin embargo, la relación no está exenta de tensión. Dario Amodei ha señalado públicamente los peligros de usos descontrolados de la IA —desde drones totalmente autónomos capaces de emplear fuerza letal hasta sistemas de vigilancia masiva que identifiquen y repriman la disidencia— y ha pedido límites razonables en aplicaciones militares.

En palabras del propio Amodei: “A powerful AI looking across billions of conversations from millions of people could gauge public sentiment, detect pockets of disloyalty forming, and stamp them out before they grow” (Dario Amodei, ensayo, enero 2026). Esa advertencia resume la preocupación ética central: la capacidad de la IA para amplificar instrumentos de control social y represión.

El choque de prioridades: seguridad nacional vs. salvaguardas éticas

Desde la perspectiva del Pentágono, la IA promete eficiencias operativas, análisis más rápidos de inteligencia y soporte en decisiones logísticas y administrativas. Pero cuando la conversación se traslada a escenarios de combate o vigilancia masiva, los riesgos escalan: errores de identificación, sesgos en decisiones críticas y, en el peor de los casos, delegar decisiones letales en sistemas automatizados.

El secretario de Defensa Pete Hegseth ha enfatizado un enfoque pragmático y sin “restricciones ideológicas” para aplicaciones militares. En un discurso en enero, afirmó que la IA del Pentágono “will not be woke” (Discurso del Secretario de Defensa Pete Hegseth, enero 2026), una expresión que revela tanto la politización del debate como el énfasis en la disponibilidad incondicional de herramientas para el combate.

Este choque no es nuevo. Hace algunos años, el programa Project Maven —enfocado en análisis de vídeo para drones— generó protestas internas en compañías tecnológicas y llevó a que Google se retirara tras la presión de empleados. Aun así, el uso militar de la tecnología no desapareció: aumentó la dependencia de formas de vigilancia aérea y análisis de datos, lo que demuestra que las decisiones corporativas y las presiones éticas no siempre limitan la adopción militar de tecnologías emergentes.

Anthropic: autoposicionamiento como guardián de la seguridad

Anthropic surgió en 2021, fundada por exmiembros de OpenAI, y desde sus inicios se ha posicionado como una empresa más enfocada en la seguridad y las salvaguardas. Esa marca comercial de responsabilidad le ha servido para colaborar con la administración Biden en procesos de supervisión externa y análisis de riesgos.

Pero la postura de Anthropic tiene costos estratégicos. Como apunta Owen Daniels, del Centro para la Seguridad y Tecnologías Emergentes (CSET) de Georgetown, sus pares —Meta, Google, xAI y otros— han mostrado mayor disposición a aceptar la política del Pentágono de permitir modelos para “todas las aplicaciones legales”. En ese mercado, la reticencia de Anthropic puede mermar su influencia dentro del Departamento de Defensa y reducir su participación en proyectos críticos.

La tensión se traduce en una negociación implícita: ¿hasta qué punto una empresa puede imponer límites morales sin perder contratos y la posibilidad de influir desde dentro sobre cómo se aplican esas tecnologías?

Riesgos concretos: desde errores hasta la erosión de libertades

Cuando hablamos de IA en contextos militares, no todo es distopía futurista: hay riesgos reales y verificables. Los sistemas de reconocimiento facial, por ejemplo, han mostrado tasas de error significativamente más altas para mujeres y personas de ciertas etnias en estudios revisados por pares. En 2018, un estudio del MIT y la Universidad de Boston encontró que los algoritmos identificaban a mujeres de piel más oscura con tasas de error mucho mayores que a hombres de piel clara (Buolamwini y Gebru, 2018).

En escenarios militares, un falso positivo podría conducir a detenciones injustificadas o a la selección errónea de objetivos. En manos de gobiernos autoritarios, las capacidades predictivas y de monitoreo masivo podrían utilizarse para suprimir movimientos sociales antes de que lleguen a consolidarse, como Amodei advirtió en su ensayo.

Además, existe la amenaza de la automatización de decisiones letales: permitir que sistemas con margen de error decidan sobre el uso de la fuerza es una línea ética y legalmente problemática que muchos expertos reclaman no cruzar.

¿Puede coexistir la ética con las aplicaciones militares de la IA?

La respuesta corta es: sí, pero con condiciones estrictas. Algunos puntos de consenso entre expertos y organismos internacionales sugieren medidas concretas:

• Transparencia y auditoría: los modelos utilizados en entornos sensibles deben someterse a auditorías independientes y publicarse resúmenes de su comportamiento en distintos escenarios.
• Limitación de uso: excluir la automatización total de decisiones letales y establecer claramente qué funciones son de apoyo y cuáles no.
• Responsabilidad humana: mantener la supervisión y responsabilidad humana final en decisiones críticas.
• Protecciones de derechos civiles: normas que impidan el uso de IA para vigilancia masiva que viole libertades fundamentales.

Estas propuestas han sido discutidas en foros internacionales y en documentos de gobiernos y organizaciones multilaterales. Por ejemplo, la UNESCO y la Unión Europea han promovido marcos regulatorios para la IA que buscan equilibrar innovación y derechos humanos; sin embargo, la implementación varía mucho entre países y ámbitos (UNESCO, Recomendación sobre IA, 2021; Comisión Europea, Estrategia de IA, 2021).

La negociación política y el papel de la sociedad civil

El debate sobre Anthropic y el Pentágono también es político. La administración del Pentágono y algunos responsables políticos han adoptado un tono que rechaza lo que llaman restricciones ideológicas en la tecnología militar. Al mismo tiempo, empresas como Anthropic han buscado mostrar un enfoque bipartito, contratando y acercándose a figuras de distintas administraciones para no quedar encasilladas en una sola filiación política.

Pero la cuestión no puede resolverse únicamente en despachos ejecutivos. La sociedad civil, investigadores, trabajadores de la industria y organismos de derechos humanos deben participar en la creación de marcos que permitan aprovechar los beneficios de la IA sin sacrificar garantías fundamentales. La experiencia del Project Maven mostró el poder de la movilización interna en empresas tecnológicas; hoy ese tipo de influencia podría combinarse con mayor presión pública y legislativa.

Mirando adelante: condiciones para una colaboración responsable

Para que una colaboración entre empresas de IA y el sector defensa sea legítima y sostenible, propongo tres condiciones prácticas:

1. Cláusulas contractuales claras: los contratos deben especificar usos prohibidos y mecanismos de revisión externa.
2. Paneles de supervisión independiente: incluir académicos, representantes de derechos civiles y exfuncionarios con experiencia en seguridad para auditar aplicaciones sensibles.
3. Pruebas de campo con límites: antes de despliegues operativos, realizar pruebas controladas con evaluación de impacto en derechos humanos y seguridad.

Sin estas condiciones, la tensión entre seguridad nacional y salvaguardas éticas es probable que se traduzca en decisiones apresuradas, pérdida de confianza pública y riesgos graves, desde errores operativos hasta violaciones de derechos.

La reunión entre Hegseth y Amodei será observada con lupa: no solo por sus implicaciones contractuales, sino como termómetro de cuánta ética está dispuesta a aceptar la seguridad nacional en la era de la inteligencia artificial.