Acelerar la inteligencia artificial en la seguridad nacional: memoria presidencial y dilemas éticos

Un memorando presidencial reciente ordena a las fuerzas armadas y a las agencias de seguridad nacional de Estados Unidos acelerar la adopción de sistemas de inteligencia artificial (IA), al mismo tiempo que reclama salvaguardias para las libertades civiles y el control humano sobre sistemas letales autónomos. Ese doble objetivo —impulso tecnológico y garantías éticas— resume el reto central que enfrenta la política pública en la era de la IA aplicada a la defensa.

El espíritu del memorando y sus demandas

El documento dirige a varios miembros del Gabinete, incluidos los secretarios de Defensa y Seguridad Nacional, así como al fiscal general y al director de inteligencia nacional. Entre sus instrucciones destaca la actualización de la directiva sobre sistemas de armas autónomas para que refleje la velocidad a la que evolucionan las capacidades de la IA. Asimismo, expresa con claridad una restricción: los sistemas no deben usarse para censurar la libertad de expresión, introducir sesgos ideológicos o llevar a cabo vigilancia ilegal contra ciudadanos estadounidenses.

Una de las frases del memorando resume la postura oficial sobre derechos y privacidad: "El uso de la IA por la empresa de seguridad nacional debe ser siempre coherente con las libertades civiles de los Estados Unidos y las protecciones consagradas por la Constitución y las leyes que salvaguardan la privacidad de los ciudadanos estadounidenses" (documento presidencial, 2026).

¿Por qué acelerar la IA en defensa?

El Departamento de Defensa (DoD) ya ha venido incrementando el uso de tecnologías de IA en logística, mantenimiento predictivo, gestión de suministros y apoyo a decisiones operativas. En el plano de la acción directa, la IA puede reducir el tiempo entre la detección de una amenaza y la respuesta, mejorar la precisión en la identificación de blancos y procesar grandes volúmenes de datos de inteligencia en segundos, tareas que exceden la capacidad humana cuando se requiere velocidad.

Los defensores del impulso tecnológico argumentan que la superioridad en IA puede traduzirse en menos pérdidas humanas en conflictos al tomar mejores decisiones y anticipar movimientos enemigos. Al mismo tiempo, existe la perspectiva estratégica: no adoptar estas herramientas podría dejar a las fuerzas propias en desventaja frente a adversarios que sí integren IA en sus doctrinas militares.

El imperativo del control humano

Sin embargo, numerosos líderes militares han subrayado que la inteligencia artificial no puede sustituir el juicio humano en la decisión de usar la fuerza. Como advirtió el almirante Frank Bradley, jefe del Comando de Operaciones Especiales de EE. UU., durante una conferencia anual: “Tenemos que ser muy cuidadosos sobre cómo empleamos la IA y su inspiración en la entrega de letalidad” (discurso en conferencia anual de fuerzas especiales, 2026). Bradley reconoció un horizonte posible en que la IA identifique objetivos, pero insistió en la necesidad de que los humanos mantengan la confianza sobre que la violencia se impondrá sólo donde se pretende.

Ese énfasis en la supervisión humana no es meramente retórico: la directiva de 2023, elaborada por la administración anterior, establecía que los sistemas armamentísticos se diseñarían "para permitir que comandantes y operadores ejerzan niveles apropiados de juicio humano sobre el uso de la fuerza" (Congressional Research Service, 2023). El memorando presidencial de 2026 exige que la actualización tenga en cuenta capacidades de IA que han avanzado de forma notable en los últimos años.

Tensiones con la industria tecnológica

El esfuerzo del Pentágono por aprovechar la innovación del sector privado ha generado fricciones. Empresas de IA han buscado garantías contractuales para limitar el uso militar de sus tecnologías en aplicaciones letales o en vigilancia doméstica. Una compañía en particular solicitó cláusulas para asegurar que su chatbot y modelos no se emplearan en sistemas totalmente autónomos ni en la supervisión de ciudadanos, lo que desencadenó un enfrentamiento con autoridades que reclamaban flexibilidad legal para usos que consideraran lícitos.

Ese choque ilustra un dilema recurrente: la frontera entre la responsabilidad ética de las empresas y las prioridades de seguridad nacional. Mientras los gobiernos buscan asegurar capacidades, las empresas temen la pérdida de reputación y demandas éticas internas y externas si sus herramientas facilitan daños involuntarios o vulneraciones de derechos.

Riesgos ya observados en conflictos recientes

El debate no es abstracto. En conflictos recientes, el uso intensivo de tecnologías para rastrear y seleccionar objetivos estuvo vinculado a aumentos en víctimas civiles, lo que alimentó la preocupación de que herramientas basadas en IA puedan amplificar errores o sesgos en datos y modelos, con consecuencias letales. Estas experiencias subrayan la necesidad de una evaluación rigurosa de riesgos operacionales y de un marco de responsabilidad clara cuando ocurra daño colateral.

Cuestiones técnicas y operativas clave

• Explicabilidad: Muchos modelos de IA avanzados (por ejemplo, redes neuronales profundas) son cajas negras para operadores. Comprender por qué un sistema recomendó una acción es crítico para autorizar su ejecución.
• Sesgos en datos: Si los conjuntos de datos de entrenamiento contienen errores o representaciones distorsionadas, la IA puede repetir y amplificar esos sesgos, con riesgo de identificar erróneamente objetivos o poblaciones vulnerables.
• Robustez ante adversarios: Los sistemas deben resistir ataques que manipulen sensores o datos (por ejemplo, perturbaciones adversarias) que provocan decisiones erróneas.
• Cadena de mando y responsabilidad: Debe quedar claro quién responde cuando una decisión automatizada produce daño: el operador, el comandante, el desarrollador del sistema o el Estado que lo desplegó.

Propuestas para avanzar con cautela

Para conciliar la necesidad operativa con la protección de derechos y la legitimidad pública, varias medidas son urgentes:

1. Reglas de empleo claras: Definir límites legales y operativos sobre qué tipos de decisiones pueden automatizarse y cuáles requieren intervención humana explícita.
2. Auditorías independientes: Establecer evaluaciones técnicas y éticas periódicas por organismos independientes que verifiquen comportamiento, sesgos y riesgos del sistema.
3. Transparencia acotada: Comunicar al público y a los legisladores, en la medida compatible con la seguridad, las políticas y salvaguardas aplicadas al uso de IA militar para sostener confianza democrática.
4. Capacitación y cultura: Formar a los operadores y comandantes en limitaciones y riesgos de la IA, promoviendo una cultura que priorice la supervisión humana y la revisión crítica.
5. Colaboración industria-Estado: Pactar contratos que incorporen cláusulas éticas y mecanismos de gobernanza sin renunciar a controles legales de los usos permitidos por el Estado.

El desafío democrático

Más allá de los aspectos técnicos y militares, la incorporación masiva de IA en la esfera de la seguridad plantea un desafío democrático: ¿cómo mantener control civil, protección de derechos y responsabilidad en el uso de herramientas que procesan y actúan a velocidades muy superiores a las humanas? El memorando insiste en un principio básico: la adopción de IA debe ser coherente con las libertades civiles y la Constitución (memorando presidencial, 2026). Convertir esa frase en práctica requerirá marcos legales actualizados, supervisión parlamentaria y mecanismos de reparación cuando la tecnología cause daño.

La historia reciente muestra que la tecnología militar suele avanzar más rápido que la regulación. Por ello, los responsables de política pública deben anticipar escenarios de riesgo y establecer límites antes de que la normalización de sistemas problemáticos haga casi irreversible su adopción. En palabras del propio almirante Bradley, la cuestión no es si la IA impactará la letalidad, sino cómo garantizar que su empleo refleje la intención humana y respete normas y valores fundamentales (discurso en conferencia anual de fuerzas especiales, 2026).

Si bien acelerar la integración de la IA puede brindar ventajas operativas y estratégicas, la legitimidad de estas ventajas dependerá de la capacidad de las instituciones para proteger derechos, garantizar supervisión humana efectiva y mantener la cadena de responsabilidad. Ese equilibrio será la prueba de fuego para una política de seguridad nacional responsable en la era de la inteligencia artificial.