LA
MILITARIZACIÓN DE LA INTELIGENCIA ARTIFICIAL, DRONES AUTÓNOMOS
Introducción
La
militarización de la inteligencia artificial constituye uno de los umbrales
estratégicos, jurídicos y morales más decisivos del siglo XXI. No estamos ante
una simple mejora técnica de sistemas ya existentes, ni ante una extensión más
sofisticada de la automatización militar tradicional. Lo que está en juego es
algo mucho más profundo: la progresiva transferencia de funciones cognitivas,
decisionales y operativas desde el combatiente humano hacia arquitecturas
algorítmicas capaces de observar, clasificar, priorizar, recomendar y,
potencialmente, ejecutar acciones letales a velocidades y escalas incompatibles
con la deliberación humana clásica. En ese desplazamiento no solo cambia la
técnica de la guerra; cambia también el lugar donde se forma el juicio.
En este
contexto, los drones autónomos y, en un sentido más amplio, los sistemas de
armas autónomos letales, representan la forma más visible de una mutación
doctrinal de gran alcance. Durante décadas, la guerra tecnológica buscó ampliar
el radio de acción, mejorar la precisión y reducir la exposición de las propias
fuerzas. La inteligencia artificial añade un salto cualitativo: no solo permite
actuar a distancia, sino delegar parte del análisis del entorno, de la
identificación del objetivo y de la secuencia de respuesta en sistemas que
aprenden, correlacionan y operan con lógicas no siempre transparentes. La
guerra deja entonces de ser únicamente un espacio de mando humano asistido por
máquinas para convertirse, progresivamente, en un ecosistema donde la máquina
empieza a mediar el sentido mismo de la decisión.
La dimensión
estratégica del problema es igualmente profunda. La autonomía militar promete
reducir bajas propias, acelerar el ciclo de decisión y multiplicar la capacidad
de vigilancia y ataque en entornos saturados de información. Sin embargo, esa
misma promesa puede rebajar el umbral político y psicológico para el uso de la
fuerza, fomentar ilusiones de superioridad tecnológica, intensificar carreras
armamentísticas y trasladar la fricción de la guerra a dominios menos visibles:
datos manipulados, sensores degradados, sistemas vulnerables a engaño,
escaladas automáticas y errores de clasificación con consecuencias
irreversibles. Lo que se presenta como reducción de riesgo puede ser, en
realidad, una redistribución del riesgo hacia planos más opacos y difíciles de
controlar.
A ello se añade
una dificultad jurídica y filosófica de primer orden. El Derecho Internacional
Humanitario exige distinguir entre combatientes y civiles, ponderar la
proporcionalidad del ataque y adoptar precauciones efectivas antes del uso de
la fuerza. Pero esas exigencias no son meros cálculos mecánicos. Suponen
interpretación contextual, comprensión de intenciones, valoración prudencial y
responsabilidad imputable. Aquí surge la gran pregunta de nuestro tiempo:
¿puede un sistema algorítmico, entrenado con datos imperfectos y operando a
través de modelos estadísticos o cajas negras, asumir una función que
históricamente ha exigido juicio humano situado? Y si la respuesta es parcial,
ambigua o insuficiente, ¿quién responde cuando el resultado es letal?
En último
término, la militarización de la inteligencia artificial obliga a volver sobre
una cuestión que parecía antigua, pero que hoy reaparece con fuerza renovada:
qué significa ejercer violencia legítima cuando el sujeto que decide y el
sujeto que ejecuta ya no coinciden de manera clara. La distancia entre operador
y objetivo no es solo espacial; es también cognitiva y moral. A medida que la
guerra se vuelve más algorítmica, aumenta el riesgo de que el acto de fuerza
sea percibido como una operación técnica de gestión de amenazas, y no como una
decisión moralmente trágica que compromete responsabilidad, humanidad y
límites. Esa transformación puede mejorar ciertos parámetros operativos, pero
también amenaza con vaciar de contenido ético el acto mismo de combatir.
Las seis
partes en que se va a dividir el artículo son las siguientes:
1. El umbral
de la delegación letal: ¿dónde trazar la línea del control humano?
Se examinará críticamente el concepto de control humano en sistemas de armas
autónomos, distinguiendo entre intervención formal y control moralmente
significativo, y analizando si la aceleración algorítmica convierte ese control
en una garantía real o en una ficción regulatoria.
2. Asimetría
tecnológica y nueva doctrina de disuasión: ¿estabilidad o proliferación del
conflicto?
Se estudiará cómo la integración de inteligencia artificial y drones autónomos
altera la lógica clásica de la disuasión, pudiendo reducir el umbral político
de empleo de la fuerza y generar respuestas asimétricas imprevisibles que
reconfiguren la estabilidad estratégica.
3. Derecho
Internacional Humanitario y la caja negra algorítmica: ¿puede una IA cumplir
con los principios de distinción y proporcionalidad?
Se analizará la compatibilidad entre autonomía letal y los principios básicos
del derecho de la guerra, así como el problema de la explicabilidad, la
auditabilidad y la rendición de cuentas cuando una decisión letal emerge de
sistemas opacos o parcialmente incomprensibles.
4. La
carrera armamentística en IA: ¿innovación necesaria o trampa de seguridad
colectiva?
Se abordará la competencia entre potencias por la supremacía en autonomía
militar, valorando si la búsqueda de ventaja tecnológica produce un dilema de
seguridad que acelera despliegues prematuros, reduce cautelas y debilita la
posibilidad de una gobernanza internacional efectiva.
5.
Vulnerabilidad sistémica y guerra algorítmica: ¿resiliencia o fragilidad
aumentada?
Se examinarán las debilidades inherentes a los sistemas autónomos dependientes
de inteligencia artificial, desde ataques adversarios y manipulación de datos
hasta interferencias en sensores, degradación de enlaces y dependencia de
cadenas de suministro tecnológicas complejas.
6. Ética del
combate y deshumanización de la guerra: ¿eficiencia operativa o erosión del
juicio moral?
Se explorará la dimensión filosófica y moral de la delegación letal, evaluando
si la autonomía preserva vidas y mejora la precisión o si, por el contrario,
transforma la guerra en un proceso de gestión algorítmica que erosiona la
responsabilidad humana y banaliza el uso de la fuerza.
Este artículo
parte, en consecuencia, de una tesis fundamental: la militarización de la
inteligencia artificial no debe analizarse solo como una revolución técnica,
sino como una mutación del vínculo entre poder, juicio y violencia. Lo que está
en juego no es únicamente cómo combatir mejor, sino quién decide realmente
cuándo, cómo y contra quién se ejerce la fuerza en la era de la autonomía
algorítmica. Allí se encuentra el verdadero núcleo del problema: no en la
máquina como instrumento, sino en el progresivo desplazamiento del centro moral
de la guerra.
1. El umbral
de la delegación letal: ¿dónde trazar la línea del control humano?
1.1. El
problema central: no se discute solo una tecnología, sino el lugar de la
decisión
La cuestión del
control humano en sistemas de armas autónomos letales no es un debate técnico
secundario, sino el núcleo mismo del problema. Lo que se está decidiendo no es
únicamente cuánto automatismo puede tolerarse en el campo de batalla, sino
dónde se sitúa la responsabilidad última sobre el uso de la fuerza. Mientras el
ser humano conserva una intervención sustancial en la identificación del
objetivo, en la valoración del contexto y en la autorización final del ataque,
la máquina puede seguir siendo interpretada como un instrumento avanzado. Pero
cuando esas funciones se desplazan progresivamente hacia sistemas que detectan,
priorizan y ejecutan a velocidades superiores a la deliberación humana, la
estructura moral de la decisión empieza a cambiar.
Ahí aparece el
verdadero umbral de la delegación letal. No se trata de determinar si una
máquina puede ayudar al combatiente, porque eso ya ocurre desde hace décadas en
múltiples niveles. Se trata de saber en qué momento la ayuda deja de ser
asistencia y se convierte en sustitución funcional del juicio. Esa línea es
decisiva porque el uso legítimo de la fuerza nunca ha dependido solo del
resultado material del ataque, sino también del hecho de que exista un sujeto
responsable capaz de comprender, deliberar y asumir moralmente la decisión. Si
ese sujeto queda reducido a un supervisor distante de procesos algorítmicos
opacos, la continuidad entre decisión humana y acto letal empieza a romperse.
1.2.
Human-in-the-Loop, Human-on-the-Loop y Human-out-of-the-Loop: una tipología
insuficiente
La
clasificación habitual entre sistemas con humano dentro del ciclo, sobre el
ciclo o fuera del ciclo parece, a primera vista, una manera útil de ordenar el
problema. En el modelo Human-in-the-Loop, el sistema no puede emplear
fuerza letal sin autorización humana específica. En el modelo Human-on-the-Loop,
la máquina actúa con mayor autonomía, pero un operador supervisa y conserva
teóricamente la capacidad de intervenir o abortar. En el modelo Human-out-of-the-Loop,
la selección y el ataque se producen sin intervención humana efectiva una vez
activado el sistema.
Sin embargo,
esta tipología es más descriptiva que resolutiva. No basta con afirmar que un
humano “está en el circuito” para garantizar que su intervención sea éticamente
relevante. Un operador puede estar formalmente dentro del proceso y, sin
embargo, no disponer de tiempo, información contextual ni comprensión real
suficientes para ejercer un juicio moral sustantivo. Del mismo modo, estar
“sobre el circuito” puede equivaler, en la práctica, a una supervisión
simbólica de una secuencia que ya ha sido estructurada por la lógica de la
máquina. La clasificación, por tanto, no responde por sí sola a la pregunta
decisiva: no dónde está el humano físicamente, sino cuánto pesa realmente su
juicio en el resultado final.
1.3. El mito
del control humano formal
Una de las
grandes ilusiones regulatorias del debate contemporáneo consiste en confundir
presencia humana con control humano. Que un operador pulse un botón, valide una
recomendación o mantenga capacidad teórica de cancelación no significa
necesariamente que haya ejercido una decisión moral plena. En muchos casos, la
arquitectura del sistema, la velocidad de procesamiento, la presión temporal,
la cantidad de datos y la confianza inducida por la interfaz algorítmica
empujan al humano a ratificar lo que la máquina ya ha estructurado de antemano
como opción “óptima”.
En este
sentido, el control puede vaciarse desde dentro sin desaparecer formalmente. El
operador sigue ahí, pero ya no decide del modo en que tradicionalmente
entendíamos la decisión. Su papel se estrecha, se acelera y se tecnifica hasta
convertirse en una validación residual. Lo que en apariencia preserva la
responsabilidad humana puede ser, en realidad, una forma sofisticada de
desplazarla. La máquina no sustituye al ser humano mediante una expulsión
visible, sino mediante una reducción progresiva de su capacidad de deliberar
con autonomía real.
1.4. La
velocidad del combate y el colapso del juicio humano
El problema se
vuelve aún más grave cuando se incorpora la lógica del combate moderno y de los
ciclos OODA. En entornos saturados de sensores, drones, municiones
merodeadoras, guerra electrónica y decisiones en milisegundos, la superioridad
puede depender precisamente de actuar antes que el adversario. Esta aceleración
crea una presión estructural a favor de la autonomía: cuanto más veloz sea el
entorno, más tentador resulta delegar funciones decisionales a sistemas capaces
de procesar y responder más rápido que la cognición biológica.
Pero aquí surge
una contradicción profunda. Si el entorno exige velocidades incompatibles con
la deliberación humana significativa, entonces la promesa de mantener al ser
humano “en el centro” corre el riesgo de convertirse en una ficción. O el
humano decide de verdad, y entonces ralentiza el sistema en contextos donde la
velocidad puede ser crucial; o el sistema mantiene la velocidad que se
considera operativamente necesaria, y entonces la intervención humana tiende a
reducirse a un gesto residual. No hay solución sencilla a esta tensión.
Precisamente por eso, el debate sobre el control humano no puede resolverse con
fórmulas retóricas: está atravesado por una incompatibilidad creciente entre
rapidez operativa y densidad moral de la decisión.
1.5. ¿Puede
un operador tomar decisiones moralmente relevantes bajo dominación algorítmica?
La relevancia
moral de una decisión no depende únicamente de que alguien la autorice, sino de
que ese alguien comprenda suficientemente lo que está autorizando, pueda
valorar alternativas y asuma el peso ético de la acción. Cuando el sistema
algorítmico selecciona objetivos, prioriza amenazas, estima probabilidades y
presenta al operador una recomendación comprimida en segundos o fracciones de
segundo, el margen para una deliberación moral robusta se estrecha de forma
extrema. El operador deja de ser un decisor pleno y corre el riesgo de
convertirse en un legitimador acelerado de procesos que no controla de manera
sustancial.
Además, el
problema no es solo temporal, sino cognitivo. Los sistemas complejos no solo
actúan rápido; también organizan la realidad operativa de una manera que
condiciona lo que el humano percibe. Si la interfaz muestra un objetivo ya
clasificado como hostil, una amenaza ya jerarquizada y una solución ya
optimizada, el operador no está evaluando el mundo directamente, sino una
representación del mundo mediada por criterios algorítmicos. Esto introduce una
dependencia epistemológica muy seria: el humano conserva formalmente la última
palabra, pero esa palabra se pronuncia sobre un escenario previamente
interpretado por la máquina.
1.6. La
delegación progresiva como erosión estructural de la responsabilidad
La gran amenaza
no reside solo en la aparición repentina de sistemas completamente autónomos,
sino en la delegación progresiva y acumulativa de funciones. Primero se
automatiza la detección. Después, la identificación. Más tarde, la
priorización. Luego, la recomendación de curso de acción. Finalmente, la
ejecución puede quedar vinculada a reglas de activación cada vez más amplias.
En cada paso parece que el ser humano sigue presente. Pero, visto en conjunto,
el proceso puede producir una mutación radical: la responsabilidad se dispersa
entre diseñadores, programadores, mandos, operadores, fabricantes y Estados,
mientras el acto letal emerge de una cadena técnica donde nadie concentra
plenamente el juicio.
Esta dispersión
es peligrosa porque erosiona uno de los fundamentos morales más básicos del uso
de la fuerza: que haya alguien que responda no solo causalmente, sino
normativamente, por la decisión de matar. Cuanto más se reparte la agencia
entre sistemas y actores, más fácil resulta diluir la imputación real. La
delegación progresiva puede presentarse como evolución natural de la tecnología
militar, pero también puede entenderse como una transformación estructural que
vacía el núcleo humano de la responsabilidad sin reconocerlo abiertamente.
1.7.
¿Evolución necesaria de la guerra o renuncia encubierta al juicio humano?
Quienes
defienden la autonomía letal suelen argumentar que esta evolución es, en buena
medida, inevitable. Señalan que los sistemas autónomos pueden reaccionar más
rápido, reducir errores asociados al estrés humano, operar en entornos negados
y proteger a las propias fuerzas. Desde esta perspectiva, delegar ciertas
funciones no sería una renuncia moral, sino una adaptación necesaria a la
velocidad, complejidad y letalidad del campo de batalla contemporáneo. En ese
argumento hay una parte de verdad: la presión operativa empuja realmente hacia
formas crecientes de automatización.
Sin embargo,
convertir la necesidad funcional en legitimidad moral automática sería un error
grave. Que una tecnología ofrezca ventaja no significa que toda forma de
delegación que haga posible esa ventaja sea éticamente aceptable. La historia
de la guerra enseña precisamente lo contrario: la eficacia técnica nunca ha
sido por sí sola criterio suficiente de legitimidad. La cuestión no es si la
autonomía puede mejorar ciertos parámetros operativos, sino si existe un punto
a partir del cual la mejora táctica se obtiene a costa de erosionar la
responsabilidad humana hasta volver irreconocible el acto de decidir sobre la
vida y la muerte.
1.8. Dónde
debe trazarse la línea
La línea no
debería trazarse únicamente en función del porcentaje de autonomía técnica,
sino de la calidad moral y cognitiva de la intervención humana. Un sistema
puede incorporar automatismos avanzados y, aun así, permanecer dentro de
límites aceptables si el ser humano conserva una comprensión real del contexto,
tiempo suficiente para deliberar, autoridad efectiva para rechazar la acción y
responsabilidad clara sobre el resultado. En cambio, un sistema aparentemente
moderado puede cruzar el umbral problemático si convierte al humano en mero
validador apresurado de una decisión ya estructurada algorítmicamente.
Por tanto, la
verdadera frontera no está entre “máquina” y “humano” en términos abstractos,
sino entre juicio humano sustantivo y presencia humana vaciada de contenido.
Allí debe situarse el criterio decisivo. Si el operador no comprende de manera
significativa, no puede intervenir con libertad real y no dispone de margen
temporal y contextual para una decisión moralmente relevante, entonces el
control humano es solo nominal. Y cuando el control se vuelve nominal, la
delegación letal deja de ser una herramienta subordinada al juicio humano para
convertirse en una tecnología que empieza a reemplazarlo en su función más
grave: decidir quién vive y quién muere.
2. Asimetría
tecnológica y nueva doctrina de disuasión: ¿estabilidad o proliferación del
conflicto?
2.1. La
autonomía militar como transformación del cálculo estratégico
La
incorporación de inteligencia artificial y drones autónomos no modifica
únicamente los medios del combate; altera también la forma en que los Estados
calculan coste, oportunidad, riesgo y escalada. La doctrina clásica de
disuasión descansaba, en buena medida, sobre la capacidad de infligir daño
intolerable y sobre la certeza de que el uso de la fuerza implicaba una
fricción material y política muy alta. Las bajas propias, la movilización de
medios pesados, la exposición prolongada y la posibilidad de una guerra extensa
funcionaban como frenos objetivos y psicológicos. La autonomía militar
introduce una variable nueva: la expectativa de que parte de esa fricción pueda
reducirse drásticamente.
Cuando una
potencia cree que puede vigilar mejor, golpear con más precisión, exponer menos
a sus tropas y sostener operaciones intensivas mediante sistemas autónomos o
semiautónomos, el umbral subjetivo de uso de la fuerza puede desplazarse. No
necesariamente porque desaparezca el riesgo, sino porque cambia su
distribución. La guerra empieza a presentarse como una secuencia más
controlable, más fragmentable y, en apariencia, más gestionable. Esta
percepción es estratégica en sí misma, porque influye sobre la disposición a
actuar antes, más rápido y con mayor confianza en la superioridad técnica.
2.2. La
promesa de la “guerra fácil” y el descenso del umbral de violencia
Una de las
consecuencias más delicadas de esta transformación es la posibilidad de que la
autonomía contribuya a una versión contemporánea de la llamada “guerra fácil”.
Si una potencia estima que puede degradar al adversario con mínimos costes
humanos propios, mediante drones, sistemas autónomos, plataformas remotas y
decisiones aceleradas por algoritmos, el incentivo para recurrir a la fuerza
puede aumentar. No porque la guerra deje realmente de ser peligrosa, sino
porque se vuelve menos costosa en el plano político interno para quien posee la
ventaja tecnológica inicial.
La reducción de
bajas propias tiene, en este contexto, un efecto ambiguo. Desde una perspectiva
operativa, puede parecer deseable y hasta moralmente positiva. Pero desde una
perspectiva estratégica, también puede debilitar uno de los principales frenos
de la guerra: la conciencia de su coste humano directo para quien decide.
Cuando el decisor político percibe que el combate puede librarse con exposición
humana limitada, el recurso a la fuerza corre el riesgo de banalizarse. La
precisión técnica puede, paradójicamente, facilitar una mayor disponibilidad
política para iniciar acciones coercitivas o ataques limitados.
2.3.
Disuasión clásica frente a disuasión algorítmica
La disuasión
tradicional estaba vinculada a capacidades relativamente visibles: arsenales,
bases, flotas, aviación, misiles, movilización y doctrina declarada. La
autonomía introduce un componente más opaco y dinámico. El poder ya no depende
solo de la masa material, sino también de la calidad de los algoritmos, de la
velocidad de procesamiento, de la integración sensor-efector, de la resiliencia
de datos y de la capacidad de operar en enjambre o de forma distribuida. Esto
transforma la señalización estratégica, porque parte de la fuerza disuasoria ya
no reside en lo que se ve, sino en lo que el adversario cree que el sistema
autónomo puede hacer antes de que él reaccione.
Aparece así una
forma de disuasión más volátil. Por un lado, la IA puede fortalecer la
credibilidad de ciertas amenazas al prometer respuesta rápida, persistencia
operacional y menor exposición de fuerzas humanas. Por otro, puede aumentar la
incertidumbre, porque resulta más difícil calibrar con precisión las
capacidades reales, los márgenes de fallo y las reglas de activación de
sistemas cada vez más complejos. La disuasión deja entonces de apoyarse solo en
la capacidad de castigo y pasa a depender también de la percepción de
superioridad algorítmica, que puede ser tanto un activo como una fuente de
error de cálculo.
2.4. La
ilusión de superioridad tecnológica y sus peligros
Uno de los
mayores riesgos estratégicos de la autonomía militar es la ilusión de
invulnerabilidad o de control superior. La historia militar muestra que toda
innovación disruptiva tiende a generar una fase de sobreconfianza en quien cree
dominarla primero. Con la IA y los drones autónomos, esa sobreconfianza puede
ser especialmente peligrosa porque no se refiere solo a un arma concreta, sino
a la idea de que el campo de batalla entero puede volverse más transparente,
predecible y gobernable mediante procesamiento algorítmico. Esa promesa seduce
al mando porque parece reducir la niebla de la guerra.
Pero la
fricción no desaparece; simplemente cambia de forma. Una potencia convencida de
que su ecosistema autónomo le dará superioridad decisiva puede verse tentada a
actuar con mayor agresividad, suponiendo que controlará la escalada. El
problema es que el adversario rara vez responde de manera simétrica. La
supuesta precisión quirúrgica puede desencadenar reacciones indirectas,
híbridas o desproporcionadas respecto al escenario inicial. La superioridad
tecnológica percibida no garantiza estabilidad. Puede, al contrario, incentivar
conductas más arriesgadas al reducir artificialmente la percepción del coste
inmediato.
2.5.
Respuestas asimétricas: del enjambre barato al ciberataque estratégico
La autonomía
militar no elimina la asimetría; la reconfigura. Cuanto más invierte una
potencia en sistemas complejos, costosos y altamente integrados, más incentiva
al adversario a buscar respuestas de bajo coste, alta creatividad y difícil
atribución. En lugar de intentar igualar la arquitectura tecnológica del rival,
puede optar por saturarla, engañarla o degradarla. Enjambres baratos,
interferencias electrónicas, manipulación de señales, ciberataques, objetivos
falsos, guerra híbrida y explotación del entorno urbano o civil pueden
convertirse en respuestas racionales frente a una superioridad autónoma difícil
de igualar frontalmente.
Esta dinámica
es importante porque muestra que la autonomía no necesariamente estabiliza el
conflicto por superioridad técnica. En muchos casos, desplaza la confrontación
hacia dominios más opacos, más ambiguos y menos regulados. El adversario,
incapaz de competir en el mismo plano, ataca el ecosistema que sostiene la
ventaja: datos, sensores, enlaces, opinión pública, infraestructura digital o
cadenas logísticas. Así, la IA no borra la fricción de la guerra; la
redistribuye en espacios donde la detección, la atribución y la respuesta son
más inciertas.
2.6. ¿Reduce
la autonomía la fricción de la guerra?
Desde una
perspectiva operacional, la autonomía parece reducir fricciones evidentes.
Permite mantener vigilancia persistente, acortar tiempos de decisión, operar en
entornos peligrosos sin exponer directamente a personal, coordinar múltiples
plataformas y sostener un ritmo de acción difícilmente alcanzable por medios
puramente humanos. En ese plano, es comprensible que se presente como una
revolución favorable a la eficacia militar.
Sin embargo, la
fricción no debe entenderse solo como dificultad mecánica o lentitud táctica.
También incluye incertidumbre política, errores de interpretación, escalada no
deseada, dependencia tecnológica, vulnerabilidad sistémica y efectos
secundarios imposibles de modelizar por completo. Vista así, la autonomía no
elimina la fricción, sino que desplaza parte de ella desde el cuerpo humano
hacia la arquitectura técnica y desde el combate visible hacia dominios
invisibles o difícilmente auditables. El riesgo no desaparece; se deslocaliza.
La aparente limpieza del sistema puede ocultar una nueva capa de fragilidad
estratégica.
2.7.
Autonomía, compresión temporal y escalada
Uno de los factores
más desestabilizadores de la integración de IA en la guerra es la compresión
del tiempo de decisión. Cuanto más rápido detectan, correlacionan y actúan los
sistemas, menos margen queda para verificar, deliberar, desescalar o
reinterpretar señales ambiguas. Esto puede ser ventajoso tácticamente, pero
plantea un problema estratégico grave: la aceleración favorece respuestas casi
reflejas en escenarios donde una pausa humana podría ser decisiva para evitar
una escalada mayor.
La disuasión
estable exige cierto grado de legibilidad mutua y tiempo para interpretar
intenciones. Cuando ambos disminuyen, el riesgo de errores aumenta. Un sistema
puede clasificar erróneamente una maniobra, responder a un estímulo engañoso o
activar una cadena de acciones que el mando político ya no controla del todo en
tiempo real. En este sentido, la autonomía no solo baja potencialmente el
umbral de entrada al conflicto; también puede estrechar el espacio de salida
una vez que la dinámica hostil comienza. La escalada se vuelve más rápida, más
técnica y menos inteligible para la deliberación política ordinaria.
2.8.
Estabilidad estratégica o proliferación del conflicto
La gran
cuestión es si la autonomía militar fortalece la estabilidad o, por el
contrario, multiplica las oportunidades de conflicto. Los defensores de estos
sistemas sostienen que una mayor precisión, mejor conocimiento del entorno y
menor exposición de tropas pueden producir operaciones más contenidas y, por
tanto, menos destructivas. Este argumento tiene fuerza en determinados
contextos tácticos. Un sistema bien diseñado puede, efectivamente, mejorar
ciertos parámetros de eficacia y reducir algunos daños.
Pero a nivel
estratégico el balance es más inquietante. La combinación de menor coste
político inmediato, mayor confianza en la superioridad técnica, compresión
temporal, opacidad algorítmica y facilidad para respuestas asimétricas sugiere
que la autonomía puede favorecer una proliferación de acciones coercitivas
limitadas, ataques puntuales, operaciones encubiertas y confrontaciones en zona
gris. No siempre conducirá a guerras totales, pero sí puede multiplicar
episodios de violencia tecnológicamente gestionada que erosionen de forma
continua la estabilidad internacional.
2.9. La
paradoja central de la nueva disuasión
La paradoja es
clara: los sistemas autónomos se presentan como medios para controlar mejor la
guerra, pero su despliegue puede hacer más probable su uso en formas
fragmentadas, frecuentes y ambiguas. La promesa de precisión no garantiza
prudencia. La reducción de bajas propias no garantiza contención. La
superioridad algorítmica no garantiza estabilidad. En muchos casos, puede
producir exactamente lo contrario: más confianza para actuar, más tentación de
experimentar coerción limitada y más vulnerabilidad a respuestas indirectas
difíciles de anticipar.
Por ello, la
nueva doctrina de disuasión basada en IA y drones autónomos no debe evaluarse
solo por sus capacidades técnicas, sino por el tipo de comportamiento
estratégico que incentiva. Si reduce algunos costes visibles pero amplía la
disposición a usar fuerza y a gestionar la violencia como proceso técnico de
bajo umbral, entonces no estamos ante una simple mejora militar, sino ante una
transformación peligrosa de la relación entre poder y conflicto.
2.10.
Conclusión de la parte
Desde una
perspectiva rigurosa, la autonomía en el campo de batalla no elimina la
fricción de la guerra; la traslada a dominios más opacos, más veloces y
difíciles de controlar. Puede ofrecer ventajas tácticas reales, pero también
rebajar el umbral de empleo de la fuerza, reforzar ilusiones de dominio,
incentivar respuestas asimétricas y comprimir el tiempo disponible para la
prudencia estratégica. En lugar de estabilizar necesariamente el sistema, puede
hacerlo más nervioso, más fragmentado y propenso a formas de violencia continua
que se presentan como quirúrgicas, pero que erosionan silenciosamente los
frenos tradicionales del conflicto.
3. Derecho
Internacional Humanitario y la caja negra algorítmica: ¿puede una IA cumplir
con los principios de distinción y proporcionalidad?
3.1. El
núcleo del problema jurídico: decidir no es solo calcular
El Derecho
Internacional Humanitario no se limita a prohibir ciertas conductas y permitir
otras. Su estructura más profunda exige que el uso de la fuerza esté sometido a
juicio, interpretación y responsabilidad. Los principios de distinción,
proporcionalidad y precaución no funcionan como reglas mecánicas que puedan
traducirse sin resto a una secuencia de datos de entrada y salida. Exigen
comprender contextos, interpretar comportamientos ambiguos, valorar intenciones
probables, anticipar efectos indirectos y decidir bajo incertidumbre. Por eso,
la cuestión de si una inteligencia artificial puede cumplir estos principios no
depende únicamente de su capacidad de procesar grandes volúmenes de
información, sino de si ese procesamiento puede sustituir de manera
jurídicamente válida el juicio situado que el derecho presupone.
Aquí aparece la
primera tensión decisiva. Un sistema algorítmico puede clasificar objetos,
reconocer patrones, estimar trayectorias o correlacionar señales mejor que un
ser humano en determinadas condiciones. Pero cumplir el Derecho Internacional
Humanitario no consiste solo en reconocer más rápido o con más precisión
estadística. Consiste en decidir si una acción concreta, en un contexto
concreto, contra un objetivo concreto y con consecuencias previsibles pero
inciertas, es jurídicamente admisible. Ese salto entre cálculo y juicio es
precisamente el punto donde la promesa de la autonomía encuentra su límite más
profundo.
3.2. El
principio de distinción y la dificultad de interpretar la realidad humana
El principio de
distinción obliga a diferenciar entre combatientes y civiles, así como entre
objetivos militares y bienes de carácter civil. Sobre el papel puede parecer
una exigencia susceptible de automatización: bastaría con detectar uniformes,
armas, comportamientos tácticos, firmas térmicas o pautas de movimiento. Sin
embargo, la realidad del combate contemporáneo desmiente esa simplificación. En
muchos entornos, especialmente urbanos, híbridos o irregulares, la distinción
no depende de marcadores visibles estables, sino de contextos extremadamente
ambiguos. Un vehículo civil puede ser empleado con fines militares. Un
individuo armado puede ser combatiente, miembro de una fuerza irregular,
escolta, policía local o civil en autodefensa. Un edificio aparentemente
ordinario puede albergar una función operativa o no.
La dificultad
no está solo en “ver”, sino en interpretar. El derecho no exige una
identificación puramente visual, sino una valoración razonable del estatus y de
la función del objetivo. Ahí es donde la inteligencia artificial tropieza con
un problema estructural: puede reconocer formas, pero no necesariamente
comprender significados situacionales con la profundidad que el juicio jurídico
exige. La distinción no es una mera clasificación técnica de objetos; es una
inferencia normativamente cargada sobre personas, conductas y contextos.
Convertir esa inferencia en un resultado algorítmico implica correr el riesgo
de confundir correlación estadística con comprensión jurídicamente suficiente.
3.3. La
proporcionalidad no es una operación aritmética
El principio de
proporcionalidad plantea un problema aún más complejo. Prohíbe ataques en los
que el daño incidental esperado sobre civiles o bienes civiles sea excesivo en
relación con la ventaja militar concreta y directa prevista. A primera vista,
podría pensarse que una IA, capaz de modelizar variables y estimar daños,
estaría bien situada para realizar este tipo de cálculos. Pero esa intuición es
engañosa. La proporcionalidad no es una suma matemática entre dos magnitudes
conmensurables. No existe una unidad objetiva común que permita medir sin resto
la relación entre vidas civiles en riesgo y ventaja militar esperada.
Toda valoración
de proporcionalidad exige juicio prudencial. Supone estimar daños inciertos,
valorar la calidad real de la ventaja militar, ponderar escenarios
alternativos, considerar si existen medios menos lesivos y decidir bajo una
incertidumbre que nunca desaparece del todo. Una máquina puede ayudar a
modelizar parte de esa información, pero no resuelve el problema central: la
proporcionalidad implica una decisión normativa sobre lo que es aceptable en
una situación trágica. Ese tipo de decisión no se agota en el cálculo de
probabilidades. Requiere una forma de juicio que no solo compare datos, sino
que asuma responsabilidad moral y jurídica por la comparación misma.
3.4. La
precaución en el ataque y el problema de la adaptabilidad contextual
El deber de
precaución obliga a tomar todas las medidas factibles para verificar que el
objetivo es militar, elegir medios y métodos que minimicen daños incidentales
y, si es necesario, suspender o cancelar el ataque cuando surjan nuevas dudas.
Este principio introduce una dimensión dinámica que complica aún más la
automatización. No basta con evaluar una situación inicial; hay que mantener
una atención contextual capaz de revisar la decisión conforme cambian las
circunstancias.
Aquí la
autonomía se enfrenta a un problema decisivo: los entornos reales no son
estables. Cambian la iluminación, la densidad de civiles, la conducta del
objetivo, las interferencias, la información disponible y la interpretación del
mando. Una IA puede ser muy eficaz dentro de un marco entrenado, pero la
precaución exige precisamente sensibilidad ante lo no previsto, ante lo
ambiguo, ante lo que obliga a detener una secuencia aparentemente correcta
porque el contexto se ha desplazado. Esa capacidad de suspender la acción por
prudencia no es solo una función técnica; es una forma de autocontención
normativamente orientada. Y ahí es donde la autonomía letal encuentra uno de
sus límites más difíciles de salvar.
3.5. La caja
negra algorítmica y la opacidad de la decisión letal
Uno de los
problemas más graves de los sistemas contemporáneos de aprendizaje automático
es que su funcionamiento puede ser altamente eficaz en términos predictivos sin
ser plenamente explicable en términos humanos. El sistema ofrece una
clasificación, una priorización o una recomendación, pero no siempre puede
reconstruirse con claridad el itinerario cognitivo que ha conducido a ese
resultado. Esta opacidad puede ser tolerable en aplicaciones comerciales o
incluso en contextos técnicos limitados. Pero en materia letal plantea un
desafío jurídico fundamental.
El derecho
exige no solo que una decisión sea eficaz, sino que pueda ser justificada,
revisada e impugnada. Si una IA selecciona un objetivo o recomienda una acción
letal sobre la base de procesos que ni el operador ni el mando comprenden de
manera sustancial, entonces la decisión se vuelve difícilmente defendible en
términos jurídicos. La opacidad no es aquí un defecto técnico menor, sino un
obstáculo estructural para la legalidad. Una decisión letal que no puede
explicarse de forma inteligible erosiona el principio mismo de rendición de
cuentas.
3.6. Datos
históricos, sesgos y aprendizaje en contextos anómalos
Los sistemas de
aprendizaje automático dependen de datos de entrenamiento, de criterios de
etiquetado y de supuestos sobre regularidades observables. En un entorno
bélico, esto introduce una dificultad adicional. La guerra no es un espacio de
estabilidad estadística, sino de engaño, disimulación, mutación táctica y
contextos extremos. Entrenar un sistema con datos históricos no garantiza que
pueda interpretar correctamente una situación nueva, precisamente porque el
combate castiga la previsibilidad. El adversario aprende, cambia patrones,
explota puntos ciegos y produce escenarios fuera de distribución.
A ello se suma
el problema de los sesgos. Toda selección de datos, toda definición de
categorías y toda arquitectura de entrenamiento incorpora presupuestos. Si esos
presupuestos están sesgados, incompletos o son contextualmente pobres, el
sistema puede reproducir errores con apariencia de objetividad técnica. En una
aplicación letal, esta posibilidad es profundamente inquietante. El sistema no
solo puede equivocarse; puede equivocarse de forma sistemática, opaca y difícil
de detectar a tiempo. La ilusión de neutralidad algorítmica puede ocultar
decisiones profundamente condicionadas por los límites de los datos y por los
sesgos del diseño.
3.7. ¿Puede
una decisión letal algorítmica ser auditada?
La posibilidad
de auditoría es esencial para cualquier Estado de Derecho. Una acción letal
debe poder ser reconstruida: qué se sabía, qué se decidió, con qué base, bajo
qué normas, con qué márgenes de duda y quién asumió la responsabilidad. En
sistemas altamente autónomos o basados en aprendizaje complejo, esta
reconstrucción puede volverse extremadamente difícil. No basta con conservar
registros técnicos. La cuestión es si esos registros permiten comprender la
racionalidad operativa que condujo al uso de la fuerza.
El problema es
doble. Primero, puede que el sistema no sea plenamente explicable incluso para
sus diseñadores. Segundo, aunque se disponga de trazas de ejecución, estas
pueden ser incomprensibles para un tribunal, para una cadena de mando o para
una comisión de investigación. Una auditoría puramente forense, incapaz de
traducirse en explicación jurídicamente inteligible, no satisface las
exigencias de responsabilidad. El derecho no pide solo saber que la máquina
actuó de cierta manera, sino poder evaluar si esa actuación fue conforme a
norma. Si esa evaluación queda bloqueada por la complejidad u opacidad del
sistema, la compatibilidad con el Estado de Derecho se vuelve muy dudosa.
3.8. La
cadena de responsabilidad: técnica, operativa y político-jurídica
Uno de los
argumentos utilizados para defender la legalidad de estos sistemas es que
siempre habrá seres humanos detrás: programadores, fabricantes, mandos,
operadores, autoridades políticas. Sin embargo, esa afirmación no resuelve el
problema; a veces lo agrava. Cuantos más actores participan en el diseño,
despliegue y empleo de un sistema autónomo, más fácil resulta fragmentar la
responsabilidad hasta volverla difusa. El programador puede alegar que no
decidió el uso operacional. El operador puede afirmar que confió razonablemente
en el sistema. El mando puede sostener que autorizó una plataforma certificada.
La autoridad política puede refugiarse en procedimientos internos de validación
técnica.
Esta dispersión
amenaza con vaciar de contenido la rendición de cuentas. En lugar de un sujeto
claramente responsable por la decisión letal, aparece una cadena donde cada
eslabón posee solo una parte del proceso y donde el acto final emerge de una
interacción distribuida entre diseño, datos, arquitectura, activación y
contexto operacional. Desde el punto de vista jurídico, esto es extremadamente
problemático. La responsabilidad en el uso de la fuerza no puede diluirse hasta
desaparecer entre capas técnicas y burocráticas. Si la automatización genera un
escenario donde nadie puede responder plenamente, entonces no estamos ante una
mejora jurídica de la guerra, sino ante una erosión estructural de la
imputación.
3.9.
Compatibilidad formal frente a compatibilidad sustancial
Algunos
defensores de la autonomía sostienen que no es necesario exigir a la IA una
comprensión humana del derecho, sino simplemente verificar que el sistema, en
promedio o bajo determinadas condiciones, produce resultados compatibles con el
Derecho Internacional Humanitario. Esta tesis tiene una apariencia pragmática:
si el sistema distingue mejor que un soldado fatigado, reduce errores y limita
ciertos daños, entonces podría considerarse compatible desde un punto de vista
funcional.
Pero esta
defensa corre el riesgo de confundir compatibilidad formal con compatibilidad
sustancial. Que un sistema produzca algunos resultados aceptables no significa
que el proceso mediante el cual decide sea jurídicamente suficiente. El derecho
de la guerra no se ocupa solo de estadísticas agregadas de precisión. También
exige juicio contextual, posibilidad de revisión, responsabilidad imputable y
capacidad de justificar la decisión concreta. En otras palabras, no basta con
que el sistema “acierte mucho”. Hay que poder afirmar que el modo en que decide
y se integra en la cadena de mando preserva las exigencias normativas
fundamentales del uso legítimo de la fuerza. Y ahí es donde la compatibilidad
se vuelve mucho más incierta.
3.10.
Conclusión de la parte
La
automatización del juicio letal plantea un desafío que no puede resolverse con
promesas genéricas de precisión algorítmica. Los principios de distinción,
proporcionalidad y precaución no son simples reglas computables sin pérdida;
exigen interpretación, prudencia, contexto y responsabilidad. La caja negra
algorítmica, la opacidad del aprendizaje automático, la dificultad de auditoría
y la dispersión de la cadena de responsabilidad hacen muy problemático sostener
que una IA pueda asumir de forma autónoma el tipo de juicio que el Derecho
Internacional Humanitario presupone. La cuestión no es solo si la máquina puede
identificar o calcular mejor en algunos casos, sino si una decisión letal
producida por ella puede ser explicada, justificada e imputada de manera
jurídicamente válida. Mientras esa respuesta siga siendo insuficiente, la
compatibilidad entre autonomía letal plena y Estado de Derecho seguirá siendo
profundamente dudosa.
4. La
carrera armamentística en IA: ¿innovación necesaria o trampa de seguridad
colectiva?
4.1. La
inteligencia artificial militar como nuevo vector de competencia sistémica
La
incorporación de inteligencia artificial al ámbito militar no puede entenderse
como una simple modernización instrumental comparable a otras mejoras
tecnológicas del pasado. Su impacto potencial atraviesa todos los niveles de la
fuerza: mando y control, vigilancia, reconocimiento, apoyo a la decisión,
logística, guerra electrónica, ciberdefensa, sistemas no tripulados y, en su
forma más extrema, selección y empleo letal de objetivos. Precisamente por esa
transversalidad, la IA militar se ha convertido en un vector de competencia
sistémica entre grandes potencias. Ya no se trata únicamente de poseer más
medios, sino de integrar mejor que el adversario la capacidad de ver antes,
decidir antes, adaptarse antes y golpear antes.
Esta amplitud
funcional genera una presión estratégica muy particular. A diferencia de otras
armas más delimitadas, la IA no aparece como una sola capacidad que pueda
regularse o equilibrarse con relativa facilidad, sino como una tecnología de
propósito general con aplicaciones militares múltiples y cambiantes. Eso
alimenta la percepción de que quien quede rezagado no perderá solo una ventaja
puntual, sino una posición global en la arquitectura futura del poder. La
carrera no se presenta, por tanto, como una opción ideológica, sino como una
necesidad de supervivencia estratégica. Y precisamente ahí comienza el dilema.
4.2. El
dilema de seguridad aplicado a la autonomía militar
La teoría
clásica del dilema de seguridad sostiene que las medidas adoptadas por un
Estado para aumentar su propia seguridad pueden ser interpretadas por otros
como una amenaza, llevándolos a responder del mismo modo y produciendo una
espiral donde todos se sienten menos seguros. La IA militar encaja de forma
particularmente intensa en esta lógica. Cuando una potencia desarrolla sistemas
más autónomos, más veloces y más integrados, puede presentarlos como
instrumentos defensivos, de precisión o de disuasión. Sin embargo, el
adversario tenderá a leerlos como un intento de obtener superioridad decisional
y ventaja de primer movimiento.
El problema es
que esta interpretación no es irracional. En el ámbito militar, acortar el
tiempo entre detección y acción puede generar beneficios reales en caso de
conflicto. Por ello, cada mejora autónoma introducida por una potencia obliga a
las demás a preguntarse si seguirán siendo capaces de resistir, responder o
siquiera comprender lo que ocurre con la rapidez suficiente. La reacción más
probable no es la contención, sino la imitación acelerada. Así, una tecnología
que cada actor desarrolla para no quedarse atrás termina produciendo una
dinámica en la que todos corren hacia adelante por miedo al retraso, no
necesariamente por confianza en el resultado.
4.3. La
presión por llegar primero y la degradación de la prudencia
Uno de los
rasgos más peligrosos de esta carrera es su dimensión temporal. No basta con
desarrollar sistemas eficaces; hay presión para desplegarlos antes que el
rival. Esa urgencia transforma profundamente la relación entre innovación y
seguridad. En un entorno de competencia intensa, los incentivos institucionales
favorecen la rapidez, la ventaja comparativa y la disponibilidad operacional
temprana. En esas condiciones, los procesos de prueba, verificación, validación
ética y evaluación de comportamiento en escenarios complejos corren el riesgo
de ser percibidos como frenos estratégicos más que como salvaguardas
indispensables.
Aquí emerge una
paradoja muy seria. Cuanto más decisiva se percibe una tecnología, menos
probable resulta que los actores estén dispuestos a demorarse hasta comprender
plenamente sus riesgos. La presión por contar con sistemas “suficientemente
buenos” antes de que el adversario lo haga puede producir despliegues
prematuros de arquitecturas no maduras, opacas o insuficientemente auditadas.
Es decir, la carrera no solo incrementa el número de sistemas autónomos;
también puede degradar la calidad prudencial del proceso por el cual se
introducen en la fuerza. La urgencia estratégica comprime la reflexión, y esa
compresión es especialmente peligrosa cuando lo que está en juego son funciones
letales o decisionales críticas.
4.4. Estados
Unidos, China y Rusia: competencia, modelos y asimetrías
La competencia
entre grandes potencias en IA militar no es homogénea. Cada actor combina
capacidades industriales, tradiciones doctrinales, acceso a datos, estructura
político-militar y cultura estratégica de manera distinta. Estados Unidos
dispone de un ecosistema tecnológico muy poderoso, una fuerte integración entre
innovación civil y defensa, y una enorme experiencia en sistemas avanzados,
aunque también enfrenta debates internos más visibles sobre ética, doctrina y
control. China, por su parte, ha asumido la IA como componente central de su
proyección de poder futuro, con una capacidad muy notable para coordinar
ambición estatal, industria, datos y planificación estratégica de largo plazo.
Rusia, con menos base económica y tecnológica en términos agregados, tiende a
buscar ventajas en integración operativa, guerra electrónica, automatización
adaptada a su doctrina y explotación de entornos de confrontación híbrida.
Estas
diferencias no reducen la carrera; la intensifican. Cada potencia observa no
solo lo que la otra tiene hoy, sino lo que podría tener mañana si su modelo de
desarrollo funciona mejor. La incertidumbre sobre trayectorias futuras alimenta
el temor a la sorpresa estratégica. A ello se añade un elemento importante: no
todas las ventajas en IA militar exigen simetría total. Un actor puede no
igualar al otro en el conjunto del ecosistema, pero sí obtener una capacidad
puntual disruptiva en enjambres, apoyo a decisión, guerra electrónica o
integración de drones autónomos. Por eso la competición no gira solo en torno a
quién domina todo el campo, sino a quién puede lograr una ventaja
suficientemente decisiva en un área crítica.
4.5.
Innovación militar y erosión de la seguridad colectiva
La seguridad
colectiva parte de una premisa difícil pero necesaria: que la contención mutua,
las reglas compartidas y ciertos límites comunes benefician a todos más que una
carrera sin restricciones. El problema de la IA militar es que desafía esta
lógica desde dentro. Cada actor puede reconocer en abstracto que sería
preferible evitar una proliferación descontrolada de sistemas autónomos
letales. Pero, al mismo tiempo, cada uno teme que renunciar o frenar
unilateralmente equivalga a entregar al rival una ventaja futura potencialmente
decisiva.
Este conflicto
entre racionalidad colectiva y racionalidad individual es uno de los rasgos más
destructivos de la carrera armamentística en IA. Lo que sería beneficioso para
el sistema en su conjunto puede resultar estratégicamente inasumible para cada
uno de sus miembros por separado. En consecuencia, la búsqueda individual de
seguridad termina debilitando la seguridad colectiva. No porque los actores
sean irracionales, sino porque cada uno actúa dentro de un marco de
desconfianza estructural donde el peor escenario no es desarrollar demasiado,
sino desarrollar demasiado poco frente al competidor.
4.6. La
ilusión de gobernanza fácil
Con frecuencia
se plantea que los riesgos de la IA militar podrían resolverse mediante códigos
éticos, principios voluntarios o foros multilaterales de diálogo. Estos
mecanismos pueden tener cierto valor como espacios de lenguaje común, pero su
capacidad real para contener la carrera es limitada mientras persista una
percepción fuerte de rivalidad estratégica. La gobernanza internacional
funciona relativamente bien cuando los actores comparten suficiente confianza,
cuando la tecnología es delimitable y cuando los incentivos para incumplir son
bajos. Ninguna de estas condiciones se cumple plenamente en el caso de la IA
militar.
La autonomía
letal, el apoyo algorítmico al mando, los drones coordinados, la integración
sensor-efector y la automatización del combate son tecnologías de doble uso,
con fronteras borrosas entre lo civil y lo militar y con enormes incentivos
para la opacidad. Además, los Estados tienen dificultades objetivas para
verificar qué nivel real de autonomía posee un sistema, cómo se integra
doctrinalmente y qué reglas de activación lo gobiernan. En ausencia de
verificación robusta, los compromisos normativos pierden fuerza. La gobernanza
se vuelve declarativa, mientras la carrera continúa en planos menos visibles.
4.7. Teoría
de juegos: el equilibrio subóptimo de la desconfianza
Si se observa
esta dinámica desde la teoría de juegos, el panorama es especialmente
inquietante. Cada potencia preferiría un entorno en el que todas limitaran
ciertos desarrollos peligrosos, siempre que pudiera confiar en que las demás
harían lo mismo. Pero como esa confianza no existe plenamente, la estrategia
dominante tiende a ser seguir desarrollando. El resultado es un equilibrio
subóptimo: ninguno obtiene la seguridad ideal, todos incurren en costes
crecientes y el sistema en su conjunto se vuelve más inestable, pero desviarse
unilateralmente parece más arriesgado que continuar.
La IA militar
agrava este patrón porque la percepción de rezago puede ser más angustiosa que
en otras carreras armamentísticas. No solo se teme perder plataformas, sino
quedar por detrás en velocidad decisional, automatización del combate, fusión
de inteligencia y capacidad de adaptación algorítmica. En otras palabras, se
teme no solo ser más débil, sino ser más lento e incapaz de comprender el
combate del futuro en el tiempo necesario. Esa percepción empuja a invertir
incluso cuando no existe certeza de que los beneficios compensen los riesgos.
La carrera se autoalimenta a través de expectativas recíprocas de amenaza.
4.8. La
seguridad del sistema frente a la lógica del despliegue “suficientemente bueno”
En una carrera
de alta velocidad, el criterio de excelencia puede ser sustituido por el
criterio de suficiencia. No se despliega porque el sistema sea plenamente
seguro, perfectamente comprensible o doctrinalmente maduro, sino porque parece
lo bastante funcional como para no quedarse atrás. Este umbral de
“suficientemente bueno” es extremadamente problemático en materia militar, y
más aún cuando se trata de sistemas autónomos o semiautónomos con potencial
letal. Un error de clasificación, una falla de integración, una interacción
imprevista entre módulos o una vulnerabilidad explotable no son defectos
menores; pueden traducirse en escalada, daño colateral o pérdida de control
operativo.
Además, cuanto
más se normaliza el despliegue de sistemas incompletamente comprendidos, más se
desplaza la cultura institucional desde la prudencia hacia la adaptación sobre
la marcha. En lugar de exigir certeza razonable antes del uso, se acepta
aprender mediante empleo operativo, corrección continua y experiencia de campo.
Este enfoque puede ser tolerable en algunos entornos tecnológicos, pero es
profundamente riesgoso cuando afecta decisiones de fuego, identificación de
amenazas o automatización de respuesta. La carrera, por tanto, no solo
multiplica sistemas; puede transformar peligrosamente los estándares de
aceptación del riesgo.
4.9.
¿Innovación necesaria o trampa de seguridad colectiva?
La pregunta
central de esta parte no admite una respuesta puramente binaria. La innovación
en IA militar responde a necesidades reales: entornos saturados, velocidad de
combate, volumen de datos, protección de fuerzas y exigencia de adaptación ante
adversarios que también innovan. Negar esa realidad sería ingenuo. Pero
reconocerla no obliga a aceptar que toda dinámica competitiva asociada a ella
sea saludable o inevitablemente beneficiosa. La carrera actual contiene
elementos claros de trampa de seguridad colectiva, porque obliga a cada actor a
perseguir una ventaja que, cuando todos persiguen a la vez, termina debilitando
la estabilidad común.
La verdadera
cuestión, por tanto, no es elegir entre innovación o inmovilismo, sino
determinar si es posible innovar sin quedar atrapados en una lógica donde la
desconfianza mutua destruye los incentivos para la contención. Mientras esa
cuestión no se resuelva, la militarización de la IA seguirá avanzando en un
terreno estructuralmente inestable: demasiado importante como para renunciar a
ella, demasiado peligrosa como para confiar plenamente en su desarrollo
competitivo sin límites compartidos.
4.10.
Conclusión de la parte
La carrera
armamentística en inteligencia artificial militar no debe interpretarse solo
como una competencia por sistemas más eficaces, sino como una dinámica de
seguridad profundamente ambivalente. Cada actor persigue ventaja para
protegerse, pero al hacerlo alimenta la inseguridad del resto y acelera una
espiral que reduce la prudencia, premia el despliegue temprano y debilita la
posibilidad de una gobernanza robusta. La innovación es real y sus aplicaciones
militares también, pero el marco estratégico en que se desarrolla tiende a
convertirla en una trampa: un proceso en el que la búsqueda individual de
seguridad produce, en conjunto, un sistema más opaco, más nervioso y
potencialmente más peligroso para todos.
5.
Vulnerabilidad sistémica y guerra algorítmica: ¿resiliencia o fragilidad
aumentada?
5.1. La
promesa de resiliencia y su reverso oculto
Uno de los
argumentos más repetidos en favor de los sistemas militares basados en
inteligencia artificial es que aumentan la resiliencia operativa. Se sostiene
que, al poder funcionar con mayor autonomía, procesar información localmente y
actuar sin depender en todo momento de instrucciones humanas detalladas, estos
sistemas serían especialmente útiles en entornos degradados, con comunicaciones
interrumpidas, guerra electrónica intensa o cadenas de mando sometidas a
presión extrema. Bajo esta lógica, la autonomía permitiría seguir combatiendo
incluso cuando la arquitectura tradicional de mando y control se viera
parcialmente negada.
Sin embargo,
esa promesa contiene un reverso que rara vez se presenta con la misma claridad.
Cuanto más complejos, más conectados y más dependientes de modelos, sensores,
software, datos de entrenamiento y cadenas tecnológicas son estos sistemas, más
amplia se vuelve también la superficie de vulnerabilidad que incorporan. La
autonomía puede reducir algunas dependencias inmediatas, pero al mismo tiempo
crea otras de naturaleza mucho más difícil de detectar y de proteger. Lo que se
gana en continuidad operacional local puede perderse en profundidad sistémica.
La resiliencia, por tanto, no puede medirse solo por la capacidad de seguir
actuando sin enlace directo, sino por la robustez completa del ecosistema que
permite a la máquina decidir correctamente.
5.2. La
autonomía no elimina la dependencia: la desplaza
Existe una
tentación doctrinal de pensar que un sistema autónomo, por ser menos
dependiente de órdenes continuas, es automáticamente menos vulnerable. Pero
esta conclusión es simplista. En realidad, la dependencia no desaparece; cambia
de lugar. Ya no recae únicamente sobre la transmisión de órdenes desde una
cadena de mando, sino sobre la integridad de los modelos, la fiabilidad de los
sensores, la robustez de la navegación, la autenticidad de los datos de
entrada, la seguridad del software, la inmunidad frente a manipulación y la
coherencia entre arquitectura técnica y contexto operacional.
Esta mutación
es estratégica. En sistemas convencionales, muchas vulnerabilidades eran
visibles y relativamente comprensibles: pérdida de comunicaciones, avería
mecánica, destrucción de una plataforma, descoordinación táctica. En sistemas
algorítmicos, en cambio, puede aparecer una degradación silenciosa. El sistema
sigue funcionando, sigue clasificando, sigue navegando, sigue recomendando,
pero lo hace sobre bases sutilmente corrompidas o engañadas. Esa posibilidad es
especialmente peligrosa porque produce una ilusión de continuidad. El sistema
no parece fallar de forma abierta; simplemente comienza a decidir peor sin que
el operador o el mando detecten de inmediato que el problema reside en la
propia arquitectura cognitiva del arma.
5.3. Ataques
adversarios y fragilidad perceptiva
Una de las
vulnerabilidades más inquietantes de la guerra algorítmica es la posibilidad de
ataques adversarios. Un sistema de inteligencia artificial puede comportarse
con gran eficacia en condiciones normales y, sin embargo, resultar
sorprendentemente frágil ante perturbaciones mínimas pero diseñadas
específicamente para engañar sus mecanismos de clasificación o reconocimiento.
Un pequeño cambio en la señal, en la imagen, en el entorno sensorial o en la
forma de presentación del objetivo puede inducir errores que no serían
intuitivos para un observador humano, pero que alteran radicalmente la
interpretación de la máquina.
Este problema
tiene implicaciones militares profundas. Un sistema que parece identificar
correctamente amenazas puede ser inducido a no verlas, a verlas donde no
existen o a categorizarlas de forma errónea. La gravedad no reside solo en el
fallo puntual, sino en la posibilidad de explotar sistemáticamente la lógica
perceptiva del sistema. Si un adversario comprende cómo engañar la arquitectura
de reconocimiento, puede convertir la ventaja algorítmica del enemigo en un
punto ciego operativo. La inteligencia artificial, presentada a menudo como
ampliación de la percepción, puede así volverse una nueva forma de miopía
altamente sofisticada.
5.4.
Sensores, spoofing e interferencia del entorno
La mayoría de
los sistemas autónomos dependen de sensores para construir su imagen del mundo.
Cámaras, radares, lidar, navegación satelital, firmas térmicas, señales
electromagnéticas o datos fusionados alimentan la cadena de percepción que
sostiene la decisión. Pero si los sensores son interferidos, engañados o
saturados, la autonomía pierde uno de sus supuestos fundamentales: que la
representación del entorno es lo bastante fiable como para actuar sobre ella.
Aquí aparece una vulnerabilidad central: la inteligencia del sistema depende de
la calidad del mundo que recibe, y ese mundo puede ser manipulado.
El spoofing de
navegación, la falsificación de señales, la saturación de sensores, el uso de
señuelos, la alteración del espectro electromagnético o la creación deliberada
de entornos ambiguos pueden hacer que un sistema autónomo actúe con plena
confianza sobre una percepción falsa. En esos casos, la máquina no solo falla;
falla con convicción. Y eso puede ser más peligroso que la mera pérdida del
sistema, porque produce decisiones erróneas con apariencia de normalidad
operacional. La guerra algorítmica convierte así el entorno perceptivo en un
campo de batalla decisivo. Quien domine la manipulación del sensor puede
degradar toda la arquitectura de decisión del adversario.
5.5. La
manipulación de datos de entrenamiento y el problema del envenenamiento
Otra fragilidad
crítica se encuentra antes incluso del despliegue. Los sistemas de inteligencia
artificial aprenden a partir de datos, etiquetas, simulaciones y modelos de
entrenamiento. Si esa base está contaminada, sesgada o manipulada, el problema
queda incrustado en el sistema desde su origen. Esto abre la posibilidad del
llamado envenenamiento de datos: introducir patrones, ejemplos o asociaciones
que alteren el comportamiento futuro del modelo sin necesidad de atacar la
plataforma en combate. Se trata de una forma de sabotaje silencioso,
especialmente peligrosa porque puede pasar inadvertida durante fases de prueba
y activarse solo bajo ciertas condiciones operativas.
En el plano
militar, esto significa que una vulnerabilidad estratégica puede nacer muy
lejos del campo de batalla. Puede surgir en la cadena de adquisición de datos,
en la subcontratación tecnológica, en el etiquetado de imágenes, en el uso de
bases compartidas o en la dependencia de ecosistemas digitales cuya integridad
no está plenamente asegurada. La autonomía no empieza en el dron que vuela ni
en el software que dispara; empieza mucho antes, en el proceso de formación de
la lógica con la que el sistema interpretará el mundo. Si esa lógica ha sido
alterada, la máquina puede llevar el sabotaje dentro de sí misma.
5.6. Cadenas
de suministro tecnológicas y dependencia estratégica
La guerra
algorítmica no depende solo de software brillante o de buenos modelos. Descansa
también sobre una cadena de suministro compleja: semiconductores, sistemas
embebidos, módulos de navegación, sensores, firmware, librerías, nubes de
entrenamiento, componentes ópticos y una vasta infraestructura industrial
globalizada. Cuanto más sofisticado es un sistema, más actores, territorios y
capas técnicas intervienen en su construcción. Esto introduce una
vulnerabilidad estructural de enorme importancia: la fuerza militar ya no
depende solo de arsenales y plataformas nacionales, sino de ecosistemas
tecnológicos profundamente interdependientes.
Esta
dependencia genera múltiples riesgos. Puede haber puertas traseras, componentes
comprometidos, restricciones de acceso, sabotaje en origen, dependencia de
proveedores estratégicos o imposibilidad de sustitución rápida en caso de
crisis. La cadena de suministro se convierte así en parte del campo de batalla.
La superioridad tecnológica puede esconder una dependencia crítica de elementos
cuya producción, mantenimiento o actualización escapan al control soberano
completo del Estado que emplea el sistema. La autonomía militar, lejos de
asegurar autosuficiencia, puede revelar una nueva forma de vulnerabilidad
estratégica: la dependencia invisible de una arquitectura tecnológica global
que puede fracturarse o ser explotada en el momento más delicado.
5.7. ¿Más
resiliencia en entornos negados o riesgo de degradación súbita?
Es cierto que
la autonomía ofrece ventajas reales en entornos donde las comunicaciones se
degradan. Un dron o sistema no tripulado con capacidad de navegación,
priorización de tareas o adaptación básica puede seguir operando cuando una
plataforma dependiente de enlace constante quedaría ciega o inerte. Esta
característica es militarmente valiosa. En escenarios de negación electrónica,
dispersión extrema o combate rápido, la posibilidad de conservar funcionalidad
local sin guía permanente puede marcar diferencias tácticas importantes.
Pero esa
ventaja no debe confundirse con invulnerabilidad. Lo que hace más resiliente a
un sistema en un plano puede volverlo más frágil en otro. Si la comunicación se
pierde y el sistema debe operar con autonomía plena sobre una percepción
degradada, con sensores engañados o con contexto insuficiente, puede mantener
la acción precisamente cuando más debería suspenderla. Ahí aparece el riesgo de
degradación súbita: la plataforma sigue activa, pero lo hace cada vez más
desvinculada de una comprensión fiable del entorno y de un juicio corrector
externo. La continuidad operativa, que parecía fortaleza, puede transformarse
en perseverancia ciega.
5.8. El
riesgo de captura, secuestro o inversión de la ventaja tecnológica
Otra
vulnerabilidad especialmente grave es la posibilidad de toma de control hostil,
secuestro funcional o inversión de la ventaja tecnológica. Un sistema autónomo
o semiautónomo no necesita ser destruido para dejar de beneficiar a quien lo
despliega. Basta con que sea capturado digitalmente, redirigido, engañado o
convertido en fuente de inteligencia para el adversario. En sistemas altamente
conectados, la línea entre inutilización y explotación puede volverse muy
delgada.
Esto tiene
consecuencias estratégicas muy serias. Una fuerza que basa parte de su
superioridad en la confianza en sus sistemas autónomos puede ver cómo esa
confianza se vuelve un punto de colapso si el adversario logra alterar su
comportamiento, obtener acceso a sus patrones, forzar errores repetidos o
incluso reutilizar componentes o software capturados. La autonomía, por tanto,
no solo genera nuevas capacidades; genera también nuevas formas de
reversibilidad de la ventaja. Lo que hoy parece superioridad puede mañana
convertirse en una puerta de entrada para la vulneración del sistema entero.
5.9.
Fragilidad técnica y confianza doctrinal
Existe además
una dimensión doctrinal del problema. Cuanto más éxito atribuye una
organización militar a sus sistemas algorítmicos, más tiende a integrarlos en
procedimientos, expectativas operativas y cultura de mando. Esa integración
puede ser racional y eficaz, pero produce también una dependencia cognitiva
institucional. El sistema no solo hace cosas; reconfigura la forma en que la
fuerza piensa, planifica y combate. Si más tarde se revela una vulnerabilidad
crítica, el daño no será únicamente técnico, sino doctrinal. La organización
entera habrá construido parte de su comportamiento sobre una confianza que
quizá era excesiva.
Este riesgo es
especialmente agudo porque las tecnologías complejas tienden a generar
prestigio interno. Si algo funciona en pruebas, ejercicios o primeros empleos,
la tentación es extrapolar su fiabilidad a escenarios mucho más hostiles y
adaptativos. Pero el combate real castiga precisamente esa extrapolación. La
confianza doctrinal puede convertir una fragilidad técnica en una
vulnerabilidad sistémica. No falla solo el sistema; falla la organización que
ha aprendido a depender de él.
5.10.
Conclusión de la parte
La guerra
algorítmica no debe pensarse únicamente en términos de superioridad funcional,
sino también de fragilidad estructural. Los sistemas autónomos prometen
resiliencia en determinados entornos y pueden ofrecerla de forma real en
condiciones concretas, pero al mismo tiempo introducen nuevas superficies de
ataque: ataques adversarios, sensores engañados, datos envenenados, cadenas de
suministro comprometidas, captura de sistemas, degradación silenciosa y
dependencia doctrinal excesiva. La autonomía no resuelve la vulnerabilidad
militar; la transforma. Y en algunos casos, la profundiza. La gran cuestión no
es si estos sistemas pueden funcionar muy bien cuando todo sale según lo
previsto, sino qué ocurre cuando el adversario convierte precisamente esa previsibilidad
algorítmica en el punto de ruptura del sistema. Allí se decide si la autonomía
fortalece realmente la resiliencia o si, bajo la promesa de robustez, está
introduciendo una fragilidad más compleja y potencialmente más peligrosa que la
que pretendía superar.
6. Ética del
combate y deshumanización de la guerra: ¿eficiencia operativa o erosión del
juicio moral?
6.1. El
problema ético de fondo: no solo cómo se combate, sino quién carga con el acto
La cuestión
moral de la autonomía letal no puede reducirse a una comparación entre mayor o
menor eficacia técnica. El problema de fondo es más radical: qué ocurre con la
responsabilidad humana cuando la decisión de matar se distribuye entre
sensores, modelos, sistemas de clasificación, arquitecturas de mando y
plataformas capaces de actuar con creciente independencia funcional. La guerra
siempre ha sido una actividad técnicamente mediada, pero esa mediación no había
eliminado del todo la centralidad del sujeto que decide, asume y responde. Con
la inteligencia artificial militar, esa centralidad comienza a desplazarse.
Aquí se juega
algo esencial. El uso de la fuerza no es moralmente grave solo por sus
consecuencias materiales, sino porque implica una decisión sobre la vida ajena
tomada en condiciones extremas. Esa gravedad exige que alguien no solo ejecute
o autorice, sino que soporte éticamente la decisión. Si el sistema transforma
el acto de matar en una secuencia distribuida donde ningún individuo concentra
ya plenamente el juicio, la guerra no se vuelve solo más tecnológica; se vuelve
también moralmente más difusa. Y esa difusión no es neutral: puede ser el
inicio de una erosión estructural del peso moral de la violencia.
6.2.
Distancia física, distancia cognitiva y distancia moral
Desde hace
tiempo, la tecnología militar ha introducido distancia entre el combatiente y
el objetivo. La artillería, la aviación, los misiles o los drones pilotados ya
alejaron al operador del contacto físico directo con la violencia. Sin embargo,
la inteligencia artificial añade una nueva capa: la distancia cognitiva. No
solo se mata a distancia, sino que se decide a través de una mediación
algorítmica que reordena la percepción, la interpretación y la priorización del
blanco. El operador o el mando no se enfrentan directamente al acontecimiento,
sino a una representación procesada por la máquina.
Esta distancia
cognitiva puede convertirse en distancia moral. Cuanto más mediada está la
percepción del objetivo, más fácil resulta que el acto letal sea vivido como
una operación técnica de gestión de amenazas y no como una decisión trágica
sobre seres humanos concretos. La abstracción algorítmica puede enfriar la
conciencia del daño real. No porque los operadores pierdan necesariamente toda
sensibilidad, sino porque el propio sistema organiza la experiencia de forma
que la violencia aparece depurada, optimizada y reducida a flujos de datos,
categorías de riesgo y probabilidades de éxito. La guerra, en ese marco, corre
el riesgo de presentarse como un problema técnico antes que como un drama
moral.
6.3. La
promesa moral de la precisión y sus límites
Los defensores
de los sistemas autónomos suelen invocar un argumento poderoso: si una
inteligencia artificial puede identificar mejor, reaccionar más rápido y
ejecutar con mayor precisión que un ser humano fatigado, asustado o sometido a
estrés extremo, entonces podría reducir daños colaterales y hacer la guerra
menos cruel. Este argumento no debe ser descartado superficialmente. Hay
contextos en los que una mejor discriminación técnica podría, en efecto,
limitar ciertos errores humanos y evitar algunas formas de violencia
indiscriminada.
Pero esa
promesa tiene límites profundos. En primer lugar, porque la precisión
instrumental no agota el problema moral del combate. Una muerte técnicamente
más precisa no deja por ello de ser una muerte decidida en un marco de
responsabilidad que debe seguir siendo humano. En segundo lugar, porque la
precisión puede convertirse en coartada. Si la guerra se percibe como más
limpia, más exacta y más controlable, aumenta el riesgo de normalizar su
empleo. En ese caso, la mejora táctica local puede ir acompañada de una
degradación ética global: menos error visible en algunos ataques, pero más
facilidad política y psicológica para recurrir a la violencia.
6.4. La
deshumanización no consiste solo en matar sin ver, sino en decidir sin
comprender plenamente
Con frecuencia
se entiende la deshumanización de la guerra como una pérdida de contacto físico
o emocional con el enemigo. Pero en el contexto de la IA militar, la
deshumanización tiene una dimensión más sutil y más profunda. Consiste también
en desplazar la decisión hacia sistemas que no comprenden en sentido humano el
significado de aquello sobre lo que actúan. Un algoritmo puede detectar una
amenaza, clasificar un patrón o seleccionar un objetivo, pero no sabe lo que es
una vida, no conoce el valor de la vulnerabilidad, no experimenta la
irreversibilidad moral del acto letal. Opera sobre correlaciones, no sobre
significados vividos.
El problema
ético surge cuando esa ausencia de comprensión se integra en la cadena de
decisión de forma cada vez más central. No se trata solo de que la máquina no
sienta; se trata de que la estructura completa del combate puede empezar a
organizarse desde una lógica donde lo relevante es la eficiencia de la
clasificación y la optimización del resultado, no el espesor moral del acto.
Cuando esto ocurre, la deshumanización ya no es una metáfora. Es una
transformación material del modo en que la fuerza se piensa y se aplica.
6.5.
Eficiencia operativa y vaciamiento del juicio
La ética del
combate siempre ha convivido con la exigencia de eficacia. Quien conduce
operaciones no puede ignorar la necesidad de proteger a sus fuerzas, cumplir la
misión y reducir riesgos. Pero precisamente por eso resulta tan importante no
confundir eficiencia con suficiencia moral. Un sistema puede ser operativamente
brillante y, sin embargo, plantear un problema ético irresuelto si la manera en
que produce sus resultados erosiona la responsabilidad humana o banaliza la
decisión de matar.
La tensión
aparece cuando el juicio moral comienza a percibirse como una fricción incómoda
frente a la velocidad y limpieza del sistema técnico. En ese punto, la
deliberación deja de ser un componente esencial del uso legítimo de la fuerza y
pasa a verse como un obstáculo a optimizar. La lógica de la eficiencia tiende
entonces a colonizar el espacio de la responsabilidad. Lo que no puede
acelerarse, automatizarse o traducirse a parámetros parece residual. Pero
justamente ahí, en lo no plenamente optimizable, reside la dignidad moral del
juicio humano. El peligro no es solo que la máquina haga más cosas, sino que el
ser humano acepte pensar menos porque el sistema le ofrece una vía más rápida y
aparentemente más segura.
6.6. El
mando militar y la erosión del peso moral de decidir
En el liderazgo
militar, decidir el uso de la fuerza nunca ha sido una operación neutra. Supone
asumir el riesgo para los propios, aceptar la posibilidad de error, medir
consecuencias y cargar con una decisión que afecta vidas humanas en ambos
lados. Esa carga forma parte inseparable del mando. No es un defecto del
sistema; es uno de sus límites morales internos. La autoridad legítima no
consiste solo en poder ordenar, sino en soportar el peso de ordenar.
La autonomía
algorítmica puede alterar esta relación. Si la selección, priorización o
ejecución letal aparecen crecientemente mediadas por sistemas que “recomiendan”
o “resuelven” con superioridad técnica aparente, el mando corre el riesgo de
desplazarse desde la responsabilidad por decidir hacia la responsabilidad por
validar procedimientos. Esto modifica el ethos del liderazgo. El comandante ya
no aparece tanto como quien decide trágicamente entre alternativas humanas,
sino como quien gestiona una arquitectura tecnológica de alto rendimiento. La
autoridad se tecnifica. Y con ello puede perderse una parte esencial del freno
moral que históricamente ha acompañado al acto de mandar en combate.
6.7. La
banalización del acto letal
Uno de los
mayores riesgos éticos de la autonomía militar es la banalización del acto
letal. No porque quienes emplean estos sistemas sean necesariamente frívolos,
sino porque la estructura tecnológica tiende a transformar la violencia en un
procedimiento. Cuanto más integrada está la decisión en una cadena de
identificación, puntuación, priorización y respuesta, más probable es que el
ataque sea percibido como la salida lógica de un flujo de procesamiento. La
muerte deja de aparecer como ruptura moral y empieza a presentarse como
resultado técnico coherente.
Esta
banalización no necesita manifestarse en discursos explícitos. Puede instalarse
silenciosamente en la cultura operativa. Se habla de eficiencia, de reducción
de fricción, de superioridad de datos, de objetivos neutralizados, de ciclos de
decisión optimizados. Todo ello puede ser militarmente comprensible, pero
también puede actuar como lenguaje anestésico. El riesgo no es solo matar más o
mejor, sino aprender a pensar la muerte como una externalidad administrable del
sistema. Y cuando eso sucede, la guerra pierde parte de la conciencia trágica
que todavía la vinculaba, aunque de forma imperfecta, a un límite moral.
6.8.
¿Preservar vidas propias justifica delegar el juicio letal?
Uno de los
argumentos éticamente más fuertes a favor de la autonomía es la obligación de
proteger a las propias fuerzas. Desde cualquier perspectiva de mando
responsable, reducir la exposición de soldados a riesgos evitables es un
objetivo legítimo e incluso imperativo. Si un sistema autónomo puede asumir
tareas extremadamente peligrosas y preservar vidas propias, el incentivo moral
y político para desarrollarlo es muy poderoso.
Sin embargo, de
esa premisa no se sigue automáticamente que pueda delegarse también el juicio
letal. Proteger a los propios puede justificar el uso de sistemas no
tripulados, de apoyo a decisión, de reconocimiento o de defensa automatizada en
determinados contextos. Pero el salto desde reducir exposición hasta entregar a
la máquina una parte sustancial del juicio sobre quién debe morir exige una
justificación mucho más exigente. No todo lo que salva vidas propias es
moralmente admisible si el precio es vaciar la responsabilidad humana del acto
de matar. La defensa de los propios no puede convertirse en una licencia para
desanclar la violencia de su sujeto moral.
6.9. La
dignidad del combate y el riesgo de una guerra gestionada algorítmicamente
Hablar de
dignidad del combate no significa romantizar la guerra. Significa reconocer que
incluso en su brutalidad extrema existen límites que remiten a la humanidad
irreductible de quienes deciden, combaten y padecen. Entre esos límites está la
idea de que la fuerza legítima no puede desligarse completamente del juicio
humano. La guerra puede ser inevitable en algunos casos; lo que no debería
volverse inevitable es que se convierta en una pura gestión algorítmica de
amenazas donde el acto letal queda absorbido por una lógica de optimización.
Si ese proceso
se consolida, la guerra cambiará de naturaleza en un sentido moral decisivo. No
será solo más tecnológica, sino más administrada, más abstracta y menos ligada
a la experiencia ética de decidir. El enemigo se convertirá cada vez más en
firma, patrón, dato, trayectoria, probabilidad. Y aunque toda guerra ha tendido
a objetivar al adversario, la mediación algorítmica puede llevar esa
objetivación a una escala inédita. La dignidad del combate no consiste en
hacerlo noble, sino en impedir que quede completamente reducido a una operación
técnica sin sujeto moral reconocible.
6.10. El
punto decisivo
La pregunta
final no es si la inteligencia artificial puede hacer la guerra más eficaz.
Probablemente, en muchos aspectos, puede. Tampoco es solo si puede reducir
ciertos daños concretos. La pregunta decisiva es otra: si una guerra cada vez
más mediada por algoritmos preserva todavía el espacio humano donde la
violencia puede ser deliberada, contenida y asumida moralmente. Si ese espacio
se estrecha demasiado, la mejora técnica habrá venido acompañada de una pérdida
mucho más grave: la erosión del juicio humano como límite interior del uso de
la fuerza.
Por eso, la
cuestión ética de la autonomía militar no puede resolverse con métricas de
precisión ni con promesas de rendimiento. Se resuelve en la respuesta a una
pregunta más antigua y más severa: quién sigue siendo responsable, en sentido
pleno, cuando una máquina interviene cada vez más en la decisión de matar. Si
no podemos responder a esa pregunta sin ambigüedad creciente, entonces la
eficiencia operativa no estará perfeccionando moralmente la guerra, sino
empujándola hacia una forma de deshumanización más profunda, más ordenada y más
difícil de percibir precisamente porque se presenta como progreso.
Conclusión
La
militarización de la inteligencia artificial y el desarrollo de drones
autónomos representan una transformación de alcance mucho mayor que una simple
innovación técnica en el arte de la guerra. A lo largo del artículo ha quedado
claro que no estamos ante un cambio limitado a la mejora de sensores,
plataformas o sistemas de apoyo, sino ante una mutación progresiva del lugar
donde se forma el juicio letal. Ese desplazamiento es el núcleo real del
problema. La cuestión decisiva no es solo qué puede hacer la máquina, sino qué
ocurre con la responsabilidad humana cuando la identificación, la priorización,
la recomendación y la eventual ejecución de la fuerza pasan a estar mediadas
por arquitecturas algorítmicas cada vez más complejas, rápidas y opacas.
La primera gran
conclusión es que el llamado control humano no puede ser entendido de manera
puramente formal. La presencia de un operador, de una autorización final o de
una capacidad residual de supervisión no garantiza por sí sola que el ser
humano conserve una intervención moralmente significativa. Cuando la velocidad
de los sistemas, la compresión temporal del combate y la mediación algorítmica
reducen al humano a una función de validación acelerada, el control puede
mantenerse nominalmente mientras se vacía sustancialmente de contenido. La
línea crítica no se encuentra, por tanto, entre presencia y ausencia humana en
sentido físico, sino entre juicio humano real y participación humana simbólica.
La segunda
conclusión es que la integración de IA y autonomía en el campo de batalla
modifica profundamente la lógica de la disuasión y de la escalada. La promesa
de guerras más precisas, más rápidas y con menos bajas propias puede rebajar el
umbral político y psicológico para el uso de la fuerza. Lo que se presenta como
superioridad técnica puede alimentar una peligrosa ilusión de control,
incentivando acciones coercitivas limitadas bajo la idea de que el conflicto
puede ser gestionado con costes reducidos. Pero la guerra no desaparece como
fricción; simplemente se desplaza hacia dominios más opacos: ciberataques,
manipulación de datos, enjambres baratos, escaladas automáticas y
vulnerabilidades sistémicas difíciles de anticipar. La autonomía no garantiza
estabilidad; puede, por el contrario, fragmentar y hacer más frecuente la
violencia.
La tercera gran
conclusión se sitúa en el plano jurídico. El Derecho Internacional Humanitario
exige algo más que precisión estadística o reducción relativa de errores. Exige
distinción, proporcionalidad, precaución y, sobre todo, responsabilidad imputable.
Los sistemas algorítmicos, especialmente aquellos basados en aprendizaje
automático y lógica parcialmente opaca, pueden ayudar a procesar información,
pero encuentran límites profundos cuando deben asumir decisiones que dependen
de contexto, interpretación, prudencia y justificación posterior. Una decisión
letal no es jurídicamente válida solo porque produzca un resultado
aparentemente eficaz; debe poder ser explicada, auditada, impugnada e imputada.
Mientras la caja negra algorítmica y la fragmentación de responsabilidades
dificulten esos requisitos, la compatibilidad plena entre autonomía letal y
Estado de Derecho seguirá siendo extremadamente dudosa.
La cuarta
conclusión afecta al equilibrio estratégico internacional. La carrera
armamentística en IA no responde únicamente a una voluntad abstracta de
innovación, sino a una dinámica clásica y peligrosa de dilema de seguridad.
Cada potencia teme quedar rezagada en una tecnología que podría redefinir la
velocidad del combate, la calidad del mando, la integración sensor-efector y la
eficacia de la coerción militar. Esa percepción empuja a acelerar desarrollos,
a reducir tiempos de verificación y a valorar el despliegue temprano de
sistemas “suficientemente buenos” antes que la maduración prudente de sistemas
plenamente comprendidos y auditados. El resultado es una trampa de seguridad
colectiva: todos persiguen más seguridad mediante la innovación autónoma, pero
el sistema en su conjunto se vuelve más inestable, más desconfiado y más
proclive a errores estratégicos.
La quinta
conclusión se refiere a la vulnerabilidad estructural de la guerra algorítmica.
Los sistemas autónomos prometen resiliencia, especialmente en entornos
degradados o con comunicaciones negadas, pero esa promesa convive con una
ampliación radical de la superficie de ataque. Ataques adversarios,
envenenamiento de datos, engaño de sensores, secuestro funcional, cadenas de
suministro comprometidas y dependencia doctrinal excesiva convierten la
supuesta superioridad algorítmica en una fuente potencial de fragilidad
crítica. La autonomía no elimina la vulnerabilidad; la reconfigura en formas
más complejas, menos visibles y, en ocasiones, más difíciles de corregir. Un
sistema puede seguir operando mientras ya está decidiendo sobre una percepción
falseada del entorno, y esa continuidad degradada puede ser más peligrosa que
el fallo abierto.
Pero es en la
última dimensión donde el artículo encuentra su punto más grave: la ética del
combate. Delegar decisiones de vida o muerte a sistemas autónomos no es solo
una opción táctica o doctrinal, sino una alteración del vínculo entre violencia
y juicio moral. La inteligencia artificial puede aumentar precisión, reducir
algunas bajas propias y mejorar ciertos parámetros operativos. Sin embargo, si
al hacerlo transforma el acto letal en una secuencia técnica cada vez más
abstraída del peso humano de decidir, entonces la mejora funcional habrá venido
acompañada de una erosión moral profunda. La deshumanización de la guerra no
consiste únicamente en matar a distancia, sino en decidir a través de sistemas
que no comprenden lo que una vida humana significa y que pueden convertir la
violencia en un procedimiento optimizado, más administrable y, precisamente por
ello, más fácil de normalizar.
En el fondo,
todo el debate desemboca en una cuestión esencial: si la guerra puede seguir
estando moralmente contenida cuando el juicio humano deja de ocupar el centro
efectivo de la decisión. La técnica siempre ha acompañado al combate, pero
nunca hasta este punto había aspirado a sustituir parcialmente funciones que
pertenecían al núcleo irreductible de la responsabilidad humana. La gran
tentación del siglo XXI será presentar esa sustitución como simple progreso,
como un refinamiento inevitable de la eficacia militar. Sin embargo, el
verdadero problema no está en que la máquina ayude, sino en que el ser humano
se acostumbre a decidir menos porque el sistema le ofrece hacerlo más deprisa,
con menos fricción visible y con una apariencia de neutralidad que puede
ocultar la desaparición del sujeto moral.
Por ello, la
militarización de la inteligencia artificial debe ser contemplada no solo como
una cuestión de innovación o superioridad estratégica, sino como una prueba
decisiva de civilización. De cómo se responda a este desafío dependerá no solo
la forma futura de los conflictos, sino también la continuidad de un principio
fundamental: que el uso legítimo de la fuerza no puede desligarse por completo
de una voluntad humana capaz de comprender, deliberar y responder por lo que
hace. Si ese principio se diluye, la guerra podrá volverse más precisa, más
rápida y más automatizada, pero también más fría, más opaca y más peligrosa
para la propia idea de responsabilidad sobre la que descansa cualquier orden
político que aspire todavía a llamarse humano.
Comentarios
Publicar un comentario