Inteligencia artificial y el
futuro de la guerra. ¿Hasta dónde llega hoy? ¿Y qué podemos esperar?
La Vanguardia. 28/12/2020. Clarín.com. Mundo
Los ejércitos integran
regularmente las innovaciones tecnológicas para mejorar sus capacidades y
tratar de dominar a sus adversarios. La inteligencia artificial (IA) no
constituye una excepción a la regla y es objeto ahora de gran interés. China
publicó en julio del 2017 el Plan de Desarrollo para la Nueva Generación de
Inteligencia Artificial con el objetivo de convertirse en el 2030 en la
principal potencia mundial en ese ámbito. Estados Unidos respondió en febrero
del 2019 anunciando el lanzamiento de la Iniciativa de Inteligencia Artificial
Estadounidense. De hecho, más de treinta países, incluidas las principales
potencias militares, proponen hoy una estrategia nacional o iniciativas para
aprovechar las oportunidades que ofrece esa prometedora tecnología.
Sin embargo, este entusiasmo
suele causar preocupación entre el público en general. Por influencia de
películas como Matrix o Terminator, el ciudadano corriente se pregunta si las
máquinas no acabarán desempeñando un papel cada vez más dominante en el campo
de batalla, limitando inexorablemente el lugar del hombre y deshumanizando la
guerra. ¿Serán los avances en IA tan impresionantes que anularán el arte de la
guerra y nos llevarán inexorablemente al Armagedón?
El primer escollo que debemos
superar en los debates sobre la IA es la definición de la tecnología. Dada la
gran diversidad de aplicaciones, no hay todavía consenso sobre ese punto. Por
lo tanto, nos referiremos aquí a ella sencillamente como los programas
informáticos de mañana. Esa tecnología es reciente y debemos distinguir entre
lo que ya puede hacer y lo que podría llegar a lograr. La IA débil, que es una
realidad en algunos ámbitos, resuelve problemas específicos y limitados. Una IA
fuerte —que, a día de hoy, es sólo una promesa— sería capaz de llevar a cabo el
conjunto de las tareas realizadas por los humanos.
Actuales aplicaciones
militares
En el terreno militar, existen
ya numerosas aplicaciones. Probablemente la más destacada sea el proyecto
Maven. A los operadores estadounidenses que explotan imágenes y grabaciones
recogidas en los teatros de operaciones les resulta imposible verlas todas de
lo imponente que es el volumen de datos. Solamente un 15% del catálogo de
inteligencia ha sido procesado previamente de ese modo. Maven es un algoritmo
creado para alertar a los operadores cuando en las imágenes aparecen objetos de
interés, como un vehículo o individuo específico.
Para la comunidad militar
estadounidense, el interés de Maven es doble. Por una parte, sirve para
acumular una gran experiencia en el aprendizaje de la utilización de la IA en
un contexto operativo. La importancia que debe concederse a la calidad de las
bases de datos que alimentan el software es subrayada, por ejemplo, por los
generales estadounidenses. Por otra parte, la IA simplifica enormemente el
procesamiento, la clasificación y el análisis de la ingente cantidad de datos
recogidos.
Tal es hoy su principal
contribución en el mundo militar. Ofrece la posibilidad de explotar con fines
de defensa y seguridad el enorme caudal de información generado por la revolución
digital. No es un arma decisiva en el campo de batalla. Es comparable más bien
a otros inventos como la electricidad o el motor de combustión, que dieron
lugar a una revolución industrial una vez consolidado su desarrollo y
suscitaron evoluciones en la organización de las fuerzas armadas.
Su campo de aplicación puede
extenderse al control de los datos físicos. Es posible anticipar ciertos fallos
del equipo siguiendo la evolución de parámetros como la temperatura o el
consumo de aceite de los motores o las turbinas. Si podemos anticipar cómo
funcionan las piezas de los vehículos, aviones o barcos, resulta más fácil
planificar los aspectos logísticos de una maniobra.
La profundización de las
tácticas actuales
Las actuales aplicaciones
militares de la IA son todavía limitadas, pero podrían desarrollarse
rápidamente a corto y medio plazo. Podrían contribuir a desencadenar una nueva
revolución en los asuntos militares (RAM). Definimos la RAM como un cambio en
el ámbito de la táctica debido a la introducción de una nueva tecnología que
suscita la creación de conceptos originales, el establecimiento de nuevas
organizaciones y el desarrollo de equipos innovadores. Las máquinas podrán
transferir instrucciones a la velocidad de la luz con fines de identificación,
predicción, decisión o acción
La RAM generada por la IA
prolongaría la ampliamente descrita en la década de 1990. Tras la rápida
victoria de Estados Unidos y sus aliados sobre los ejércitos iraquíes en 1991,
muchos expertos se preguntaron por el papel de las tecnologías de la información
en ese triunfo. Se impuso entonces un modelo. Cubriendo el campo de batalla con
sensores y combinando los datos que pudieran recoger, el jefe de las fuerzas
tendría una visión instantánea del dispositivo enemigo. Y podría entonces
actuar de la forma más apropiada para maniobrar o dirigir el fuego y destruir
las posiciones enemigas.
La introducción de la IA
podría fortalecer y ampliar ese modelo. De entrada, siendo capaz de tener en
cuenta datos mucho más variados y diversos que la posición de las diferentes
tropas enemigas para elaborar una situación táctica. Su radio de acción es
mucho más amplio. Los operadores podrán alimentar los algoritmos codificando
los procedimientos, las doctrinas contrarias o el modo de dirigir, de razonar,
de los generales enemigos.
Las ciencias humanas se
movilizarán para tener en cuenta parámetros psicológicos, constantes
culturales, elementos sociológicos o capacidades económicas. El valor de los
datos ya no será instantáneo, como en el caso de los sensores que barren el campo
de batalla. Al dotar de sentido el pasado, podrían anticiparse mejor al futuro
por inducción. La niebla de la guerra se despejaría más o menos según las
circunstancias.
Además, la velocidad de
ejecución de los algoritmos capaces de procesar y mejorar inmediatamente los
datos recibidos dictará el ritmo de ejecución de ciertas tareas. Las máquinas
podrán transferir instrucciones a la velocidad de la luz a otras computadoras u
operadores con fines de identificación, predicción, decisión o acción. El cerebro
humano se verá sometido a una competencia cada vez más mayor, y la potencia de
los procesadores se convertirá en la nueva vara de medir.
Disponer de una superioridad
informática constante sobre el adversario proporcionará la ventaja de poder
actuar y reaccionar más rápidamente a los acontecimientos. No cabe duda de que
el ritmo de las operaciones vendrá dictado por el bando que posea la IA más
potente. El ataque podría verse favorecido en el futuro.
Más robots en el campo de
batalla
Por tanto, da la impresión de
que la IA débil amplificará en un primer momento las orientaciones estratégicas
ya tomadas en el marco de la RAM en los noventa. ¿Qué pasará cuando se
confirmen los progresos de la IA, cuando sus rendimientos sigan aumentando
significativamente? En primer lugar, es probable que otras tecnologías se desarrollen
al mismo tiempo. Nanotecnologías, biotecnologías, armas de energía dirigida o
dispositivos hipersónicos se beneficiarán de los avances de la IA y serán cada
vez más indispensables en el campo de batalla, lo que a su vez estimulará su
desarrollo.
Semejante efervescencia podría
finalmente dar lugar a lo que los historiadores militares llaman una revolución
militar (RM). Ese concepto designó en un principio el modo en que la aparición
de la artillería y la renovación de la infantería en el campo de batalla
condujeron en el siglo XVII a la creación de instituciones especializadas para
producir armas y mantener a los soldados en campaña. Los estados, los únicos
capaces de hacer frente a tales gastos, se vieron reforzados. De modo que una
RM remite a transformaciones cualitativas en la estructura de los ejércitos y
en la forma en que luchan, unas transformaciones que conducen a cambios
políticos y sociales. Las RM tienen un alcance mucho más profundo que las RAM
La próxima RM podría verse
desencadenada por la adopción cada vez más generalizada de la IA/automatización
en los ejércitos. Ya en marcha para muchas otras funciones, esa automatización
podría tomar ante todo la forma de un drone de combate tipo loyal wingman
(compañero leal). Modelos como el Valkyrie XQ-58A estadounidense ya están en
desarrollo. El concepto es sencillo: un robot se asocia estrechamente con un
hombre a cargo de un sistema de armas (como un avión de combate, un vehículo
blindado o incluso un buque).
El robot tiene una autonomía cognitiva
limitada. No piensa por sí mismo, pero responde a las intenciones de su dueño.
Está equipado, por ejemplo, con una reserva de municiones, puede activar
sensores suplementarios, puede incluso suministrar energía al sistema de armas
dominante para que cumpla su misión durante más tiempo. De modo general,
amplifica los recursos de que dispone el guerrero al que acompaña.
Sin embargo, el compañero leal
quizá sea reemplazado en una o dos generaciones. El perfil de su sucesor podría
depender de la decisión de privilegiar o no la automatización a ultranza.
Existen en este sentido dos teorías opuestas: los defensores de una guerra de
nuevo cuño y los humanistas militares.
Para los primeros, la IA
ofrece oportunidades incomparables que hay que explotar al máximo. Captando con
suma rapidez una situación táctica, tomando decisiones óptimas basadas en
modelos probados, dirigiendo otras plataformas automatizadas, la IA puede
animar robots que actúan de manera concertada en el espacio y el tiempo,
realizando instantáneamente la maniobra más adecuada. La hiperguerra, donde
desaparecería el proceso humano de toma de decisiones, o la guerra a la
velocidad de la luz, impulsada enteramente por las nuevas tecnologías, sería en
semejante escenario la norma.
Los defensores del humanismo
militar se oponen a ese tipo de guerra de la que el hombre quedaría
parcialmente excluido. Su rechazo puede estar motivado por el temor al
desarrollo de contramedidas eficaces que volverían inoperantes a los robots,
por el riesgo de una pérdida de control de las máquinas, por la idea de que la
profesión de soldado perdiera su carácter heroico o por el rechazo de la
posibilidad de que la muerte venga dada por algoritmos y sin intervención
humana asumida.
De modo que podría extenderse
otra forma de automatización para satisfacer en parte a los detractores de la
automatización completa. El soldado del futuro podría ser el pastor de un
rebaño de robots especializados.
Podría asignar a cada máquina
una tarea particular o, por el contrario, concederle cierta autonomía en el
marco de su misión, una autonomía mucho más importante que en el caso del
compañero leal, para concentrarse él en las operaciones esenciales.
Uno o más robots se
encargarían de vigilar una amplia zona con autorización previa, por ejemplo,
para destruir cualquier ingenio hostil que entrara en ella. Liberado de
numerosas tareas, el pastor estaría mejor capacitado para enfrentarse a otros
acontecimientos imprevistos, utilizando al máximo su adaptabilidad y creatividad.
Y, sobre todo, el lugar del hombre se mantendría dentro del círculo de decisión
y acción.
Quizás el criterio decisivo
para decidir cuál de esos modelos prevalecerá finalmente sea la eficacia de
cada uno de ellos en el combate. En cualquier caso, la primera consecuencia de
la difusión del par IA/automatización será la reducción del número de
guerreros.
Los robots no sustituirán a
todos los soldados, cuyos rendimientos se verán sin duda aumentados por el
añadido de prótesis y otros implantes; pero probablemente se encargarán de la
parte más peligrosa de las misiones, como la entrada en primer lugar en una
zona de alta letalidad.
El ethos del guerrero humano
podría evolucionar con su nuevo papel. La posibilidad de distanciarse
físicamente de los lugares donde la violencia es más extrema modificará las
expectativas. El soldado ya no será considerado como un héroe únicamente por el
hecho de poseer determinados recursos morales para hacer frente a la brutalidad
de la guerra. Disponiendo de superioridad tecnológica, su heroísmo se definirá
también por la capacidad de dominar la violencia, de usar el nivel de fuerza
adecuado en función de las circunstancias.
El soldado del futuro podría
ser el pastor de un rebaño de robots especializados. Podría asignar a cada
máquina una tarea particular o, por el contrario, concederle cierta autonomía
en el marco de su misión
En el curso de los últimos
años, con la multiplicación del uso de drones, se han señalado con frecuencia
las consecuencias políticas de la automatización militar. Algunos expertos
consideran que el costo político o económico de la guerra podría reducirse
significativamente una vez que se afirmara la superioridad tecnológica de un
bando.
Sin embargo, eso supone
olvidar que el enemigo siempre dispone de un voto para la guerra. Quizá ceda en
el campo de batalla, pero puede adaptar su respuesta desplazando el teatro de
la guerra. Golpeando con habilidad, puede aumentar el costo de la guerra para
su adversario, ya sea desde el punto de vista humano (tomando represalias
contra los ciudadanos del adversario), económico (actuando contra sus
intereses) o simbólico (obligándolo a actuar al margen de las normas del
derecho internacional o humanitario). La automatización no podrá evitar por
completo semejantes respuestas.
En última instancia, lo que
más probabilidad tiene de transformarse en caso de revolución militar es la
relación del ciudadano con la guerra. Maquiavelo condenó severamente a los
condottieri, mercenarios al servicio de las ciudades italianas, puesto que
libraban, en su opinión, una parodia de la guerra y atenuaban el espíritu
militar de los habitantes de las ciudades.
Vio en ese fenómeno una
explicación del fracaso de las ciudades Estado durante las guerras italianas
del siglo XVI. Un proceso similar podría repetirse de prevalecer en los
ejércitos una autonomización excesiva. De ceder una parte de su seguridad a los
algoritmos, el ciudadano del futuro podría expulsar la guerra de su horizonte,
dotar de gran autonomía a las instituciones encargadas de la defensa... y
arriesgarse a un duro retorno a la realidad en el caso de que fracasaran sus
robots militares.
¿Y después?
La cuarta y última etapa del
desarrollo de la IA quizá sea la llegada de una IA fuerte. No cabe duda de que
semejante acontecimiento desencadenaría una mutación en la relación entre el
hombre y la guerra, equivalente a un cambio de civilización. Algunos futurólogos
como Alvin Toffler han considerado que la sociedad humana sólo ha conocido tres
mutaciones en el curso de su historia: la revolución agrícola, la revolución
industrial y, por último, la revolución de la información.
Kenneth Payne, investigador del
King’s College de Londres y experto en la relación entre la IA y la estrategia,
reduce a dos el número de mutaciones. La primera habría ocurrido hace unos cien
mil años cuando las transformaciones cognitivas llevaron a la humanidad a
conquistar el mundo. En esa época habrían aparecido los fundamentos de la
guerra tal como la conocemos. Según Payne, una segunda mutación se producirá
con el desarrollo de la IA, que impondrá nuevos patrones cognitivos y una nueva
forma de librar la guerra.
Las IA débiles ya participan
en la toma de decisiones. Es posible seleccionar modos automáticos de disparo,
por ejemplo, en sistemas de defensa superficie-aire (como el Aegis) capaces de
decidir solos qué objetivos priorizar. La auténtica ruptura se producirá cuando
una IA fuerte pueda ofrecer una ayuda a la decisión en materias estratégicas,
teniendo en cuenta de manera exhaustiva una considerable cantidad de datos
procedentes de ámbitos cada vez más vastos.
Es probable que una IA razone
de forma diferente a los humanos. Estos están sometidos en su elección a la
fatiga, la presión del grupo o a importantes sesgos culturales. Además, la
facultad de juzgar del ser humano depende de su deseo, su cuerpo, su conatus,
por usar el término de Spinoza. No se corresponderá nunca con una racionalidad
pura. La de la IA tampoco alcanzará semejante grado de perfección, pero podrá
acercarse a él aplicando estrictas reglas de lógica.
Dibujará caminos originales
para alcanzar los objetivos asignados. Y ya lo hace: Lee Se Dol, campeón coreano
de go, quedó desestabilizado durante una partida contra el programa AlphaGo por
un movimiento de la máquina. La probabilidad de que un hombre realizara esa
jugada se calculó en una entre 10.000, de lo incongruente que parecía. Ese
movimiento permitió al software derrotar a su adversario humano.
No cabe duda de que ese
enfoque cognitivo diferente, más lógico, completo y sistemático que el del
hombre cambiará nuestro enfoque de la guerra. Desde luego, no abolirá por
completo el azar o la incertidumbre. Sin embargo, a medida que la IA se vaya
haciendo fuerte, reducirá la libre actividad del espíritu que caracteriza a la
acción militar en la trinidad clausewitziana.
El manejo del entendimiento
puro, la encarnación de lo político en esa misma trinidad, que comprende
también al pueblo, se extenderá a la esfera militar a través de las máquinas
que actúan a ese nivel. Podría ocurrir entonces que las conexiones entre lo
político y lo militar se simplificaran, se hicieran mucho más cercanas.
Las dos entidades emplearían
un método común para lograr un objetivo compartido. El uso de la violencia se
ajustaría definitivamente al nivel suficiente para satisfacer las necesidades
políticas. La guerra podría entonces no tener ya una gramática propia, una
dinámica específica. Tras ello, los soldados, los generales, verían disminuir
su utilidad.
El desarrollo de la IA está
todavía en sus albores y sigue siendo incierto. La historia de la IA está
salpicada ya por numerosos fracasos. Algunos de los caminos explorados en la
década de 1970 y a finales de la de 1980 han resultado ser callejones sin
salida, y pesaron muchísimo sobre las investigaciones de esa época. No
obstante, reflexionar sobre sus aplicaciones potenciales puede ayudarnos a
prevenir ciertos abusos o catástrofes.
En la actualidad, el
observador se encuentra en una posición similar a la de un testigo del siglo
XVI al que se pidiera que intentara formular las consecuencias de la
introducción de la pólvora en el futuro de la guerra. Al corriente de los
inventos de Leonardo Da Vinci y con un poco de imaginación, ese testigo habría
podido imaginar que cada soldado acabaría disponiendo de armas individuales que
usarían la pólvora para enviar proyectiles (los fusiles), que sus efectos
podrían ser cada vez más destructivos (cañones con calibres cada vez más
grandes). El límite se alcanzaría cuando el poder de destrucción fuera tan
importante que pusiera en peligro la supervivencia de la especie humana (bombas
atómicas, aunque sepamos que la tecnología es diferente).
Es posible concebir un proceso
similar con la IA. La automatización se extenderá por los ejércitos; sobre
todo, entre los soldados, que podrán apoyarse en los robots para cumplir sus
misiones.
La ayuda a las decisiones
abrirá enormes oportunidades a los combatientes y a los encargados de tomar
decisiones, y propondrá formas originales de alcanzar los objetivos que decidan
fijar. Ahora bien, si los progresos de la IA continúan, la aparición de una IA
fuerte, o incluso de una superinteligencia, podría poner en peligro el destino
de la humanidad a largo plazo. De modo que a ella le corresponderá establecer
barreras tecnológicas, conceptuales, operativas y organizativas para limitar la
probabilidad de nuestra extinción, a la manera de los estrategas nucleares.
Por Jean-Christophe Noël (*).
La Vanguardia
* Investigador asociado del
Centro de Estudios de Seguridad del Instituto Francés de Relaciones
Internacionales (IFRI).
