EL SOLDADO DEL FUTURO, ¿PASTOR DE UN REBAÑO DE ROBOTS?

 

Inteligencia artificial y el futuro de la guerra. ¿Hasta dónde llega hoy? ¿Y qué podemos esperar?

La Vanguardia. 28/12/2020. Clarín.com. Mundo

Los ejércitos integran regularmente las innovaciones tecnológicas para mejorar sus capacidades y tratar de dominar a sus adversarios. La inteligencia artificial (IA) no constituye una excepción a la regla y es objeto ahora de gran interés. China publicó en julio del 2017 el Plan de Desarrollo para la Nueva Generación de Inteligencia Artificial con el objetivo de convertirse en el 2030 en la principal potencia mundial en ese ámbito. Estados Unidos respondió en febrero del 2019 anunciando el lanzamiento de la Iniciativa de Inteligencia Artificial Estadounidense. De hecho, más de treinta países, incluidas las principales potencias militares, proponen hoy una estrategia nacional o iniciativas para aprovechar las oportunidades que ofrece esa prometedora tecnología.

Sin embargo, este entusiasmo suele causar preocupación entre el público en general. Por influencia de películas como Matrix o Terminator, el ciudadano corriente se pregunta si las máquinas no acabarán desempeñando un papel cada vez más dominante en el campo de batalla, limitando inexorablemente el lugar del hombre y deshumanizando la guerra. ¿Serán los avances en IA tan impresionantes que anularán el arte de la guerra y nos llevarán inexorablemente al Armagedón?

El primer escollo que debemos superar en los debates sobre la IA es la definición de la tecnología. Dada la gran diversidad de aplicaciones, no hay todavía consenso sobre ese punto. Por lo tanto, nos referiremos aquí a ella sencillamente como los programas informáticos de mañana. Esa tecnología es reciente y debemos distinguir entre lo que ya puede hacer y lo que podría llegar a lograr. La IA débil, que es una realidad en algunos ámbitos, resuelve problemas específicos y limitados. Una IA fuerte —que, a día de hoy, es sólo una promesa— sería capaz de llevar a cabo el conjunto de las tareas realizadas por los humanos.

Actuales aplicaciones militares

En el terreno militar, existen ya numerosas aplicaciones. Probablemente la más destacada sea el proyecto Maven. A los operadores estadounidenses que explotan imágenes y grabaciones recogidas en los teatros de operaciones les resulta imposible verlas todas de lo imponente que es el volumen de datos. Solamente un 15% del catálogo de inteligencia ha sido procesado previamente de ese modo. Maven es un algoritmo creado para alertar a los operadores cuando en las imágenes aparecen objetos de interés, como un vehículo o individuo específico.

Para la comunidad militar estadounidense, el interés de Maven es doble. Por una parte, sirve para acumular una gran experiencia en el aprendizaje de la utilización de la IA en un contexto operativo. La importancia que debe concederse a la calidad de las bases de datos que alimentan el software es subrayada, por ejemplo, por los generales estadounidenses. Por otra parte, la IA simplifica enormemente el procesamiento, la clasificación y el análisis de la ingente cantidad de datos recogidos.

Tal es hoy su principal contribución en el mundo militar. Ofrece la posibilidad de explotar con fines de defensa y seguridad el enorme caudal de información generado por la revolución digital. No es un arma decisiva en el campo de batalla. Es comparable más bien a otros inventos como la electricidad o el motor de combustión, que dieron lugar a una revolución industrial una vez consolidado su desarrollo y suscitaron evoluciones en la organización de las fuerzas armadas.

Su campo de aplicación puede extenderse al control de los datos físicos. Es posible anticipar ciertos fallos del equipo siguiendo la evolución de parámetros como la temperatura o el consumo de aceite de los motores o las turbinas. Si podemos anticipar cómo funcionan las piezas de los vehículos, aviones o barcos, resulta más fácil planificar los aspectos logísticos de una maniobra.

La profundización de las tácticas actuales

Las actuales aplicaciones militares de la IA son todavía limitadas, pero podrían desarrollarse rápidamente a corto y medio plazo. Podrían contribuir a desencadenar una nueva revolución en los asuntos militares (RAM). Definimos la RAM como un cambio en el ámbito de la táctica debido a la introducción de una nueva tecnología que suscita la creación de conceptos originales, el establecimiento de nuevas organizaciones y el desarrollo de equipos innovadores. Las máquinas podrán transferir instrucciones a la velocidad de la luz con fines de identificación, predicción, decisión o acción

La RAM generada por la IA prolongaría la ampliamente descrita en la década de 1990. Tras la rápida victoria de Estados Unidos y sus aliados sobre los ejércitos iraquíes en 1991, muchos expertos se preguntaron por el papel de las tecnologías de la información en ese triunfo. Se impuso entonces un modelo. Cubriendo el campo de batalla con sensores y combinando los datos que pudieran recoger, el jefe de las fuerzas tendría una visión instantánea del dispositivo enemigo. Y podría entonces actuar de la forma más apropiada para maniobrar o dirigir el fuego y destruir las posiciones enemigas.

La introducción de la IA podría fortalecer y ampliar ese modelo. De entrada, siendo capaz de tener en cuenta datos mucho más variados y diversos que la posición de las diferentes tropas enemigas para elaborar una situación táctica. Su radio de acción es mucho más amplio. Los operadores podrán alimentar los algoritmos codificando los procedimientos, las doctrinas contrarias o el modo de dirigir, de razonar, de los generales enemigos.

Las ciencias humanas se movilizarán para tener en cuenta parámetros psicológicos, constantes culturales, elementos sociológicos o capacidades económicas. El valor de los datos ya no será instantáneo, como en el caso de los sensores que barren el campo de batalla. Al dotar de sentido el pasado, podrían anticiparse mejor al futuro por inducción. La niebla de la guerra se despejaría más o menos según las circunstancias.

Además, la velocidad de ejecución de los algoritmos capaces de procesar y mejorar inmediatamente los datos recibidos dictará el ritmo de ejecución de ciertas tareas. Las máquinas podrán transferir instrucciones a la velocidad de la luz a otras computadoras u operadores con fines de identificación, predicción, decisión o acción. El cerebro humano se verá sometido a una competencia cada vez más mayor, y la potencia de los procesadores se convertirá en la nueva vara de medir.

Disponer de una superioridad informática constante sobre el adversario proporcionará la ventaja de poder actuar y reaccionar más rápidamente a los acontecimientos. No cabe duda de que el ritmo de las operaciones vendrá dictado por el bando que posea la IA más potente. El ataque podría verse favorecido en el futuro.

Más robots en el campo de batalla

Por tanto, da la impresión de que la IA débil amplificará en un primer momento las orientaciones estratégicas ya tomadas en el marco de la RAM en los noventa. ¿Qué pasará cuando se confirmen los progresos de la IA, cuando sus rendimientos sigan aumentando significativamente? En primer lugar, es probable que otras tecnologías se desarrollen al mismo tiempo. Nanotecnologías, biotecnologías, armas de energía dirigida o dispositivos hipersónicos se beneficiarán de los avances de la IA y serán cada vez más indispensables en el campo de batalla, lo que a su vez estimulará su desarrollo.

Semejante efervescencia podría finalmente dar lugar a lo que los historiadores militares llaman una revolución militar (RM). Ese concepto designó en un principio el modo en que la aparición de la artillería y la renovación de la infantería en el campo de batalla condujeron en el siglo XVII a la creación de instituciones especializadas para producir armas y mantener a los soldados en campaña. Los estados, los únicos capaces de hacer frente a tales gastos, se vieron reforzados. De modo que una RM remite a transformaciones cualitativas en la estructura de los ejércitos y en la forma en que luchan, unas transformaciones que conducen a cambios políticos y sociales. Las RM tienen un alcance mucho más profundo que las RAM

La próxima RM podría verse desencadenada por la adopción cada vez más generalizada de la IA/automatización en los ejércitos. Ya en marcha para muchas otras funciones, esa automatización podría tomar ante todo la forma de un drone de combate tipo loyal wingman (compañero leal). Modelos como el Valkyrie XQ-58A estadounidense ya están en desarrollo. El concepto es sencillo: un robot se asocia estrechamente con un hombre a cargo de un sistema de armas (como un avión de combate, un vehículo blindado o incluso un buque).

El robot tiene una autonomía cognitiva limitada. No piensa por sí mismo, pero responde a las intenciones de su dueño. Está equipado, por ejemplo, con una reserva de municiones, puede activar sensores suplementarios, puede incluso suministrar energía al sistema de armas dominante para que cumpla su misión durante más tiempo. De modo general, amplifica los recursos de que dispone el guerrero al que acompaña.

Sin embargo, el compañero leal quizá sea reemplazado en una o dos generaciones. El perfil de su sucesor podría depender de la decisión de privilegiar o no la automatización a ultranza. Existen en este sentido dos teorías opuestas: los defensores de una guerra de nuevo cuño y los humanistas militares.

Para los primeros, la IA ofrece oportunidades incomparables que hay que explotar al máximo. Captando con suma rapidez una situación táctica, tomando decisiones óptimas basadas en modelos probados, dirigiendo otras plataformas automatizadas, la IA puede animar robots que actúan de manera concertada en el espacio y el tiempo, realizando instantáneamente la maniobra más adecuada. La hiperguerra, donde desaparecería el proceso humano de toma de decisiones, o la guerra a la velocidad de la luz, impulsada enteramente por las nuevas tecnologías, sería en semejante escenario la norma.

Los defensores del humanismo militar se oponen a ese tipo de guerra de la que el hombre quedaría parcialmente excluido. Su rechazo puede estar motivado por el temor al desarrollo de contramedidas eficaces que volverían inoperantes a los robots, por el riesgo de una pérdida de control de las máquinas, por la idea de que la profesión de soldado perdiera su carácter heroico o por el rechazo de la posibilidad de que la muerte venga dada por algoritmos y sin intervención humana asumida.

De modo que podría extenderse otra forma de automatización para satisfacer en parte a los detractores de la automatización completa. El soldado del futuro podría ser el pastor de un rebaño de robots especializados.

Podría asignar a cada máquina una tarea particular o, por el contrario, concederle cierta autonomía en el marco de su misión, una autonomía mucho más importante que en el caso del compañero leal, para concentrarse él en las operaciones esenciales.

Uno o más robots se encargarían de vigilar una amplia zona con autorización previa, por ejemplo, para destruir cualquier ingenio hostil que entrara en ella. Liberado de numerosas tareas, el pastor estaría mejor capacitado para enfrentarse a otros acontecimientos imprevistos, utilizando al máximo su adaptabilidad y creatividad. Y, sobre todo, el lugar del hombre se mantendría dentro del círculo de decisión y acción.

Quizás el criterio decisivo para decidir cuál de esos modelos prevalecerá finalmente sea la eficacia de cada uno de ellos en el combate. En cualquier caso, la primera consecuencia de la difusión del par IA/automatización será la reducción del número de guerreros.

Los robots no sustituirán a todos los soldados, cuyos rendimientos se verán sin duda aumentados por el añadido de prótesis y otros implantes; pero probablemente se encargarán de la parte más peligrosa de las misiones, como la entrada en primer lugar en una zona de alta letalidad.

El ethos del guerrero humano podría evolucionar con su nuevo papel. La posibilidad de distanciarse físicamente de los lugares donde la violencia es más extrema modificará las expectativas. El soldado ya no será considerado como un héroe únicamente por el hecho de poseer determinados recursos morales para hacer frente a la brutalidad de la guerra. Disponiendo de superioridad tecnológica, su heroísmo se definirá también por la capacidad de dominar la violencia, de usar el nivel de fuerza adecuado en función de las circunstancias.

El soldado del futuro podría ser el pastor de un rebaño de robots especializados. Podría asignar a cada máquina una tarea particular o, por el contrario, concederle cierta autonomía en el marco de su misión

En el curso de los últimos años, con la multiplicación del uso de drones, se han señalado con frecuencia las consecuencias políticas de la automatización militar. Algunos expertos consideran que el costo político o económico de la guerra podría reducirse significativamente una vez que se afirmara la superioridad tecnológica de un bando.

Sin embargo, eso supone olvidar que el enemigo siempre dispone de un voto para la guerra. Quizá ceda en el campo de batalla, pero puede adaptar su respuesta desplazando el teatro de la guerra. Golpeando con habilidad, puede aumentar el costo de la guerra para su adversario, ya sea desde el punto de vista humano (tomando represalias contra los ciudadanos del adversario), económico (actuando contra sus intereses) o simbólico (obligándolo a actuar al margen de las normas del derecho internacional o humanitario). La automatización no podrá evitar por completo semejantes respuestas.

En última instancia, lo que más probabilidad tiene de transformarse en caso de revolución militar es la relación del ciudadano con la guerra. Maquiavelo condenó severamente a los condottieri, mercenarios al servicio de las ciudades italianas, puesto que libraban, en su opinión, una parodia de la guerra y atenuaban el espíritu militar de los habitantes de las ciudades.

Vio en ese fenómeno una explicación del fracaso de las ciudades Estado durante las guerras italianas del siglo XVI. Un proceso similar podría repetirse de prevalecer en los ejércitos una autonomización excesiva. De ceder una parte de su seguridad a los algoritmos, el ciudadano del futuro podría expulsar la guerra de su horizonte, dotar de gran autonomía a las instituciones encargadas de la defensa... y arriesgarse a un duro retorno a la realidad en el caso de que fracasaran sus robots militares.

¿Y después?

La cuarta y última etapa del desarrollo de la IA quizá sea la llegada de una IA fuerte. No cabe duda de que semejante acontecimiento desencadenaría una mutación en la relación entre el hombre y la guerra, equivalente a un cambio de civilización. Algunos futurólogos como Alvin Toffler han considerado que la sociedad humana sólo ha conocido tres mutaciones en el curso de su historia: la revolución agrícola, la revolución industrial y, por último, la revolución de la información.

Kenneth Payne, investigador del King’s College de Londres y experto en la relación entre la IA y la estrategia, reduce a dos el número de mutaciones. La primera habría ocurrido hace unos cien mil años cuando las transformaciones cognitivas llevaron a la humanidad a conquistar el mundo. En esa época habrían aparecido los fundamentos de la guerra tal como la conocemos. Según Payne, una segunda mutación se producirá con el desarrollo de la IA, que impondrá nuevos patrones cognitivos y una nueva forma de librar la guerra.

Las IA débiles ya participan en la toma de decisiones. Es posible seleccionar modos automáticos de disparo, por ejemplo, en sistemas de defensa superficie-aire (como el Aegis) capaces de decidir solos qué objetivos priorizar. La auténtica ruptura se producirá cuando una IA fuerte pueda ofrecer una ayuda a la decisión en materias estratégicas, teniendo en cuenta de manera exhaustiva una considerable cantidad de datos procedentes de ámbitos cada vez más vastos.

Es probable que una IA razone de forma diferente a los humanos. Estos están sometidos en su elección a la fatiga, la presión del grupo o a importantes sesgos culturales. Además, la facultad de juzgar del ser humano depende de su deseo, su cuerpo, su conatus, por usar el término de Spinoza. No se corresponderá nunca con una racionalidad pura. La de la IA tampoco alcanzará semejante grado de perfección, pero podrá acercarse a él aplicando estrictas reglas de lógica.

Dibujará caminos originales para alcanzar los objetivos asignados. Y ya lo hace: Lee Se Dol, campeón coreano de go, quedó desestabilizado durante una partida contra el programa AlphaGo por un movimiento de la máquina. La probabilidad de que un hombre realizara esa jugada se calculó en una entre 10.000, de lo incongruente que parecía. Ese movimiento permitió al software derrotar a su adversario humano.

No cabe duda de que ese enfoque cognitivo diferente, más lógico, completo y sistemático que el del hombre cambiará nuestro enfoque de la guerra. Desde luego, no abolirá por completo el azar o la incertidumbre. Sin embargo, a medida que la IA se vaya haciendo fuerte, reducirá la libre actividad del espíritu que caracteriza a la acción militar en la trinidad clausewitziana.

El manejo del entendimiento puro, la encarnación de lo político en esa misma trinidad, que comprende también al pueblo, se extenderá a la esfera militar a través de las máquinas que actúan a ese nivel. Podría ocurrir entonces que las conexiones entre lo político y lo militar se simplificaran, se hicieran mucho más cercanas.

Las dos entidades emplearían un método común para lograr un objetivo compartido. El uso de la violencia se ajustaría definitivamente al nivel suficiente para satisfacer las necesidades políticas. La guerra podría entonces no tener ya una gramática propia, una dinámica específica. Tras ello, los soldados, los generales, verían disminuir su utilidad.

El desarrollo de la IA está todavía en sus albores y sigue siendo incierto. La historia de la IA está salpicada ya por numerosos fracasos. Algunos de los caminos explorados en la década de 1970 y a finales de la de 1980 han resultado ser callejones sin salida, y pesaron muchísimo sobre las investigaciones de esa época. No obstante, reflexionar sobre sus aplicaciones potenciales puede ayudarnos a prevenir ciertos abusos o catástrofes.

En la actualidad, el observador se encuentra en una posición similar a la de un testigo del siglo XVI al que se pidiera que intentara formular las consecuencias de la introducción de la pólvora en el futuro de la guerra. Al corriente de los inventos de Leonardo Da Vinci y con un poco de imaginación, ese testigo habría podido imaginar que cada soldado acabaría disponiendo de armas individuales que usarían la pólvora para enviar proyectiles (los fusiles), que sus efectos podrían ser cada vez más destructivos (cañones con calibres cada vez más grandes). El límite se alcanzaría cuando el poder de destrucción fuera tan importante que pusiera en peligro la supervivencia de la especie humana (bombas atómicas, aunque sepamos que la tecnología es diferente).

Es posible concebir un proceso similar con la IA. La automatización se extenderá por los ejércitos; sobre todo, entre los soldados, que podrán apoyarse en los robots para cumplir sus misiones.

La ayuda a las decisiones abrirá enormes oportunidades a los combatientes y a los encargados de tomar decisiones, y propondrá formas originales de alcanzar los objetivos que decidan fijar. Ahora bien, si los progresos de la IA continúan, la aparición de una IA fuerte, o incluso de una superinteligencia, podría poner en peligro el destino de la humanidad a largo plazo. De modo que a ella le corresponderá establecer barreras tecnológicas, conceptuales, operativas y organizativas para limitar la probabilidad de nuestra extinción, a la manera de los estrategas nucleares.

Por Jean-Christophe Noël (*). La Vanguardia

* Investigador asociado del Centro de Estudios de Seguridad del Instituto Francés de Relaciones Internacionales (IFRI).