Mostrando entradas con la etiqueta Algoritmo. Mostrar todas las entradas
Mostrando entradas con la etiqueta Algoritmo. Mostrar todas las entradas

viernes, 12 de junio de 2026

EL GOLPE DE ESTADO DE LOS TECNOAUTORITARIOS

De la América postdemocrática a la Europa que viene

Francesca Bria. 02/11/2025 00:00  Actualizado a 24/12/2025

Este artículo fue publicado el 02/11/2025 y forma parte de la selección de las noticias más leídas por los suscriptores de La Vanguardia durante este 2025.
 
A finales de julio de 2025, en lo más profundo de la maquinaria burocrática del Pentágono en Arlington, Virginia, el Ejército de EE.UU. firmó discretamente la cesión de una pieza crítica de su soberanía. El contrato de 10.000 millones de dólares con Palantir Technologies —uno de los mayores en la historia de departamento— fue presentado como una cuestión de eficiencia administrativa, consolidando 75 acuerdos de adquisición separados en un único paquete.
 
Pero tras el lenguaje tecnocrático se escondía algo mucho más profundo: el software de Palantir pasaba a ser, por defecto, el sistema operativo para la inteligencia en el campo de batalla, la logística y los sistemas de personal. Lo que parecía una simplificación burocrática era, en realidad, una entrega estratégica de funciones militares fundamentales a una firma privada cuyo fundador, Peter Thiel, ha declarado abiertamente que “la libertad y la democracia ya no son compatibles”.
 
Esta cesión supone que las decisiones sobre objetivos, movimiento de tropas e inteligencia se toman cada vez más mediante algoritmos que no son controlados por el mando militar, sino por un consejo de administración que responde ante los accionistas. El Ejército no solo compró software: cedió soberanía operativa a una plataforma sin la cual ya no puede funcionar.
 
Se está configurando en Washington una nueva formación que plantea el desafío más sofisticado que ha recibido la gobernanza democrática en la era digital: es el Complejo Tecnológico Autoritario. Es más rápido, más ideológico y más privado que cualquier modelo militar-industrial anterior. Silicon Valley ya no solo construye aplicaciones: está construyendo imperios.
 
Con la tecnología patriótica por bandera, una coalición de empresas, financiadores e ideólogos diseña una infraestructura planetaria de vigilancia, de coerción y de gobernanza sin rendición de cuentas. No es una metáfora. Es un sistema estratificado —plataformas en la nube, modelos de IA, redes financieras y de drones, sistemas orbitales— que conforma una infraestructura tecnopolítica integrada de control, lo que yo llamo la Pila Autoritaria . En su cúspide se hallan los exponentes más derechistas de Silicon Valley —Thiel, Musk, Andreessen, Sacks, Luckey y Karp—, cuyas inversiones se alinean con un proyecto político: la reconversión de la soberanía en un modelo de activos privados. A diferencia del autoritarismo tradicional, que depende de la movilización masiva y de la violencia estatal, este sistema opera mediante infraestructura tecnológica y coordinación financiera, haciendo que la resistencia no solo parezca difícil, sino arquitectónicamente obsoleta.
 
El Silicon Valley autoritario ya no fabrica aplicaciones: construye imperios
 
Hacia mediados de 2025, las señales de alerta proliferaban en Europa. En Roma, los funcionarios de defensa italianos se prestaron a integrar Starlink, de Elon Musk, en las comunicaciones militares. En Berlín, Rheinmetall y Anduril —empresa emergente de defensa de California respaldada por la red de Thiel— expandieron su joint venture para desplegar enjambres de drones autónomos para la OTAN. El impulso de Palantir en la policía alemana provocó una fuerte resistencia, pero Baviera firmó nuevos contratos por valor de 25 millones para ampliar el sistema a nivel nacional.
 
En Londres, el Sistema Nacional de Salud (NHS) amplió la Plataforma de Datos Federada de Palantir, valorada en 330 millones de libras, para abarcar decenas de millones de historiales de pacientes, al mismo tiempo que el Reino Unido firmaba una alianza de defensa por 1.500 millones de libras que lo convierte en un centro clave para la inteligencia artificial militar de Palantir. 
 
Ninguna de estas decisiones provocó un debate parlamentario significativo. Pocas llegaron a las portadas. Sin embargo, tomadas en conjunto, revelan la externalización sistemática de la soberanía europea a empresas tecnológicas estadounidenses respaldadas por los inversores más ideológicos de Silicon Valley. Los gobiernos europeos persiguen la autonomía estratégica justo en el momento en que sus infraestructuras críticas están siendo reconfiguradas para depender de plataformas estadounidenses cuyos ejecutivos socavan activamente la democracia europea. Es una paradoja con implicaciones devastadoras: perseguir la independencia mientras se cede el control con cada contrato firmado.
 
Las infraestructuras críticas del Estado están siendo reemplazadas y reinstaladas en cinco dominios estratégicos –información de la población, suministro monetario, defensa, comunicaciones orbitales y energía —que constituyen los fundamentos mismos del control democrático. Todo comienza con el control del sistema operativo. El contrato de 10.000 millones de dólares del Ejército hizo explícito lo que los más informados ya sabían: Palantir se ha convertido en el sistema operativo de facto del gobierno de EE.UU. Su rastro aparece detrás de la gestión del campo de batalla, de la logística, de los sistemas de personal y del análisis de inteligencia.
 
El Departamento de Eficiencia Gubernamental (DOGE) de Trump usa la plataforma Foundry de Palantir —originalmente desarrollada para la contrainsurgencia en Irak— para automatizar la elaboración del presupuesto federal, la elegibilidad para asistencia social, los reembolsos sanitarios y los beneficios para veteranos, todos ellos canalizados a través de procesos algorítmicos que codifican decisiones eminentemente políticas.
 
Stephen Miller, jefe adjunto de gabinete de Trump, posee hasta 250.000 dólares en acciones de Palantir, y eso a pesar de que la administración ha ampliado el papel de Palantir en la aplicación de las leyes de inmigración —incluido el contrato de 2025 con ICE para una nueva plataforma llamada “ImmigrationOS”, destinada a rastrear los excesos de permanencia de visados y a facilitar deportaciones masivas.
Si Palantir es la columna vertebral de datos del Estado autoritario, Anduril es su sistema de mando de guerra autónoma. Su plataforma Lattice conecta transmisiones satelitales, datos de radar e imágenes del campo de batalla en una sola red operativa, permitiendo que las misiones militares se planifiquen y ejecuten de forma automática. La compañía afirma que sus sistemas pueden operar en nivel 5 de autonomía ; es decir: identificar objetivos, atacar y regresar sin intervención humana.
 
Europa debería tomar nota de cómo la red de  Thiel privatiza la soberanía americana
En julio de 2025, el secretario de Defensa, Pete Hegseth, anunció la iniciativa Desarrollo del dominio militar estadounidense con drones , para lograr la integración total de sistemas de armas autónomas en 2027. Anduril fue cofundada por Palmer Luckey (creador de Oculus) y Trae Stephens (socio de Founders Fund y ex de Palantir). Hoy la empresa tiene más de 22.000 millones de dólares en contratos de defensa. Su valoración de 30.500 millones refleja no solo éxito comercial, sino su creciente control de la infraestructura militar básica.
 
Starshield, la constelación militar clasificada de SpaceX, representa la privatización de las comunicaciones de órbita baja, lo que alguna vez fue dominio exclusivo del Estado. Pese a que se presenta como una “infraestructura soberana”, sigue siendo propiedad y está controlada por la empresa privada de Musk. En el Pentágono se explora el uso de Starship como plataforma logística capaz de mover tropas y material a cualquier lugar de la Tierra en menos de una hora. Cuando las comunicaciones de la OTAN en el frente dependen de una infraestructura controlada por un hombre que apoya abiertamente la extrema derecha europea, la autonomía en cuestión de defensa es más bien una ficción teatral.
 
La planta de enriquecimiento de uranio de General Matter —la primera de propiedad privada en Estados Unidos desde 2013— cuenta con el respaldo de Founders Fund y está dirigida por exingenieros de SpaceX, con Thiel en el consejo de administración. La convergencia es deliberada: el secretario de Energía, Chris Wright, presenta la energía nuclear avanzada no como una cuestión de independencia energética, sino de dominio computacional. “La inteligencia artificial es una industria manufacturera intensiva en energía”, afirma. “Cuanta más energía se invierte, más inteligencia se produce.”
 
Para que funcionen los centros de datos que alimentan los análisis de Palantir, los sistemas autónomos de Anduril y los algoritmos de IA de la Pila hace falta una energía continuada y de alta densidad que solo la nuclear avanzada puede proporcionar a gran escala. Tecnológicas privadas como AWS GovCloud y Microsoft Azure for Government —en asociación con OpenAI, Meta y Anthropic— están ahora integradas en operaciones militares y de inteligencia clasificadas. Estas plataformas funcionan cada vez más como infraestructura “soberana”, donde soberanía significa estar al margen del control público y atar a los gobiernos a infraestructuras privadas.
 
Para entender la velocidad de este proceso hay que seguir el rastro de las personas.  La puerta giratoria ya no gira entre el gobierno y la industria: las une una nueva arquitectura del poder. J.D. Vance, ahora vicepresidente, ascendió al poder después de que Peter Thiel aportara 15 millones de dólares a su campaña para el Senado de 2022 —la mayor donación individual en la historia del Senado—. Michael Kratsios, exjefe de gabinete de Thiel, ahora dirige la Oficina de Política Científica y Tecnológica de la Casa Blanca. Michael Obadal, un ejecutivo de Anduril, fue nombrado subsecretario del Ejército mientras aún poseía hasta un millón de dólares en acciones de Anduril.
 
Gregory Barbaccia, tras una década en la división de inteligencia de Palantir, ocupa ahora el cargo de director de información del gobierno federal, supervisando programas de integración de datos que benefician directamente a su antiguo empleador. Y Clark Minor, recientemente nombrado director de información del Departamento de Salud y Servicios Humanos, ocupó previamente un puesto ejecutivo en Palantir, la misma empresa que ha recibido casi 300 millones de dólares en contratos con ese departamento entre 2021 y 2024.
 
Lo más sorprendente es la Unidad 201 del Pentágono, que incorpora directamente a ejecutivos de Silicon Valley en las filas militares. En junio de 2025, el Ejército nombró a cuatro ejecutivos tecnológicos como tenientes coroneles: Shyam Sankar, director de tecnología de Palantir; Andrew Bosworth, director de tecnología de Meta; Kevin Weil, director de producto de OpenAI; y Bob McGrew, exdirector de investigación de OpenAI. La distinción entre contratista y mando militar, entre la búsqueda de beneficios y la defensa nacional, ha sido eliminada deliberadamente.
Follow the money, y el patrón emerge.
 
El caso de Founders Fund, el buque insignia de 17.000 millones de dólares de Thiel, sirve para comprender la arquitectura del proceso. En junio de 2025, lideró la ronda de financiación de Anduril con una inversión de 1.000 millones de dólares y una valoración de 30.500 millones. Como primer inversor institucional, tanto en Palantir como en SpaceX, Founders Fund se posicionó pronto en los dominios de la inteligencia y de lo orbital. Pero, a diferencia del capital de riesgo tradicional, opera mediante control estratégico directo. 
 
Trae Stephens actúa simultáneamente como socio del fondo y presidente de Anduril. Delian Asparouhov divide su tiempo entre el fondo y la presidencia de Varda Space Industries, centrada en la manufactura orbital y la futura infraestructura espacial. Scott Nolan dirige General Matter mientras mantiene su rol en el fondo. Esto no es gestión pasiva del capital, sino una gobernanza activa sobre empresas que están remodelando la capacidad del Estado.
 
Los tecnoautoritarios han pasado de cuestionar la democracia a reemplazarla: ya no necesitan convencer al votante
 
1789 Capital ejemplifica cómo el capital de riesgo se convierte en dinastía. Fundado por personas de confianza tanto de Thiel como del vicepresidente Vance, el fondo se transformó cuando Donald Trump Jr. se incorporó como socio en noviembre de 2024. Creció de 150 millones a más de 1.000 millones de dólares y se presenta como una forma de “inversión patriótica”, canalizando más de 50 millones hacia el imperio de Musk: SpaceX, para el dominio orbital, y xAI, para la inteligencia artificial militar. El fondo establece una línea directa entre el poder presidencial y los beneficios de la industria armamentística.
 
Andreessen Horowitz (a16z) lanzó su fondo “American Dynamism” —600 millones destinados a respaldar tecnología de defensa y lo que denomina “constructores del Estado estadounidense”. El propio Marc Andreessen movilizó a la élite multimillonaria de Silicon Valley para apoyar la campaña de Trump en 2024, fusionando capital de riesgo, ideología y poder estatal en una maniobra sin precedentes.
 
Gigantes menos conocidos, como 8VC y General Catalyst, ejercen una influencia comparable. Joe Lonsdale, fundador de 8VC y cofundador de Palantir, colaboró con Musk en la operación del America’s PAC, que ayudó a asegurar la victoria de Trump en 2024. 8VC invirtió 450 millones en Anduril, mientras que General Catalyst lideró una ronda de financiación de 1.480 millones.
 
Los resultados validan la estrategia: Palantir se convirtió en la empresa con mejor rendimiento del índice S&P 500 en 2025, con ingresos trimestrales superiores a los 1.000 millones de dólares, impulsados por un crecimiento del 53 % en los contratos gubernamentales. Cuando tu cliente no puede marcharse porque te has convertido en su sistema operativo, has alcanzado el poder.
 
Aquí es donde las apuestas se vuelven existenciales, no solo para la democracia estadounidense, sino para la misma soberanía europea. Reino Unido corre el riesgo de caer en una trampa todavía más profunda. El ejército alemán depende cada vez más de los sistemas autónomos de Anduril a través de las alianzas con la firma Rheinmetall para crear “variantes europeas” de los misiles Barracuda y los aviones autónomos Fury . La dependencia de Estados Unidos no desaparece: los sistemas europeos funcionan con Lattice , reciben actualizaciones continuas de los servidores de California y operan dentro de los parámetros definidos en Silicon Valley.
 
Los responsables de defensa alemanes han planteado reducir la dependencia de proveedores externos como Starlink y desarrollar sistemas satelitales soberanos. Mientras tanto, Elon Musk intervenía pública y repetidamente en la política alemana: en enero de 2025 transmitió en directo una conversación con la líder de la AfD, Alice Weidel, ante una audiencia de más de 200.000 personas, afirmando que “solo la AfD puede salvar Alemania”, aunque este partido está sometido a vigilancia por sus postulados extremistas.
Reino Unido corre el riesgo de caer en una trampa aún más profunda. El sistema nacional de salud opera sobre la plataforma de datos de Palantir, valorada en 330 millones de libras, que procesa decenas de millones de registros de pacientes. La alianza defensiva de 1.500 millones que convierte a Gran Bretaña en un centro neurálgico para los sistemas de IA militar de Palantir agrava aún más la dependencia.
 
Cada nuevo contrato agranda la trampa. Cuando Palantir se vuelve indispensable para las operaciones de gobierno, cuando la OTAN adopta como estándar los drones de Anduril, cuando las instalaciones nucleares alimentan los sistemas de IA que dirigen todo lo demás, el cambio es irreversible. Lo que surge no es una operativa empresarial tradicional, sino una transformación fundamental de la soberanía: de la autoridad política ejercida a través de instituciones democráticas se pasa al control técnico ejercido por agentes privados.
 
Mientras Bruselas debate sobre “soberanía digital”, los ministerios europeos firman contratos que transfieren funciones gubernamentales centrales a esa Pila Autoritaria. Cada nueva dependencia restringe la autonomía política futura mientras incrusta la lógica antidemocrática en la infraestructura del gobierno. Mientras Bruselas debate la soberanía tecnológica, sus estados firman contratos que ceden funciones a la Pila Autoritaria
 
La transformación política de Silicon Valley en la era Trump 2.0 consolida a quienes Evgeny Morozov denomina los “oligarcas-intelectuales”: capitalistas de riesgo que actúan como los intelectuales orgánicos del capital del siglo XXI. No solo teorizan, sino que evangelizan sobre nuevas formas de soberanía. A diferencia de los intelectuales de la era industrial de Gramsci, que generaban adhesión a las estructuras ya existentes, estas nuevas figuras difunden su evangelio mediante la financiación de capital riesgo, las becas y la colocación de personas afines en posiciones estratégicas, diseñando una gobernanza postdemocrática a través de la infraestructura tecnológica que hace que la supervisión tradicional quede obsoleta.
 
Lo que nació como una evasión libertaria se ha transformado en una apropiación autoritaria. La misma red que alguna vez defendió el seasteading y las criptomonedas para escapar de la autoridad estatal ahora coloca a sus miembros en los niveles más altos del gobierno. Al no haber podido construir instituciones paralelas, estos actores han descubierto que resulta más eficaz convertirse ellos mismos en la infraestructura del Estado. 
 
El ejemplo más claro proviene de las finanzas. Su jugada en el mundo cripto siempre fue ir a contracorriente: comprar Bitcoin cuando nadie lo hacía, vender en máximos y recomprar tras el desplome. Pues bien, han aplicado el mismo cronograma a la política: abrazar al Estado cuando Silicon Valley predicaba la huida y promover el nacionalismo conservador cuando las élites tecnológicas aún celebraban el globalismo. Ahora, bajo la Ley GENIUS de Trump, las stablecoins se reclasifican como “infraestructura de seguridad nacional”, otorgando a los emisores privados poderes cuasi de bancos centrales. El secretario del Tesoro, Scott Bessent, afirma que podrían generar hasta dos billones de dólares en nueva demanda de bonos del Tesoro estadounidense: un sistema monetario privado que respalda los déficits públicos.
 
Para ejercer el poder no basta con ganar elecciones: hay que ganar contratos. Cada ciclo de adquisiciones reduce la elección democrática hasta que la elección misma se vuelve técnicamente limitada por infraestructuras construidas para servir a los inversores, no a los ciudadanos. Los tecnoautoritarios lo saben. Por eso han pasado de cuestionar la democracia a construir su reemplazo. No necesitan convencer al votante, sino controlar la infraestructura estatal más crítica.
 
La democracia persiste como una interfaz heredada, mantenida solo por motivos de estabilidad mientras es sistemáticamente vaciada y reemplazada. La derecha tecnológica autoritaria de Silicon Valley no teoriza sobre este mundo: ya lo está construyendo.
 
La autora. Por la soberanía digital europea
Francesca Bria (Roma) es economista de la innovación. Fue comisionada digital de Barcelona, presidenta del Instituto de Innovación Italiano y, actualmente, promueve desde Berlín políticas en favor de la soberanía digital europea. Es también consejera de alto nivel de la Nueva Bauhaus Europea y consejera del Gobierno español sobre Inteligencia Artificial. El trabajo íntegro sobre la deriva autoritaria puede consultarse en este enlace.
 
 
 
Reseña del Manifiesto de Francesca Bria sobre el golpe tecnoautoritario
La soberanía democrática enfrenta un golpe de Estado silencioso, no ejecutado con tanques, sino con contratos de software y capital de riesgo.
Por Rubén Tonzar
 
8 de Noviembre, 2025. Francesca Bria, economista italiana y referente en innovación digital, presenta en su "Manifiesto sobre el golpe tecnoautoritario" una tesis provocadora y urgente: la soberanía democrática enfrenta un nuevo tipo de golpe de Estado, silencioso, sin tanques ni generales, ejecutado mediante contratos de software, algoritmos y capital de riesgo.
 
   En su análisis, la autora advierte que un "Complejo tecnológico-autoritario", con epicentro ideológico y financiero en Silicon Valley, está reemplazando las funciones esenciales del Estado-nación, transformando la gobernanza democrática en un modelo empresarial de control privado.
 
El complejo tecnológico-autoritario
 
   Bria identifica una nueva alianza de poder, más veloz y opaca que el clásico complejo militar-industrial. No depende ya del Estado, sino que lo absorbe. En este ecosistema, grandes empresarios tecnológicos —Peter Thiel, Elon Musk, Marc Andreessen, David Sacks, Palmer Luckey y Alex Karp— actúan como "oligarcas-intelectuales", según la definición de Evgeny Morozov. No buscan solo influir en la política: pretenden rediseñar la soberanía misma como un activo corporativo.
 
   Estos actores promueven una ideología que concibe la libertad de mercado como incompatible con la democracia. La célebre frase de Thiel, citada por Bria —"La libertad y la democracia ya no son compatibles"— sintetiza este credo. A través de su poder económico y tecnológico, estas corporaciones construyen un nuevo orden donde las funciones públicas (seguridad, comunicación, energía, defensa) se reconfiguran como servicios privados, controlados por accionistas y fondos de inversión.
 
   A diferencia del autoritarismo tradicional, que se sostenía en la coerción y la propaganda estatal, este nuevo modelo ejerce su dominio a través de infraestructuras y plataformas. Bria define esta estructura como la "Pila Autoritaria", una red de empresas y tecnologías que constituyen el soporte operativo del nuevo poder.
 
Anatomía del control
 
   La "Pila Autoritaria" funciona como una arquitectura integrada de dominación tecnológica y financiera. Bria identifica cuatro componentes principales:
Palantir: descrita como el "sistema operativo del gobierno de EEUU", su software gestiona inteligencia militar, logística y presupuestos públicos. Con contratos que superan los u$s 10.000 millones, la dependencia del Estado respecto de esta empresa simboliza la privatización de la soberanía informacional.
 
Anduril: creada por Palmer Luckey, provee sistemas de defensa autónomos y plataformas de mando de guerra sin intervención humana. Su tecnología "Lattice" permite planificar operaciones con total autonomía algorítmica, eliminando el control civil sobre la guerra.
SpaceX y Starshield: en la órbita de Elon Musk, representan la privatización de las comunicaciones satelitales. Según Bria, la OTAN depende hoy de una infraestructura orbital controlada por un empresario con una agenda política propia, un riesgo directo para la autonomía estratégica occidental.
General Matter: provee energía nuclear avanzada para alimentar los centros de datos y la inteligencia artificial de la Pila Autoritaria. La ecuación es clara: "Cuanta más energía se invierte, más inteligencia se produce", resume Bria, citando a Chris Wright, secretario de Energía estadounidense.
 
   Estas capas interconectadas no complementan al Estado: lo sustituyen. Las funciones básicas de información, defensa, energía y comunicación —pilares de la soberanía— se están trasladando a manos privadas.
 
Contratos, puertas giratorias y captura institucional
 
   Bria sostiene que la expansión de este sistema no fue un accidente, sino el resultado de una estrategia deliberada para fundir los límites entre Estado y corporaciones. Las tradicionales "puertas giratorias" se transformaron en un entramado permanente de intereses compartidos.
 
   La autora documenta casos concretos: J.D. Vance, hoy vicepresidente de EEUU, recibió de Peter Thiel la mayor donación individual en la historia del Senado; Michael Obadal, subsecretario del Ejército, mantenía acciones en Anduril mientras adjudicaba contratos a la misma empresa; varios exejecutivos de Palantir —como Gregory Barbaccia y Clark Minor— pasaron a dirigir programas estatales que benefician a su antiguo empleador. Incluso el Pentágono llegó a designar a directivos de Meta, Palantir y OpenAI como tenientes coroneles, difuminando por completo la frontera entre contratista y mando militar.
 
   Esta simbiosis, afirma Bria, equivale a la creación de un "Estado privatizado", en el que la soberanía se negocia mediante contratos, no elecciones.
 
El capital como gobierno directo
 
   Los fondos de inversión actúan como instrumentos de control político. El Founders Fund de Thiel, Andreessen Horowitz (a16z) y 1789 Capital no son simples intermediarios financieros, sino mecanismos de "gobernanza activa". Su estrategia consiste en financiar empresas alineadas con su ideología —nacionalismo tecnológico, desregulación extrema y antiestatismo— y excluir a las que no lo están.
 
  Bria define este fenómeno como "capital patriótico", una alianza entre dinero, tecnología y poder estatal. Estos fondos son los principales impulsores de las empresas que conforman la Pila Autoritaria —Palantir, Anduril, SpaceX y General Matter— y representan la consolidación de un nuevo bloque de poder global, donde el capital sustituye a la política como forma de gobierno.
 
La paradoja europea
 
   La advertencia más fuerte de Bria se dirige a Europa, atrapada en lo que llama una "contradicción estructural": busca la autonomía digital, pero refuerza su dependencia de las corporaciones estadounidenses. Cada contrato tecnológico firmado por los Estados europeos equivale, según la autora, a una cesión de soberanía.
 
   Ejemplos sobran. En Alemania, el ejército coopera con Anduril y Rheinmetall para fabricar drones "nacionales", aunque dependen de actualizaciones que provienen de servidores en California. En Reino Unido, el sistema de salud público (NHS) opera sobre la plataforma de datos de Palantir, mientras el Ministerio de Defensa firma acuerdos de inteligencia artificial militar con la misma empresa. En Italia, las fuerzas armadas integran la red Starlink de Musk, entregando el control de sus comunicaciones estratégicas a un proveedor privado extranjero.
 
   Así, mientras Bruselas discute sobre "soberanía digital", las instituciones europeas entregan el control operativo de su infraestructura a la Pila Autoritaria. El resultado es una soberanía nominal, sostenida sobre bases tecnológicas que no les pertenecen.
 
La democracia, "interfaz obsoleta"
 
   En su conclusión, Bria lanza una advertencia tan lúcida como perturbadora: la democracia está siendo vaciada desde dentro. Los tecnoautoritarios ya no buscan destruir las instituciones, sino reemplazarlas silenciosamente. Su estrategia es estructural: dominar los cimientos tecnológicos que permiten el funcionamiento del Estado moderno.
 
   El poder real —dice Bria— ya no se disputa en las urnas, sino en la infraestructura. "¿Para qué ganar votantes, si es mejor ganar contratos?", se pregunta. En este nuevo paradigma, el voto ciudadano deviene un ritual simbólico, mientras las decisiones efectivas se toman en juntas de inversión y laboratorios de software.
 
   La autora concluye con una imagen poderosa: la democracia como una "interfaz heredada", mantenida por motivos de estabilidad, pero completamente vaciada de contenido político. Las instituciones continúan funcionando, pero su código operativo fue reescrito por el poder corporativo.
 
Una advertencia necesaria
 
   El "Manifiesto sobre el golpe tecnoautoritario" no es un texto catastrofista, sino un llamado a repensar la relación entre tecnología y soberanía. Bria no propone un rechazo al progreso, sino una reconstrucción del control público sobre la infraestructura digital. Recuperar la soberanía democrática —sostiene— implica recuperar el control sobre los sistemas de información, energía, defensa y comunicación que sustentan nuestras sociedades.
 
   En última instancia, su advertencia es clara: si los ciudadanos y los gobiernos democráticos no reaccionan, el siglo XXI será recordado como la era en que el poder dejó de estar en los gobiernos nacionales y pasó a las nubes de datos. La soberanía ya no se vota, se subcontrata.
  
 

 
Los cinco ámbitos de la soberanía privatizada Guillem Blasi

sábado, 5 de junio de 2021

ADVERTENCIA DEL PRESIDENTE DE MICROSOFT SOBRE LA I.A.: "LA NOVELA 1984 DE ORWELL PODRÍA SER UNA REALIDAD EN 2024"

Apunta a China y sus inmensos desarrollos. Por qué lo ve peligroso.

Brad Smith, presidente de Microsoft. Foto Microsoft. 04/06/2021 13:14

“Si los legisladores no protegen al público de la inteligencia artificial (IA), la vida tal y como la describe George Orwell en su novela 1984 podría llegar a ser así en 2024”, advirtió el presidente de Microsoft Brad Smith.

Smith se refirió al uso cada vez mayor que hace China de la inteligencia artificial para monitorear a sus ciudadanos, de ahí el paralelismo con la novela publicada en 1949 por el escritor británico donde hay un “Gran Hermano” que vigila a toda la población.

Smith, quien además de presidir Microsoft es su director legal y técnico, dijo que "será difícil seguir estando al día" ante el rápido avance de dicha tecnología, en declaraciones a BBC. "Si no promulgamos leyes que protejan al público en el futuro, nos encontraremos con que la tecnología avanza y será muy difícil ponernos al día", advirtió con preocupación Smith.

"Recuerdo constantemente las lecciones de George Orwell en su novela 1984", la novela en la que el Estado puede ver lo que hacen sus ciudadanos todo el tiempo.

Smith se refirió a “la ambición de China” en tanto apunta a “convertirse en el líder mundial en inteligencia artificial para 2030”. Lo cierto es que por su infraestructura, el país asiático tiene recursos de sobra para desarrollar un sistema inmenso de vigilancia, muy cuestionado por entidades de todo el mundo y sobre todo la Unión Europea.

De hecho, en 2019, China superó a EE.UU. en el número de patentes obtenidas por instituciones académicas para la innovación en tecnologías de IA. El 54% de los 770 millones de cámaras CCTV del mundo se encuentran en China, según una investigación de Comparitech.

Las declaraciones de Smith tienen un contexto: este jueves, investigadores de la Academia de Inteligencia Artifical de Beijing (BAAI, en sus siglas oficiales en inglés) dieron detalles sobre la segunda versión de Wu Dao, un modelo de Inteligencia Artificial (IA) multimodal diez veces más grande que GPT-3, la más grande hasta la fecha, y capaz de soportar 1.75 billones de parámetros. La BAAI anunció el lanzamiento de su nuevo modelo de aprendizaje profundo Wu Dao 2.0 en su conferencia anual este martes, según informa Engadget, unos meses después de la presentación de la primera versión del modelo, en marzo de este año.

La Academia develó que el modelo fue entrenado con 1,75 billones de parámetros, diez veces más que el modelo de OpenAI, GPT-3, lanzado en mayo de 2020, y hasta ahora "el modelo de lenguaje más grande y avanzado del mundo", según aseguró en septiembre Microsoft, cuando se alió con OpenAI para llegar este modelo a sus soluciones.

El modelo chino es multimodal, lo que supone que puede realizar varias tareas a la vez. Como recogen en Endgaget, este puede escribir ensayos, poemas y coplas en chino tradicional, así como crear textos alternativos en base a una imagen estática e imágenes de carácter cercano al fotorrealismo según descripciones hechas en lenguaje natural.

La BAAI también demostró que la IA puede generar ídolos virtuales ayudado por el chatbot social de Microsoft en China, Xiaolce, además de predecir las estructuras en tres dimensiones de proteínas.

Para entrenar al modelo en tantos parámetros y con tanta rapidez, informa Engadget, los investigadores desarrollaron un sistema de aprendizaje de código abierto denominado FastMoE. Este funciona en PyTorch y es similar al Mixture of Experts de Google, aunque tiene mayor flexibilidad debido a que permitió entrenar a la IA en GPUs convencionales y en supercomputadoras, y se puede ejecutar en hardware estándar.

La Academia indicó en la conferencia que los modelos grandes y los ordenadores de gran computación son el futuro de la Inteligencia Artificial. El presidente de BAAI, el Dr. Zhang Hongjiang, indicó que están construyendo "una planta de energía para el futuro de la IA, con mega datos y gran poder computacional", y que con ello pueden "transformar los datos para alimentar las aplicaciones de IA del futuro".

jueves, 13 de mayo de 2021

INTELIGENCIA ARTIFICIAL PARA EL BIEN SOCIAL: CUANDO EL AVANCE TECNOLÓGICO AYUDA DE VERDAD

Para los próximos años se espera un boom de desarrollos tecnológicos que utilicen la inteligencia artificial (IA) para resolver problemas sociales y ambientales. Según el Banco Interamericano de Desarrollo, la IA podría aportar hasta un 14 % de riqueza adicional a las economías emergentes de América Latina

Por Axel Marazzi. 13 de Mayo de 2021

Reducir hasta un 40 % el consumo de agua en la agricultura, detener el avance del virus del Zika en África o predecir inundaciones en la India: la utilización de la IA para resolver los problemas del mundo es un área incipiente, pero llena de oportunidades. Mientras la aplicación de la IA en el mundo privado nos ofrece vehículos que se manejan solos, mejoras en los canales de compra digital y promesas de eficiencia y productividad, su vínculo con el mundo social —de la mano de organizaciones de la sociedad civil y Gobiernos— augura un boom en la solución de problemas ambientales y sociales.

El concepto hoy instalado de “IA para el bien social” (por “AI for Social Good”) ha sido adoptado hasta por los gigantes tecnológicos como Google o Microsoft, que lo aplican a iniciativas, conferencias, informes y talleres. Pero que las grandes tecnológicas hayan empezado ha utilizar este concepto no significa que sea nuevo.

Desde hace más de diez años existen movimientos “tecnooptimistas” como DataKind, Bayes Impact, Data Science for Social Good, AI4ALL o hack4impact, entre otros, que hablan sobre cómo utilizar la tecnología para abordar y resolver algunos de los desafíos más complejos que enfrenta la sociedad. ¿Por qué usar inteligencia artificial? Porque los algoritmos de machine learning pueden detectar, por ejemplo, cómo una solución en un lugar geográfico podría funcionar o no en otro lugar o qué modelos habría que modificar para que sí pudieran ser aplicada con éxito.

Los casos en los que la IA puede resolver estos problemas son extremadamente variables. Desde tecnologías que funcionan como aliadas de médicos para detectar enfermedades con menor margen de error, pasando por aquellas que ayudan a maestros a diseñar planes de estudio personalizados para sus alumnos, hasta las que determinan si hay que incrementar o reducir la frecuencia del transporte público teniendo en cuenta la hora y circulación de los pasajeros para que se viaje mejor y se gaste menos.

Reducir el uso del agua en la agricultura

Un ejemplo de cómo se utiliza la IA para mejorar el ambiente es Kilimo, un emprendimiento argentino nacido en Córdoba que logró hacer un uso más eficiente del agua en la agricultura. Si consideramos que esta actividad consume el 70 % del agua dulce disponible en el mundo, resolver el gasto innecesario tiene una importancia vital.

La plataforma Agtech de Kilimo lleva ahorrados más de 30 billones de litros de agua en 75.000 hectáreas monitoreadas en Latinoamérica, trabajando junto a productores de cultivos intensivos y extensivos de Argentina, Estados Unidos, Chile, Uruguay, Paraguay, México y Perú.

¿Cómo lo hace? Un algoritmo de aprendizaje automático analiza imágenes satelitales, bases de datos históricos y otras informaciones disponibles para estimar el consumo hídrico del cultivo a una semana y ofrecer entonces consejos sobre la cantidad necesaria de riego. La solución propone un balance hídrico mediante un sistema que se alimenta de datos satelitales, climáticos y la caracterización del campo en cuestión. Luego, aplica la metodología de big data para sugerir cuándo y con cuánta agua regar, según una estrategia de riego seleccionada por el agricultor.

El ámbito de la salud es uno de los que más oportunidades presenta para el uso de la IA. IBM, por ejemplo, trabaja en un proyecto que ayuda a frenar el avance del virus del Zika. La iniciativa, realizada en colaboración con el Instituto Cary de Estudios de Ecosistemas, con sede en New York, utiliza técnicas de aprendizaje automático para analizar datos sobre los virus y los primates que los portan para después comparar estos rasgos con 364 especies de primates en todo el mundo. Esto permite producir, finalmente, un mapa interactivo que muestra dónde corren mayor riesgo las personas de contraer la enfermedad.

Uno de los desarrollos que podría tener un inmenso impacto global es el que llevó a cabo AI for Social Good, de Google, para predecir inundaciones. Estas afectan a 250 millones de personas de todo el mundo y generan miles de millones de pérdidas en daños tanto para las personas, los Gobiernos y privados.

Un desarrollo tecnológico de Google puede predecir (y dar aviso) de futuras inundaciones analizando miles datos climáticos y geográficos. 

La empresa creó algoritmos que toman diferentes datos para presentar modelos de predicción para determinar mejor cuándo y dónde tendrá lugar una inundación. Pero no se queda ahí. También incorpora esa información en un sistema de alertas para avisarle a la ciudadanía. Este sistema desde su nacimiento activó decenas de miles de alertas que fueron vistas por más de 1.500 millones de personas. La primera fue en el año 2018 para la región de Patna, en India.

Lo bueno es que este tipo de tecnologías pueden extrapolarse. Por ese motivo, desde el buscador ya están desarrollando iniciativas similares para predecir terremotos e incendios forestales.

En el informe La inteligencia artificial al servicio del bien social en América Latina y el Caribe publicado por el BID se señala que: “La IA promete mejorar el diseño de los servicios digitales centrados en las necesidades de las personas y la eficiencia de procesos de importancia vital —como la prestación de servicios sociales y la transparencia en la toma de decisiones públicas— e incentivar la economía mediante aumentos en la productividad”. Y le pone número a la promesa: “Un ejemplo es el impacto que pueda tener en la economía de un país en vías de desarrollo; se estima que la IA podría aportar hasta un 14 % de riqueza adicional a las economías emergentes de América Latina”, explica el informe.

Un camino con inconvenientes

Sin embargo, el avance de la aplicación de IA para resolver los problemas sociales y ambientales es un camino que presenta sus inconvenientes. “La sociedad no tiene suficientes mecanismos adecuados para invertir en este tipo de desarrollos”, explica Saska Mojsilovic, jefa de inteligencia artificial en IBM Research. “Por lo general, invertimos en aplicaciones de inteligencia artificial generadoras de ingresos en lugar de hacerlo en estos problemas sociales, menos cómodos”, asegura.

Según Mojsilovic, todo lo que respecta a la inteligencia artificial aplicada a lo social está todavía en pañales y falta tiempo para que veamos su explosión. Lo bueno es que eso significa que hay cientos de potenciales aplicaciones que pueden ser resueltas entre equipos ayudados a través de la tecnología.

“Muchas organizaciones no gubernamentales y agencias gubernamentales no están todavía utilizando el poder que tiene la inteligencia artificial como sí lo está usando el sector privado. En los próximos diez años veremos un esfuerzo muy grande de aplicar estas tecnologías para el bien social”, comenta en Raconteur y agrega: “Espero que usar la tecnología para atacar problemas relacionados al hambre, las enfermedades y la pobreza nos hagan mejores humanos. Todo se reduce a qué diseñemos y dónde hagamos nuestras inversiones. La tecnología existirá, pero la decisión es nuestra.

Un informe del BID subraya la importancia de la IA para el futuro de América Latina y, al mismo tiempo, señala el largo camino por recorrer en términos de alcanzar un mayor desarrollo e incidencia.

¿Qué hace falta para que funcione? Lo responde el informe del BID: “El éxito del aprovechamiento de esta tecnología dependerá de numerosos factores: la existencia de una visión común con la que se puedan alinear todos los esfuerzos y actores de los ecosistemas de IA; la dotación de una infraestructura digital facilitada por los Gobiernos en alianza con el sector privado; la formación de talento local y la investigación sobre temas pertinentes; la adopción de IA por parte de la sociedad civil para avanzar en sus objetivos; la decisión de poner al ser humano en el centro de toda conversación y actividad relacionada con la IA; el impulso del ecosistema emprendedor y el respeto de marcos y lineamientos éticos para su desarrollo y uso”.

Dependiendo de cómo se utilice esta tecnología funcionará como nivelador o divisor. Permitirá generar mayor igualdad, inclusividad y ampliación de derechos o, por el contrario, nuevas desigualdades, exclusiones y sesgos. Hace tiempo estamos viendo —por suerte— cómo nacen emprendimientos que, justamente, buscan atacar estas problemáticas, pero para que florezcan hace falta intención e inversión estatal.

Mark Purdy, un asesor independiente en economía y tecnología de Inglaterra, publicó un artículo en Harvard Business Review, donde lo explica con extrema claridad: “La respuesta está en nuestras propias manos. Al tomar medidas ahora para abordar los prejuicios y los riesgos, las empresas y los Gobiernos pueden comenzar a hacer de la inteligencia artificial una verdadera fuerza para el progreso social y la prosperidad económica”, asegura.

martes, 29 de diciembre de 2020

EL SOLDADO DEL FUTURO, ¿PASTOR DE UN REBAÑO DE ROBOTS?

 

Inteligencia artificial y el futuro de la guerra. ¿Hasta dónde llega hoy? ¿Y qué podemos esperar?

La Vanguardia. 28/12/2020. Clarín.com. Mundo

Los ejércitos integran regularmente las innovaciones tecnológicas para mejorar sus capacidades y tratar de dominar a sus adversarios. La inteligencia artificial (IA) no constituye una excepción a la regla y es objeto ahora de gran interés. China publicó en julio del 2017 el Plan de Desarrollo para la Nueva Generación de Inteligencia Artificial con el objetivo de convertirse en el 2030 en la principal potencia mundial en ese ámbito. Estados Unidos respondió en febrero del 2019 anunciando el lanzamiento de la Iniciativa de Inteligencia Artificial Estadounidense. De hecho, más de treinta países, incluidas las principales potencias militares, proponen hoy una estrategia nacional o iniciativas para aprovechar las oportunidades que ofrece esa prometedora tecnología.

Sin embargo, este entusiasmo suele causar preocupación entre el público en general. Por influencia de películas como Matrix o Terminator, el ciudadano corriente se pregunta si las máquinas no acabarán desempeñando un papel cada vez más dominante en el campo de batalla, limitando inexorablemente el lugar del hombre y deshumanizando la guerra. ¿Serán los avances en IA tan impresionantes que anularán el arte de la guerra y nos llevarán inexorablemente al Armagedón?

El primer escollo que debemos superar en los debates sobre la IA es la definición de la tecnología. Dada la gran diversidad de aplicaciones, no hay todavía consenso sobre ese punto. Por lo tanto, nos referiremos aquí a ella sencillamente como los programas informáticos de mañana. Esa tecnología es reciente y debemos distinguir entre lo que ya puede hacer y lo que podría llegar a lograr. La IA débil, que es una realidad en algunos ámbitos, resuelve problemas específicos y limitados. Una IA fuerte —que, a día de hoy, es sólo una promesa— sería capaz de llevar a cabo el conjunto de las tareas realizadas por los humanos.

Actuales aplicaciones militares

En el terreno militar, existen ya numerosas aplicaciones. Probablemente la más destacada sea el proyecto Maven. A los operadores estadounidenses que explotan imágenes y grabaciones recogidas en los teatros de operaciones les resulta imposible verlas todas de lo imponente que es el volumen de datos. Solamente un 15% del catálogo de inteligencia ha sido procesado previamente de ese modo. Maven es un algoritmo creado para alertar a los operadores cuando en las imágenes aparecen objetos de interés, como un vehículo o individuo específico.

Para la comunidad militar estadounidense, el interés de Maven es doble. Por una parte, sirve para acumular una gran experiencia en el aprendizaje de la utilización de la IA en un contexto operativo. La importancia que debe concederse a la calidad de las bases de datos que alimentan el software es subrayada, por ejemplo, por los generales estadounidenses. Por otra parte, la IA simplifica enormemente el procesamiento, la clasificación y el análisis de la ingente cantidad de datos recogidos.

Tal es hoy su principal contribución en el mundo militar. Ofrece la posibilidad de explotar con fines de defensa y seguridad el enorme caudal de información generado por la revolución digital. No es un arma decisiva en el campo de batalla. Es comparable más bien a otros inventos como la electricidad o el motor de combustión, que dieron lugar a una revolución industrial una vez consolidado su desarrollo y suscitaron evoluciones en la organización de las fuerzas armadas.

Su campo de aplicación puede extenderse al control de los datos físicos. Es posible anticipar ciertos fallos del equipo siguiendo la evolución de parámetros como la temperatura o el consumo de aceite de los motores o las turbinas. Si podemos anticipar cómo funcionan las piezas de los vehículos, aviones o barcos, resulta más fácil planificar los aspectos logísticos de una maniobra.

La profundización de las tácticas actuales

Las actuales aplicaciones militares de la IA son todavía limitadas, pero podrían desarrollarse rápidamente a corto y medio plazo. Podrían contribuir a desencadenar una nueva revolución en los asuntos militares (RAM). Definimos la RAM como un cambio en el ámbito de la táctica debido a la introducción de una nueva tecnología que suscita la creación de conceptos originales, el establecimiento de nuevas organizaciones y el desarrollo de equipos innovadores. Las máquinas podrán transferir instrucciones a la velocidad de la luz con fines de identificación, predicción, decisión o acción

La RAM generada por la IA prolongaría la ampliamente descrita en la década de 1990. Tras la rápida victoria de Estados Unidos y sus aliados sobre los ejércitos iraquíes en 1991, muchos expertos se preguntaron por el papel de las tecnologías de la información en ese triunfo. Se impuso entonces un modelo. Cubriendo el campo de batalla con sensores y combinando los datos que pudieran recoger, el jefe de las fuerzas tendría una visión instantánea del dispositivo enemigo. Y podría entonces actuar de la forma más apropiada para maniobrar o dirigir el fuego y destruir las posiciones enemigas.

La introducción de la IA podría fortalecer y ampliar ese modelo. De entrada, siendo capaz de tener en cuenta datos mucho más variados y diversos que la posición de las diferentes tropas enemigas para elaborar una situación táctica. Su radio de acción es mucho más amplio. Los operadores podrán alimentar los algoritmos codificando los procedimientos, las doctrinas contrarias o el modo de dirigir, de razonar, de los generales enemigos.

Las ciencias humanas se movilizarán para tener en cuenta parámetros psicológicos, constantes culturales, elementos sociológicos o capacidades económicas. El valor de los datos ya no será instantáneo, como en el caso de los sensores que barren el campo de batalla. Al dotar de sentido el pasado, podrían anticiparse mejor al futuro por inducción. La niebla de la guerra se despejaría más o menos según las circunstancias.

Además, la velocidad de ejecución de los algoritmos capaces de procesar y mejorar inmediatamente los datos recibidos dictará el ritmo de ejecución de ciertas tareas. Las máquinas podrán transferir instrucciones a la velocidad de la luz a otras computadoras u operadores con fines de identificación, predicción, decisión o acción. El cerebro humano se verá sometido a una competencia cada vez más mayor, y la potencia de los procesadores se convertirá en la nueva vara de medir.

Disponer de una superioridad informática constante sobre el adversario proporcionará la ventaja de poder actuar y reaccionar más rápidamente a los acontecimientos. No cabe duda de que el ritmo de las operaciones vendrá dictado por el bando que posea la IA más potente. El ataque podría verse favorecido en el futuro.

Más robots en el campo de batalla

Por tanto, da la impresión de que la IA débil amplificará en un primer momento las orientaciones estratégicas ya tomadas en el marco de la RAM en los noventa. ¿Qué pasará cuando se confirmen los progresos de la IA, cuando sus rendimientos sigan aumentando significativamente? En primer lugar, es probable que otras tecnologías se desarrollen al mismo tiempo. Nanotecnologías, biotecnologías, armas de energía dirigida o dispositivos hipersónicos se beneficiarán de los avances de la IA y serán cada vez más indispensables en el campo de batalla, lo que a su vez estimulará su desarrollo.

Semejante efervescencia podría finalmente dar lugar a lo que los historiadores militares llaman una revolución militar (RM). Ese concepto designó en un principio el modo en que la aparición de la artillería y la renovación de la infantería en el campo de batalla condujeron en el siglo XVII a la creación de instituciones especializadas para producir armas y mantener a los soldados en campaña. Los estados, los únicos capaces de hacer frente a tales gastos, se vieron reforzados. De modo que una RM remite a transformaciones cualitativas en la estructura de los ejércitos y en la forma en que luchan, unas transformaciones que conducen a cambios políticos y sociales. Las RM tienen un alcance mucho más profundo que las RAM

La próxima RM podría verse desencadenada por la adopción cada vez más generalizada de la IA/automatización en los ejércitos. Ya en marcha para muchas otras funciones, esa automatización podría tomar ante todo la forma de un drone de combate tipo loyal wingman (compañero leal). Modelos como el Valkyrie XQ-58A estadounidense ya están en desarrollo. El concepto es sencillo: un robot se asocia estrechamente con un hombre a cargo de un sistema de armas (como un avión de combate, un vehículo blindado o incluso un buque).

El robot tiene una autonomía cognitiva limitada. No piensa por sí mismo, pero responde a las intenciones de su dueño. Está equipado, por ejemplo, con una reserva de municiones, puede activar sensores suplementarios, puede incluso suministrar energía al sistema de armas dominante para que cumpla su misión durante más tiempo. De modo general, amplifica los recursos de que dispone el guerrero al que acompaña.

Sin embargo, el compañero leal quizá sea reemplazado en una o dos generaciones. El perfil de su sucesor podría depender de la decisión de privilegiar o no la automatización a ultranza. Existen en este sentido dos teorías opuestas: los defensores de una guerra de nuevo cuño y los humanistas militares.

Para los primeros, la IA ofrece oportunidades incomparables que hay que explotar al máximo. Captando con suma rapidez una situación táctica, tomando decisiones óptimas basadas en modelos probados, dirigiendo otras plataformas automatizadas, la IA puede animar robots que actúan de manera concertada en el espacio y el tiempo, realizando instantáneamente la maniobra más adecuada. La hiperguerra, donde desaparecería el proceso humano de toma de decisiones, o la guerra a la velocidad de la luz, impulsada enteramente por las nuevas tecnologías, sería en semejante escenario la norma.

Los defensores del humanismo militar se oponen a ese tipo de guerra de la que el hombre quedaría parcialmente excluido. Su rechazo puede estar motivado por el temor al desarrollo de contramedidas eficaces que volverían inoperantes a los robots, por el riesgo de una pérdida de control de las máquinas, por la idea de que la profesión de soldado perdiera su carácter heroico o por el rechazo de la posibilidad de que la muerte venga dada por algoritmos y sin intervención humana asumida.

De modo que podría extenderse otra forma de automatización para satisfacer en parte a los detractores de la automatización completa. El soldado del futuro podría ser el pastor de un rebaño de robots especializados.

Podría asignar a cada máquina una tarea particular o, por el contrario, concederle cierta autonomía en el marco de su misión, una autonomía mucho más importante que en el caso del compañero leal, para concentrarse él en las operaciones esenciales.

Uno o más robots se encargarían de vigilar una amplia zona con autorización previa, por ejemplo, para destruir cualquier ingenio hostil que entrara en ella. Liberado de numerosas tareas, el pastor estaría mejor capacitado para enfrentarse a otros acontecimientos imprevistos, utilizando al máximo su adaptabilidad y creatividad. Y, sobre todo, el lugar del hombre se mantendría dentro del círculo de decisión y acción.

Quizás el criterio decisivo para decidir cuál de esos modelos prevalecerá finalmente sea la eficacia de cada uno de ellos en el combate. En cualquier caso, la primera consecuencia de la difusión del par IA/automatización será la reducción del número de guerreros.

Los robots no sustituirán a todos los soldados, cuyos rendimientos se verán sin duda aumentados por el añadido de prótesis y otros implantes; pero probablemente se encargarán de la parte más peligrosa de las misiones, como la entrada en primer lugar en una zona de alta letalidad.

El ethos del guerrero humano podría evolucionar con su nuevo papel. La posibilidad de distanciarse físicamente de los lugares donde la violencia es más extrema modificará las expectativas. El soldado ya no será considerado como un héroe únicamente por el hecho de poseer determinados recursos morales para hacer frente a la brutalidad de la guerra. Disponiendo de superioridad tecnológica, su heroísmo se definirá también por la capacidad de dominar la violencia, de usar el nivel de fuerza adecuado en función de las circunstancias.

El soldado del futuro podría ser el pastor de un rebaño de robots especializados. Podría asignar a cada máquina una tarea particular o, por el contrario, concederle cierta autonomía en el marco de su misión

En el curso de los últimos años, con la multiplicación del uso de drones, se han señalado con frecuencia las consecuencias políticas de la automatización militar. Algunos expertos consideran que el costo político o económico de la guerra podría reducirse significativamente una vez que se afirmara la superioridad tecnológica de un bando.

Sin embargo, eso supone olvidar que el enemigo siempre dispone de un voto para la guerra. Quizá ceda en el campo de batalla, pero puede adaptar su respuesta desplazando el teatro de la guerra. Golpeando con habilidad, puede aumentar el costo de la guerra para su adversario, ya sea desde el punto de vista humano (tomando represalias contra los ciudadanos del adversario), económico (actuando contra sus intereses) o simbólico (obligándolo a actuar al margen de las normas del derecho internacional o humanitario). La automatización no podrá evitar por completo semejantes respuestas.

En última instancia, lo que más probabilidad tiene de transformarse en caso de revolución militar es la relación del ciudadano con la guerra. Maquiavelo condenó severamente a los condottieri, mercenarios al servicio de las ciudades italianas, puesto que libraban, en su opinión, una parodia de la guerra y atenuaban el espíritu militar de los habitantes de las ciudades.

Vio en ese fenómeno una explicación del fracaso de las ciudades Estado durante las guerras italianas del siglo XVI. Un proceso similar podría repetirse de prevalecer en los ejércitos una autonomización excesiva. De ceder una parte de su seguridad a los algoritmos, el ciudadano del futuro podría expulsar la guerra de su horizonte, dotar de gran autonomía a las instituciones encargadas de la defensa... y arriesgarse a un duro retorno a la realidad en el caso de que fracasaran sus robots militares.

¿Y después?

La cuarta y última etapa del desarrollo de la IA quizá sea la llegada de una IA fuerte. No cabe duda de que semejante acontecimiento desencadenaría una mutación en la relación entre el hombre y la guerra, equivalente a un cambio de civilización. Algunos futurólogos como Alvin Toffler han considerado que la sociedad humana sólo ha conocido tres mutaciones en el curso de su historia: la revolución agrícola, la revolución industrial y, por último, la revolución de la información.

Kenneth Payne, investigador del King’s College de Londres y experto en la relación entre la IA y la estrategia, reduce a dos el número de mutaciones. La primera habría ocurrido hace unos cien mil años cuando las transformaciones cognitivas llevaron a la humanidad a conquistar el mundo. En esa época habrían aparecido los fundamentos de la guerra tal como la conocemos. Según Payne, una segunda mutación se producirá con el desarrollo de la IA, que impondrá nuevos patrones cognitivos y una nueva forma de librar la guerra.

Las IA débiles ya participan en la toma de decisiones. Es posible seleccionar modos automáticos de disparo, por ejemplo, en sistemas de defensa superficie-aire (como el Aegis) capaces de decidir solos qué objetivos priorizar. La auténtica ruptura se producirá cuando una IA fuerte pueda ofrecer una ayuda a la decisión en materias estratégicas, teniendo en cuenta de manera exhaustiva una considerable cantidad de datos procedentes de ámbitos cada vez más vastos.

Es probable que una IA razone de forma diferente a los humanos. Estos están sometidos en su elección a la fatiga, la presión del grupo o a importantes sesgos culturales. Además, la facultad de juzgar del ser humano depende de su deseo, su cuerpo, su conatus, por usar el término de Spinoza. No se corresponderá nunca con una racionalidad pura. La de la IA tampoco alcanzará semejante grado de perfección, pero podrá acercarse a él aplicando estrictas reglas de lógica.

Dibujará caminos originales para alcanzar los objetivos asignados. Y ya lo hace: Lee Se Dol, campeón coreano de go, quedó desestabilizado durante una partida contra el programa AlphaGo por un movimiento de la máquina. La probabilidad de que un hombre realizara esa jugada se calculó en una entre 10.000, de lo incongruente que parecía. Ese movimiento permitió al software derrotar a su adversario humano.

No cabe duda de que ese enfoque cognitivo diferente, más lógico, completo y sistemático que el del hombre cambiará nuestro enfoque de la guerra. Desde luego, no abolirá por completo el azar o la incertidumbre. Sin embargo, a medida que la IA se vaya haciendo fuerte, reducirá la libre actividad del espíritu que caracteriza a la acción militar en la trinidad clausewitziana.

El manejo del entendimiento puro, la encarnación de lo político en esa misma trinidad, que comprende también al pueblo, se extenderá a la esfera militar a través de las máquinas que actúan a ese nivel. Podría ocurrir entonces que las conexiones entre lo político y lo militar se simplificaran, se hicieran mucho más cercanas.

Las dos entidades emplearían un método común para lograr un objetivo compartido. El uso de la violencia se ajustaría definitivamente al nivel suficiente para satisfacer las necesidades políticas. La guerra podría entonces no tener ya una gramática propia, una dinámica específica. Tras ello, los soldados, los generales, verían disminuir su utilidad.

El desarrollo de la IA está todavía en sus albores y sigue siendo incierto. La historia de la IA está salpicada ya por numerosos fracasos. Algunos de los caminos explorados en la década de 1970 y a finales de la de 1980 han resultado ser callejones sin salida, y pesaron muchísimo sobre las investigaciones de esa época. No obstante, reflexionar sobre sus aplicaciones potenciales puede ayudarnos a prevenir ciertos abusos o catástrofes.

En la actualidad, el observador se encuentra en una posición similar a la de un testigo del siglo XVI al que se pidiera que intentara formular las consecuencias de la introducción de la pólvora en el futuro de la guerra. Al corriente de los inventos de Leonardo Da Vinci y con un poco de imaginación, ese testigo habría podido imaginar que cada soldado acabaría disponiendo de armas individuales que usarían la pólvora para enviar proyectiles (los fusiles), que sus efectos podrían ser cada vez más destructivos (cañones con calibres cada vez más grandes). El límite se alcanzaría cuando el poder de destrucción fuera tan importante que pusiera en peligro la supervivencia de la especie humana (bombas atómicas, aunque sepamos que la tecnología es diferente).

Es posible concebir un proceso similar con la IA. La automatización se extenderá por los ejércitos; sobre todo, entre los soldados, que podrán apoyarse en los robots para cumplir sus misiones.

La ayuda a las decisiones abrirá enormes oportunidades a los combatientes y a los encargados de tomar decisiones, y propondrá formas originales de alcanzar los objetivos que decidan fijar. Ahora bien, si los progresos de la IA continúan, la aparición de una IA fuerte, o incluso de una superinteligencia, podría poner en peligro el destino de la humanidad a largo plazo. De modo que a ella le corresponderá establecer barreras tecnológicas, conceptuales, operativas y organizativas para limitar la probabilidad de nuestra extinción, a la manera de los estrategas nucleares.

Por Jean-Christophe Noël (*). La Vanguardia

* Investigador asociado del Centro de Estudios de Seguridad del Instituto Francés de Relaciones Internacionales (IFRI).

BORIS GROYS: "LA PANDEMIA PROFUNDIZÓ NUESTRA DEPENDENCIA DEL ALGORITMO"

Criado en la difícil Europa de posguerra, Boris Groys estudió Matemática y Filosofía; devenido crítico de arte y teórico de los medios, vive en los Estados Unidos y suscita pasiones en ciudades de todo el mundoCriado en la difícil Europa de posguerra, Boris Groys estudió Matemática y Filosofía; devenido crítico de arte y teórico de los medios, vive en los Estados Unidos y suscita pasiones en ciudades de todo el mundo.

Crédito: Diego Spivacow. Diana Fernández Irusta, 27 de diciembre de 2020  • 00:00

 Podría decirse que Boris Groys (Berlín, 1947) atravesó distintas épocas, diversos mundos. Criado en la difícil Europa de posguerra, estudió Matemática y Filosofía en la Universidad de Leningrado y participó en los circuitos no oficiales de intelectuales y artistas en Moscú.

 A comienzos de la década del ochenta emigró a Alemania, se doctoró en la Universidad de Münster e inició un periplo académico que lo llevaría por escuelas de diseño, academias de arte y universidades de Alemania, Austria y Estados Unidos.

Quizás la amplitud y originalidad de su mirada se deba, justamente, al particular tránsito vital que le permitió conocer tanto la vida bajo el régimen soviético como el vértigo de los claustros universitarios del otro lado del Muro. Devenido crítico de arte y teórico de los medios, actualmente Groys vive en los Estados Unidos y suscita pasiones en ciudades de todo el mundo. Por caso, Buenos Aires. A principios de este mes más de setecientas personas se inscribieron a la charla virtual que, organizada por Malba y NYU Buenos Aires, acercó a Groys a los muchos seguidores locales de sus ensayos.

La pandemia también afectó al autor de Volverse público (Caja negra), que debió suspender viajes y practicar el aislamiento que fue la marca de este año. Poco afecto a la complacencia, no tiene problemas en afirmar que vivimos en una civilización básicamente frágil, sostenida en el más evanescente de los recursos, la electricidad, y expuesta a catástrofes de diverso tipo. Así y todo, es capaz de sonreír y pronunciar algo bastante parecido al optimismo: "Un aspecto quizás positivo de todo esto es que podemos sentir que estamos viviendo una aventura, todo el tiempo, inclusive sentados en casa frente a la computadora -dice-. Aunque no nos movamos demasiado por el contexto en que estamos viviendo, podemos sentir esta inestabilidad y por lo tanto este sentimiento de aventura."

-Cuando comenzó la pandemia, ¿se identificó con quienes anunciaban el fin de una era o con quienes decían que nada iba a cambiar?

-Creo que se van a producir cambios, pero en la misma dirección en que ya veníamos: creciente importancia de las redes sociales, de todo lo remoto, de todo lo de naturaleza digital. Mientras la economía tradicional y las estructuras sociales tradicionales colapsan, hay un desarrollo mucho más acelerado de lo digital. Es decir, que con la aparición del Covid lo que se produjo es una aceleración de las últimas tendencias.

-En relación a la capacidad de vigilancia de internet, ¿cree que se producirá algún tipo de quiebre? 

-El control ejercido por internet -hablo de las distintas entidades que gobiernan internet- es un proceso que seguirá ocurriendo de todas formas. Porque las actividades de nuestra vida cotidiana suceden mediadas por lo digital, y eso se profundizó con la pandemia. En el mundo digital, dependemos de los algoritmos gobernados por Facebook o Google, pero mientras estas entidades nos controlan, nosotros no podemos controlarlas a ellas. Hay una asimetría en la relación.

-¿Qué posibilidades tenemos de equiparar esa asimetría? ¿Estudiar matemática?

-Bueno, inclusive sabiendo de matemática no veo que haya una solución a este problema (risas). Porque internet sigue estando controlado por las grandes corporaciones. Así que por un lado me mantengo escéptico. Pero por otro, me parece que una posibilidad que podría darse es que internet se rompa, se desmenuce, se desglose. Sabemos que hay una competencia entre Estados Unidos, China y otros países por el universo digital y esta competencia entre diferentes países y diferentes representantes del sector privado podría conducir a que se rompa internet. Lo sabemos, internet es una estructura extremadamente global, mientras que los estados nacionales y las autoridades locales son precisamente eso, locales. La globalidad de internet es lo que determina su enorme influencia. Pero si los poderes políticos rompen esa estructura, eso podría conducir a un sistema más pluralista, con diferentes servicios digitales dentro de un marco más bien plural.

-En su libro Volverse público, usted habla del "diseño total de la vida". ¿Qué diferencia hay entre la unión entre arte y vida que proclamaban las vanguardias y ese "diseño total"?

-Hubo un cambio que marcó el paso de la cultura tradicional a la cultura digital. Algo marcado sobre todo por el individuo, por cómo se presenta el individuo a sí mismo en términos globales. En la cultura tradicional eran las élites artísticas las que abordaban al individuo como tal y las que distribuían mundialmente diferentes textos, imágenes. Ahora cualquier persona lo puede hacer, y eso determina un cambio extremadamente profundo. Al mismo tiempo, todas las personas son targets individualizados del mundo de la publicidad. En el pasado, la gente se interesaba solamente por la vida privada de las estrellas, pero ahora esto le puede suceder a cualquiera, por la singularización de la que es objeto la persona, y el hecho de que todas las personas están siendo abordadas por los sistemas digitales. ¿Qué significa esto? Implica un cambio profundo, un cambio con respecto a la cultura de masas. ¿Qué significan las vanguardias? Las vanguardias eran una respuesta a la cultura de masas. Había una cultura de masas que estaba considerada kitsch, dirigida a las masas, que eran anónimas. Por otro lado estaban las vanguardias, que eran la expresión de la individualidad creativa. Actualmente, todas las personas están obligadas a un self-design, a un autodiseño, a la creación de su propia imagen en las redes sociales. Mientras anteriormente había una libertad artística, ahora hay una obligación artística, estamos obligados a presentarnos a nosotros mismos. Y no estoy hablando solo de unos elegidos, absolutamente todas las personas están obligadas a diseñar una imagen de sí mismas. Es el algoritmo que gobierna internet, y que nosotros vivimos como una nueva divinidad. Si nos fijamos en lo que ocurre en sitios o redes como Instagram o Facebook, vemos que tienen una función muy confesional, la gente postea lo que come, a quién se encontró, qué estuvo haciendo, sus opiniones. Pero cuando nos confesamos, ¿quién es el destinatario? En la cultura tradicional era dios. En la cultura contemporánea es el algoritmo, un dios invisible. A veces estamos todo el tiempo tratando de comunicarnos con ese dios que es el algoritmo y a veces recibimos una respuesta, que es la publicidad, con los productos básicos que el algoritmo cree que nos van a gustar sobre la base de nuestra conducta en internet.

-¿O sea que somos más tradicionales que modernos, nosotros que nos creíamos tan posmodernos?

-Absolutamente. Nuestra vida cotidiana está sujeta a una serie de leyes, e normativas, que no podemos ver. El lado oscuro de internet. Estábamos hablando de internet en cuanto a los sistemas algorítmicos, pero también está el hardware, los sistemas de transmisión que constituyen internet, una parte bien material, bien tangible, que de todos modos, está siempre oculta a nuestros ojos. No sé si esto sucede en la Argentina, pero en Estados Unidos y algunos países de Europa hay una explosión de teorías conspirativas, y esto es la nueva religión de nuestra era. No somos ni modernos ni posmodernos, estamos más bien volviendo a la época medieval, en la cual el mundo era entendido como una gran conspiración. Esto está ligado a internet, un lugar que no podemos ver, que solo podemos imaginar. Y esa imaginación dispara esas formas de la teoría de la conspiración.

-¿Así se explicaría por qué nuestra época se fascina tanto con la tecnología al tiempo que desconfía de la ciencia? Pienso en los antivacunas, los terraplanistas.

-Sí, estamos totalmente fascinados con la tecnología y desconfiamos de la ciencia. El concepto clásico de la ciencia es que está basada en la repetición. Si yo hago un experimento tengo que poder repetirlo y ese experimento repetido en varias oportunidades pasa a formar parte de la ciencia. Por el contrario, la experiencia individual, única, pertenece al ámbito de lo místico, de lo religioso. No es ciencia. La individuación es entonces la acumulación de experiencias personales que no son repetibles. Algo que tiene que ver con nuestra relación don la tecnología, que es una experiencia no repetible. Heidegger alguna vez dijo que la tecnología es la realización de la metafísica, ligada a la realización del destino. Esto significa que nuestra relación con la tecnología no tiene que ver con el conocimiento, es una relación de desconocimiento y al mismo tiempo ligada al destino. Muy en la línea de la tragedia griega.

-Que siempre termina horriblemente mal.

- Sí, totalmente (risas).

-Esta idea del algoritmo como divinidad me recuerda al transhumanismo y las personas que están buscando cierta inmortalidad a través de medios tecnológicos, no espirituales.

-¿Cuál es la condición básica de la existencia humana? La finitud. Todos sabemos que vamos a morir. Ahora, bien, ¿qué es la inteligencia artificial? Una máquina, y la máquina no muere nunca. Entonces, la inmortalidad del ser humano sería igual a su maquinización, sería convertirlo en una máquina. Pero la máquina no piensa. El meollo de pensar es el miedo a la muerte. Cuando decimos que alguien es razonable, significa que es una persona que evita el peligro, para no morir. En este sentido, cuando se acumula la inteligencia, es el momento en que el ser humano, pasa a ser un objeto de cuidado a cargo de la máquina. Cuando el renacimiento empezó a forjar el humanismo, consistía en ver al ser humano como la fuente de poder, el más poderoso del planeta. El transhumanismo tiene una visión distinta: piensa en el cuidado del ser humano, que pasa a ser una criatura desdichada a la que hay que cuidar.

-¿Por qué solo podemos imaginar el futuro a través de distopías?

- Es muy difícil pensar acerca del futuro, probablemente porque quizás el futuro sea una continuación de las tendencias ya establecidas. Es interesante reflexionar sobre esta nueva civilización que se está forjando. La realidad es que son muchas las posibilidades destructivas y catastróficas en este actual sistema porque todo está basado en la electricidad. El sustrato material de internet es la electricidad. Y la electricidad es algo muy fácil de apagar, muy frágil como sistema. Si pensamos en la cultura babilónica o la cultura del antiguo Egipto, fueron culturas afectadas por catástrofes, pero aun así sus textos e imágenes sobreviven porque ellos los consagraron en piedra. Pero si algo sucede con la electricidad la memoria de nuestra cultura puede desaparecer en un abrir y cerrar de ojos. La posibilidad de la catástrofe también es muy alta en términos culturales. Ahora bien, la catástrofe encierra en sí misma la posibilidad de un nuevo comienzo, y ese nuevo comienzo es también algo elevado. Pienso en un acueducto que vi en el sur de Francia una vez. Había sido construido por los antiguos romanos para transportar agua. Ya no transporta agua, pero sigue estando allí. Puede que en el futuro expongamos las computadoras no como medios, sino como reliquias, como ese acueducto romano.

-Está por salir un libro suyo sobre coleccionismo. ¿Cómo pensar una colección de arte en una época de tanta fragilidad?

- El coleccionismo de arte pasaba por los objetos, cosas tangibles que la sociedad identificaba como obras de arte. Pero ahora el arte es muy dependiente del contexto, es muy difícil entender una obra de arte contemporánea sin entender el contexto original en el cual esta obra fue creada. Por eso el arte contemporáneo se dirige cada vez más al evento, ya no tiene tanto protagonismo el objeto en sí, sino que cobran protagonismo las performances, los proyectos político y sociales, las exposiciones de corta duración. El estado de la reflexión sobre el contexto es algo muy inestable, e internet es el mejor lugar para documentar y proporcionar una descripción de ese contexto, mucho mejor que los museos, que son incapaces de dar lugar a todo ese material. Al mismo tiempo, en internet el archivo de la obra de arte es algo que no existe, porque es posible que las cosas desaparezcan. Tengo muchos amigos artistas que no confían en la imagen digital, y tratan de hacer algo físico porque temen que si se focalizan mucho en el evento y en lo digital puede llegar una instancia en que todo rastro de esa obra desaparezca. Lo que sí encierra internet es una promesa de divulgación, de publicidad para ese artista, a la vez que encierra una absoluta falta de estabilidad.

- ¿La marca de nuestra época?

-Sabés, es una marca de la vida humana en general (sonríe). Un aspecto quizás positivo de todo esto es que podemos sentir que estamos viviendo una aventura, todo el tiempo, inclusive sentados en casa frente a la computadora. Aunque no nos movamos demasiado por el contexto en que estamos viviendo, podemos sentir esta inestabilidad y por lo tanto este sentimiento de aventura. Una condición un poco extraña, vivir una aventura sentado ante la pantalla de una computadora.

Minibio

Boris Groys nació en Berlín en 1947. Estudió Matemática y Filosofía en la Universidad de Leningrado. Luego se doctoró en Filosofía en la Universidad de Münster. Además de ocuparse de diversas curadurías de arte, fue docente en la Escuela Superior de Diseño de Karlsruhe, la Academia de Bellas Artes de Viena y las universidades de Pensilvania, Filadelfia y Nueva York. Su obra ensayística se concentra en las vanguardias y el universo digital. Escribió Volverse público, Sobre lo nuevo: ensayo de una economía cultural, Bajo sospecha: una fenomenología de los medios.