Los sistemas de IA crecen a
una velocidad impensada y van camino de modificar cada espacio de la
interacción humana; hay voces de alerta sobre sus riesgos
La llamada fue en marzo de
este año. La voz en el teléfono, que hablaba en inglés con leve acento alemán,
sonaba urgente. Un alto directivo de una compañía británica escuchó las instrucciones
de su socio germano que le decía que debía enviarle cerca de 250.000 dólares a
un proveedor húngaro, algo casi de rutina. El inglés tomó nota de los datos
bancarios y esa misma jornada hizo la transferencia. Sólo después se enteraría
de que no había sido un ser humano quien la había dado la orden: el ejecutivo
británico había sido la primera víctima reportada de una estafa hecha mediante
Inteligencia Artificial (IA). Los estafadores se las ingeniaron para que un
sistema diera con el tono exacto del ejecutivo alemán, previamente grabado, y
ejecutaron el plan a la perfección. Luego hubo otras llamadas que pedían una
segunda transferencia, pero los estafados sospecharon y comenzó la indagación.
El dinero fue de la cuenta húngara a una cuenta mexicana y luego se perdió de
vista (la información no recoge datos más precisos porque los dio a conocer
Euler Hermes Group, la firma aseguradora que tuvo que hacerse cargo de la
onerosa eventualidad).
Si sirve para hacer trampa,
sirve para la vida real, podría decirse. La IA va en camino de dar sustento y
modificar casi cada espacio de la interacción humana, desde los sistemas de
salud (cuándo y dónde será la próxima epidemia de dengue o qué niño tiene más
posibilidades de sufrir malnutrición) hasta la producción agropecuaria (en qué
momento se debe sembrar), pasando por la posibilidad de generar voces y videos
de personas que pueden pasar por reales incluso a ojos y oídos entrenados, como
se vio en el caso de la estafa empresarial. Es decir, promesas a la vez que
riesgos.
Lo que primero salta a la
vista es la enorme repercusión económica que tendrá: el PBI global crecerá 14%
hacia 2030 solo por la incorporación de la IA, según un informe
dePricewaterhour seco opers. Es decir, un aumento de más de 15 trillones de
dólares, sobre todo en los países ya desarrollados, aunque también una parte
quedará para América Latina (el 5%; medio trillón). El impulso de la
inteligencia artificial también eliminará trabajos, aunque no tantos según este
informe, y creará otros nuevos. Asalariados del mundo, sed dinámicos.
“Es un campo gigante que está
sin techo por ahora. Se puede aplicar en casi todas las áreas de la vida. En
Estados Unidos y Europa cada empresa, aunque sea una pyme, está pensando en
tener un departamento de análisis de datos. En algún punto, es algo que ya pasó
en la historia; por ejemplo, cuando empezó a ser ‘obligatorio’ tener contadores
para analizar los balances. Ahora es lo mismo, pero más sofisticado, con gente
muy capacitada”, dice Pablo Riera, investigador del laboratorio de inteligencia
artificial aplicada del Departamento de Computación de la Facultad de Ciencias
Exactas (Universidad de Buenos Aires).
Pero, antes de avanzar: ¿de
qué hablamos cuando hablamos de IA? La respuesta corta es que se trata de una
mezcla de sistemas sofisticados, big data y machine learning que toman datos
del ambiente. No solo ejecutan una orden prevista, como el software clásico,
sino que –esta es la clave– los sistemas son capaces de aprender y de usar
enormes cantidades de datos para saber dónde se falló anteriormente y actuar en
consecuencia. No son los robots con conciencia que imaginó la ciencia ficción
clásica, pero es un paso más en ese sentido.
Se conforma así un escenario
que despierta miles de preguntas e incógnitas de todo tipo. ¿Cómo se modificará
el debate público y cómo se dará validez a declaraciones y puntos de vista que
pueden ser falsamente elaborados? ¿Qué pasa con la administración burocrática
del Estado (papeleríos varios)? ¿Y las pruebas judiciales? ¿Falta mucho para
que alguna personalidad en apuros diga “no fui yo, eso fue deep fake” (algo que
le hubiera resultado útil a la primera dama chilena, por ejemplo)?
Para Riera, el alerta es
importante pero no es tan grave; solo resta acostumbrarse, como lo hicimos a la
computadora personal primero y a los teléfonos inteligentes después; una
secuencia similar a la que llevaría de los carteristas vulgares a los robots
que se hacen pasar por ejecutivos alemanes. “Es posible que se puedan generar
anticuerpos, sobre todo si uno ve cómo se propagan las noticias falsas, por
ejemplo. Hoy, por lo general, quienes caen en la trampa son personas mayores,
porque no había fake news en su época; ellos no tienen ese aprendizaje”,
explica Riera, que es doctor en física e investiga sistemas de redes neuronales
que buscan detectar emociones en el habla.
La cuestión es la velocidad.
Se ha dicho muchas veces, pero conviene repetirlo: no solo ocurren cambios
drásticos en lo tecnológico y social, sino que también la velocidad a la que
ocurren está crecientemente incrementada. ¿Alcanzará para que los seres humanos
nos adaptemos a las nuevas tecnologías? ¿O se terminarán adaptando solo los más
aptos? (De todos modos, la adaptación nunca es total o masiva, como puede verse
en las luchas infructuosas de muchos usuarios contra una tecnología
relativamente menor y vetusta como los cajeros automáticos).
Cuando el sistema de IA bautizado
María –creado para una empresa financiera que otorga pequeños créditos en Perú
a través de mensajes de Whatsapp– leyó por primera vez que un cliente decía
“estoy chihuán” quedó desconcertado, casi como cualquier lector no peruano, y
lo dejó pasar sin actuar. El sistema –hecho por la plataforma de IA Watson de
IBM– no pudo identificar a qué hacía referencia la frase, y por ende no podía
responder. Pero, como la virtud de la IA es aprender y está supervisada por
humanos (en este caso, expertos de Perú), enseguida se superó la brecha: estar
chihuán significa estar sin dinero y la expresión alude a una congrelo sista de
ese apellido (Leyla Chihuán), cuya queja por su falta de efectivo se hizo
popular y pasó al lenguaje cotidiano. Desde ese momento, cuando María detecta
que un potencial cliente está chihuán, le ofrece dinero.
La historia la cuenta Leonardo
González Barceló, director de Hybrid Cloud en IBM Latinoamérica, como ejemplo
tanto de la capacidad de estar atento a neologismos, como del hecho de que sigue
siendo imprescindible la supervisión humana, por lo menos durante un tiempo más
(cuánto, es uno de los terrenos de discusión). Asimismo, esto sería indicio de
que la IA podría impulsar la creación de puestos de trabajo en proporción
similar a los que se destruyan por su causa, tal como sucedió en toda
modificación tecnológica desde la aparición de la agricultura hace unos diez
mil años.
Pero hay especialistas que
están más alertas ante las posibles consecuencias de este desarrollo
tecnológico. Una de ellas es Marcela Orbiscay, integrante del Grupo de
Investigación y Desarrollo en Tecnologías de la Información y las
Comunicaciones (Facultad Regional Mendoza, Universidad Tecnológica Nacional).
“La IA con capacidad de procesar mucha información por primera vez pone en
juego los trabajos de los oficinistas, abogados, agentes de bolsas de comercio,
y muchas otras áreas. A diferencia de la revolución industrial (que fue una
revolución analógica), esta revolución digital es mucho más rápida y tiene el
potencial de afectar muchos más puestos de trabajo. Algunos ejemplos son
empresas como Google que, apoyada en la IA, con pocos empleados, puede dar
servicios a toda la humanidad, a la vez que también florece una nueva economía
de plataforma”, dice. Para Orbiscay, también integrante de INFOLAB
(Ianigla/conicet), el auge de la IA se debe al aumento en más de cien veces de
la potencia de procesamiento, al aumento en más de cien veces de los de datos
disponibles y al aumento en más de cien veces de los algoritmos matemáticos.
“Todo esto hace que la IA sea
un millón de veces más potente de lo que era hace poco tiempo, y este aumento
es lo que rápidamente nos supera en varios aspectos, ya que, como seres
biológicos, los humanos tardamos mucho más tiempo en adaptarnos. Nos cuesta
entender su real impacto y por lo tanto no sabemos cómo legislarla. Esto se
complica aún más, ya que como especie, nuestra ética y valores difieren de
acuerdo a nuestra cultura. Es por eso que existen proyectos como The Moral
Machine Experiment, del MIT (en Boston, Estados Unidos), que es una plataforma
para reunir una perspectiva humana sobre las decisiones morales tomadas por la
inteligencia artificial”.
Además de las estafas y la
posible distorsión del discurso público, hay otros asuntos relacionados con la
IA que requieren cuidado y tienen que ver con los denominados sesgos. Al igual
que en aquellos viejos silogismos que se enseñaban en las escuelas secundarias,
el razonamiento de la máquina puede ser correcto, pero si la información
introducida en las premisas es falsa, el resultado también lo será. Es decir,
si los sistemas que aprenden reciben información sesgada de base, también lo
será el resultado al que arriben.
“Cuando uno ingresa datos a un
sistema de IA lo hace con datos que son construidos por seres humanos. Si tus
datos son malos o tienen sesgos (la visión característica de hombres blancos
americanos, por ejemplo), el sistema replicará la misma manera de ver las
cosas, sea para contratar gente o para procesar causas judiciales”, dice riera.
Pero agrega que se trata de un defecto que puede enmendarse: solo hay que
ingresar al programa mejores datos, datos imparciales, o con un sesgo ampliado.
Incluso existen técnicas que permiten que el sistema se dé cuenta de que algo
está mal y genere sus propios mecanismos para predecir de manera más acorde.
Este un asunto que está
atacado de frente por la industria, pero del que no se pueden hacer
pronósticos, como explica González Barceló: “En los últimos tres años he visto
tanto cambio y tan rápido, que es muy difícil pronosticar qué pasará en diez.
Se da en seis meses la adopción de nuevas tecnologías que antes llevaban seis
años. Es tan acelerado el proceso, que nos lleva a usos que ni siquiera
pensábamos que iban a existir. Siempre con la intención de extender las
capacidades del ser humano”.
Entonces, ¿debemos
preocuparnos por estos desarrollos en los términos de la ciencia ficción
catastrofista o de las predicciones del físico Stephen Hawking en el sentido de
que la IA es una amenaza para la humanidad? Todo indica que no, al menos en el
corto plazo. Sin embargo, los expertos evalúan la catástrofe como posibilidad.
Por ejemplo, en el Future of Life Institute, en Boston, reconocen que la IA
tiene el potencial de causar daños a la humanidad de manera intencional o no
intencional. Los daños pueden ocurrir si la IA es programada para hacer algo
voluntariamente devastador (drones, armas autónomas), o como consecuencia no
querida de alguna iniciativa bienintencionada (la discutida geoingeniería
contra el cambio climático).
“Como no sabemos qué puede
salir mal en el camino a esta superinteligencia, debemos pensar en este asunto
en detalle. La base de la ingeniería segura es mirar qué puede no funcionar,
para prevenirlo. Hasta ahora, lo único que se buscó con la IA fue hacerla más
poderosa, sin preocuparse por dirigirla. Ya es hora de cambiar ese enfoque,
para evitar males mayores”, advirtió Max Tegmark, uno de los integrantes del
Future Life Institute, en una entrevista con la revista especializada IEEE
Spectrum.
Además, usar los recursos de
la IA será cada vez más fácil. “No hace falta estar doctorado en matemática
para hacerlo”, aseguró en un artículo publicado por el Wall Street Journal
Bobby Filar, director de data science en una empresa de ciberseguridad llamada
Endgame. Y, respecto a la posibilidad de “hackear” voces y usarlas para dar
instrucciones equívocas, como en la historia citada al comienzo de esta nota,
agregó: “No se puede estar en silencio todo el tiempo; por eso es que estaremos
expuestos a que se use en nuestra contra información que dimos
involuntariamente”.
Si alguna vez la IA perteneció
al terreno de las hipótesis de la literatura de anticipación, hoy aparece a la
hora de recomendarnos amistades en las redes sociales, la música que querríamos
escuchar, las series que deberíamos ver, las compras online, las interacciones
con los celulares. El listado sigue: los autos autoconducidos, la exploración
espacial, y mucho más. Hay que reconocer que vivimos en ese futuro anticipado.
Pero no todo está escrito: es en este momento en que hay que decidir, además,
si se puede transformar en ciencia ficción catastrofista o no.
Fuente: La Nación
No hay comentarios:
Publicar un comentario