¿Puede realmente la inteligencia artificial pronosticar nuestro futuro? ¿O nuestra confianza en las máquinas hará, de alguna manera, que estas lleguen a guiar nuestras vidas y se conviertan en una especie de nuevos quiromantes? Si las etiquetas y la catalogación con las que las enseñamos a comprender el mundo incluyen nuestros propios sesgos y prejuicios, ¿por qué se presupone su objetividad entonces? ¿Corremos, además, el riesgo de reducir la riqueza, complejidad y matices de nuestro mundo para que pueden comprenderlo ellas ? ¿Qué hay de la relación entre la visión artificial y la humana? O ¿cómo va a impactar la automatización en el trabajo de las personas?… Todas estas cuestiones y muchas más son las que suscita la exposición “Código y algoritmos” en Espacio Fundación Telefónica.  

La semana que viene hay dos días de fiesta, así que puede ser una magnífica ocasión para disfrutar de ella. Yo lo hice con una visita guiada y lo recomiendo. Aparte de un acercamiento más profundo a la muestra, el debate surge en el propio grupo, y es que es un tema apasionante.

Hace unos años esto de código y algoritmos eran conceptos de nicho pero ya se han instalado en nuestro día a día. Por eso, dado su impacto, es importante conocer su naturaleza e implicaciones, su posible lado oscuro y también, por supuesto, cómo pueden mejorar nuestra vida. Ya nos están ayudando a entender mejor el mundo que nos rodea y a encontrar soluciones que, de otro modo, tardaríamos años en alcanzar.

13 mil billones de operaciones por segundo

El procesamiento de enormes cantidades de datos en cada vez menos tiempo contribuye al progreso en numerosos campos. Así, la supercomputación permite, por ejemplo, trabajar en la medicina personalizada o anticipar, para intentar no llegar a sufrirlas, las consecuencias del cambio climático. Con una capacidad para realizar 13 mil billones de operaciones por segundo, el superordenador MareNostrum 4 es el eje sobre el que gira el corpus de investigación de más de 600 científicos. La exposición ilustra esto con una pieza en colaboración con el Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC-CNS).

El espíritu crítico y lo humano, en primer término

La realidad es que con frecuencia -con más incluso de la que pensamos- estamos sujetos a las decisiones del código y los algoritmos pero desconocemos su funcionamiento. No se trata tanto de que todos nos convirtamos en científicos de datos, aunque es cierto que este es el nuevo lenguaje de nuestro tiempo, pero sí debemos tener al menos el espíritu crítico para plantearnos algunas de sus implicaciones (éticas, de privacidad, seguridad…). Dado el impacto de los algoritmos en nuestras vidas es fundamental entender cómo se diseñan, de qué datos aprenden y en qué decisiones se aplican para asegurarnos de que no sean discriminatorias. No pueden ser una caja negra, sino transparentes y auditables.

Por otro lado, también surge la cuestión de cómo podemos hacer prevalecer nuestra humanidad en un mundo cada vez más parametrizado en el que se impone la automatización. La respuesta a esto es que “sigue haciendo falta la presencia de los seres humanos detrás de los cálculos” y, sobre todo, que son las preguntas y la curiosidad de las personas por el futuro las que dan forma a los usos de la tecnología.

Ada Lovelace, la primera programadora de la historia

En la muestra se explica que también la receta de una tarta o un manual de instrucciones para montar un mueble son algoritmos. Que aunque nos parezca algo actual esto se remonta tres siglos atrás años con la invención del código binario y uno de sus hitos fue el ábaco neperiano (1617). O el papel clave de una mujer, Ada Lovelace, considerada la primera programadora de la historia.

«Código y algoritmos» incluye una serie de audiovisuales divulgativos e instalaciones interactivas de trece artistas nacionales e internacionales, que invitan a la reflexión. Estos son algunos de ellos

Con “Código XML-SVG” Karin Sander transforma el espacio físico de la sala expositiva a formato digital y lo traduce a su código fuente, que plasma sobre la pared. Hace, así, el recorrido inverso a los diseños arquitectónicos generados por ordenador que se utilizan para representar espacios tridimensionales.

¿Predicción del futuro o una nueva videncia?

En las últimas décadas se ha logrado que, además de realizar cálculos, los algoritmos puedan predecir fenómenos futuros: el tiempo, la probabilidad de padecer una enfermedad o unos resultados electorales. Para ello, dispositivos conectados a la red, con una enorme capacidad de computación y almacenamiento, analizan, etiquetan y comparten un volumen de información sin precedentes en base a la cual pronostican resultados.

Clara Boj y Diego Díaz, con “Machine Biography” se cuestionan la capacidad de la tecnología para adivinar el futuro y plantean su capacidad para inducir y guiar el comportamiento humano. En 2017 decidieron, a partir de los datos recogidos por sus propios móviles, crear un algoritmo predictivo sobre cómo sería su vida en 2050. El resultado se compila en 365 libros.

En esta línea, “The Chiromancer”, de Matthias Pitscher y Diacomo Piazzi, invita a los visitantes a que una inteligencia artificial lea la palma de sus manos.

El peligro de las etiquetas

“Normalizing.ng”, de Mushon Zer-Aviv es una instalación interactiva fruto de una investigación experimental sobre los sesgos algorítmicos. Basada en metodologías históricas para la identificación de criminales a través del reconocimiento de rasgos faciales hace patente cómo el aprendizaje automático mecaniza y amplifica nuestros prejuicios. Nos lleva a dudar de la objetividad de las máquinas porque son personas las que enseñan a la inteligencia artificial lo que es normal. Pero ¿existe algo q podamos llamar normal? Y, si es así, ¿es objetivo y medible? 

El debate sobre si las máquinas nos van a quitar el trabajo lleva tiempo sobre la mesa. Del miedo se ha pasado a entender que necesitaremos complementarnos. Es cierto que la automatización ha terminado con algunos trabajos pero otros se han transformado y también ha creado muchos nuevos. La cuestión es que si los algoritmos ya están seleccionando personal o controlando la productividad en las empresas hay que establecer mecanismos de vigilancia y testeo sobre cómo toman esas decisiones.

Las emociones, la eficiencia, la productividad, el ocio…

En «Código y algoritmos» también se visibilizan temas como el ritmo de vida de la sociedad actual con la productividad en el centro. El uso creciente de la tecnología ha propiciado que, en cierta forma, los humanos seamos cada vez más máquinas, que se nos valore por nuestra eficiencia o disponibilidad.

Con “Painfully human chatbot” Iosune Sarasate recrea de manera irónica un chatbot que muestra actitudes humanas como el cansancio, la pereza, la procrastinación o un estado cambiante de ánimo. La pieza invita a reflexionar sobre si la tecnología puede ayudar a las personas a recordar su verdadera naturaleza, en la que las emociones. el ocio y el tiempo libre tienen un papel importante.

Un mundo visto a través de las máquinas

El hecho de que el ser humano obtenga gran cantidad de datos a través de la vista hizo que se desarrollara la visión artificial. A mediados de los años 80 del siglo pasado se abrió el debate sobre si era mejor que fuera capaz de comprender un objeto dentro de una escena o esta en su conjunto y se llegó a la conclusión de que debía combinar ambas habilidades. En un coche autónomo, por ejemplo, es importante que detecte la carretera, los obstáculos físicos y a los otros conductores pero el detalle del paisaje exterior no tiene importancia. De esta forma se reduce la riqueza de lo que los seres humanos somos capaces de percibir a través de la vista.

¿Nubes o caras?

En este sentido es curiosa la obra “Cloud face”. Y es que los algoritmos pueden, como las personas, identificar en las nubes figuras que recuerdan a otras cosas, como rostros humanos. La cuestión es que nosotros sabemos que no son caras reales pero ¿y la máquina? Esta obra de Shinseungback Kimyonghun indaga en el concepto de error e imaginación en tecnologías y humanos.

Por otro lado, las tecnologías de visión artificial, a pesar de sus notables avances, todavía requieren de intervención humana en muchos procesos. Se trata de tareas tediosas y repetitivas, a menudo realizadas en condiciones precarias. “Comportamiento sospechoso” de Kairus Art+Research muestra la labor manual que subyace en los sistemas inteligentes aplicados a la videovigilancia. A través de un tutorial ficticio, el visitante a la exposición puede convertirse en un etiquetador de imágenes entrenado para detectar comportamientos sospechosos. La obra evidencia así la facilidad con la que sesgos y prejuicios humanos pueden incorporarse a la visión artificial.

Las plantas como nuevos centros de datos

La sostenibilidad, por supuesto, también está presente. Se estima que los centros de datos consumirán el 20 por ciento de la energía mundial en 2025. El colectivo Grow your own cloud propone con “Data garden” un jardín de plantas codificadas, en cuyo ADN almacenen los datos mediante las últimas tecnologías de secuenciación genética. Una innovadora infraestructura que fomenta la convivencia entre ecosistemas, tecnología y personas.

Muy curiosa también es la pieza “Content-aware studies”. Con ella Egor Kraft indaga en los límites de la inteligencia artificial y en su uso como complemento del conocimiento humano. El objetivo es reconstruir fragmentos perdidos de esculturas griegas y romanas, así como generar nuevas piezas, gracias a un algoritmo de autoaprendizaje que analiza miles de modelos traducidos en datos en 3D.

En definitiva,, cuanto más conscientes seamos de la complejidad del momento actual más armas tendremos para asegurarnos de que avanzamos en el buen sentido. Y este solo puede ser que la revolución tecnológica siga teniendo un carácter esencialmente humano. Por eso no deberías perderos «Código y algoritmos».