Inteligencia artificial, ¿tan humana hasta en los prejuicios?

Mientras el mundo avanza a pasos agigantados hacia carros autónomos y computación cuántica, todo ello posible gracias a la inteligencia artificial, algunos se preguntan si es posible que esta tecnología herede los prejuicios de sus creadores.

Para la muestra, en 2018, Amazon dejó de utilizar una de sus herramientas más poderosas, la inteligencia artificial, en sus procesos de reclutamiento, pues se encontró que era sexista favoreciendo a los candidatos masculinos. 

De igual forma, en 2016, se registraron casos de racismo, homofobia e incluso antisemitismo provenientes de plataformas de inteligencia artificial. El porqué de estas tendencias, aparentemente tan sin sentido, radica en la naturaleza de sus creadores: los humanos.

Y no es un caso aislado, Twitter y Microsoft también sufrieron por eso. En el caso de Microsoft el robot conversacional Tay fue manipulado por usuarios que estimularon sus respuestas negativas (incluso propaganda Hitleriana) en detrimento de las actitudes moralmente responsables.

Prejuicios heredados

Pero esto no es algo nuevo, existen registros de racismo computarizado desde 1988, y aunque en la actualidad se han corregido muchos problemas, el uso de nuevos y más complejos algoritmos genera nuevos retos. 

Debido a estos desafíos se han formado asociaciones como la Liga de la Justicia Algorítmica que, por cierto, fue fundada por una investigadora del Instituto Tecnológico de Massachusetts (MIT) de Estados Unidos, al tener problemas con una aplicación de reconocimiento facial.

O el proyecto FA*IR, de la Unidad de Data Science de Eurecat, la Universidad Pompeu Fabra de Barcelona y la Universidad Técnica de Berlín, que busca corregir la discriminación en la búsqueda de personas online por razones de género, procedencia o apariencia física.

Lo más complicado de todo es que muchas veces el concepto de igualdad y justicia no es algo universal e igual para todos, especialmente cuando tenemos en cuenta que las computadoras actuales aprenden de la interacción con los humanos y el reflejo de valores de nuestras sociedades.

Pero más allá de hablar de posibles defectos de programación, las computadoras -casi que sobra decirlo-, no tienen prejuicios y una inteligencia artificial bien aprovechada puede ser la herramienta más eficiente e imparcial para cualquier proceso empresarial, elección, etc.

El camino hacia la AI más equilibrada y justa para todos es un ideal en el que están comprometidos muchos científicos y es cuestión de tiempo para que gracias al esfuerzo colectivo estemos cerca de alcanzarla.

Foto creada por rawpixel.com – www.freepik.es