Los líderes mundiales de la inteligencia artificial ética

Richard Benjamins.    8 enero, 2020
Imagen del planeta Tierra

Cada vez hay más aplicaciones de la inteligencia artificial (IA): en nuestros negocios, nuestros servicios sociales, nuestras vidas personales y en nuestras sociedades. Y la previsión es que esto seguirá creciendo. Por este impacto generalizado, los aspectos éticos de la aplicación de IA tienen un peso cada vez más relevante. ¿Cómo evitar la discriminación no deseada de los algoritmos? ¿Qué pasa con el futuro del trabajo cuando la IA automatiza muchas tareas que antes requerían personas? ¿Cómo tratar las decisiones producidas por algoritmos opacos que son cajas negras? ¿Las armas autónomas? Y así podemos seguir enumerando desafíos de la inteligencia artificial.

Para liderar con estos desafíos de la IA, muchas organizaciones de distinta índole han publicado principios éticos para la inteligencia artificial, como, por ejemplo, que su uso debe ser justo y transparente. Y con esta proliferación de principios de IA, han surgido distintos estudios que los recogen y analizan.

Universidad de Harvard

En marzo de 2019, la Universidad de Harvard analizó los principios de 32 organizaciones en todo el mundo que en ese momento habían publicado principios de IA, como se puede ver en esta figura.

Figura 1: Mapa de aproximaciones a la IA basadas en la ética y principios (fuente)
Figura 1: Mapa de aproximaciones a la IA basadas en la ética y principios (fuente)

Analizaron los principios en nueve dimensiones y hicieron un “scoring” de cada organización para cada dimensión:

  • derechos humanos
  • valores humanos
  • responsabilidad profesional
  • control humano de la tecnología
  • justicia y no discriminación
  • transparencia y explicabilidad
  • seguridad
  • rendición de cuentas
  • y privacidad.

Analizaron organizaciones de distintos tipos como organizaciones civiles, gobiernos, organizaciones intergubernamentales, y compañías privadas.

Universidad de Suiza

La ETH Universidad de Suiza analizó los principios de IA de 84 organizaciones de todo el mundo y los clasificó con las siguientes dimensiones:

  • transparencia (usado por 73 organizaciones)
  • justicia (68)
  • no maleficencia (60)
  • responsabilidad (60)
  • privacidad (47)
  • beneficencia (41)
  • libertad y autonomía (34)
  • confianza (28)
  • sostenibilidad (14)
  • dignidad (13)
  • y solidaridad (6)
Figura 2:  Directrices éticas para la IA por país (Ampliar)
Figura 2: Directrices éticas para la IA por país (Ampliar)

Algorithm Watch (ONG)

La organización sin animo de lucro Algorithm Watch mantiene un inventario global con 83 organizaciones que han publicado principios éticos de IA entre 2018 y 2019. Comentan que la mayoría de los principios incluyen temas como transparencia, igualdad, no discriminación, rendición de cuentas y seguridad, y algunos mencionan los derechos humanos y beneficencia. Además, comentan que son pocas las compañías con principios.

Universidad de Huelva

Finalmente, la universidad de Huelva, en un estudio sobre el uso de IA en las empresas españolas del IBEX 35 basándose en sus informes anuales de gestión, analizó si había referencias a la ética, como se puede ver en esta figura.

Figura 3: Resultados IBEX-35 (Ampliar)

Analizando todos estos estudios sobre la ética y la inteligencia artificial, hay una cosa que llama la atención: la escasa representación de organizaciones españoles y hispanohablantes en toda esta discusión. Como se puede observar en la siguiente figura, las organizaciones vienen de todo el mundo: USA, Australia, Europa, Asia, pero muy pocas de España o América Latina.

Figura 4: Distribución geográfica de países que han creado directrices éticas para IA (Ampliar)
Figura 4: Distribución geográfica de países que han creado directrices éticas para IA (Ampliar)

Telefónica y la ética en inteligencia artificial

Telefónica es la única empresa privada del mundo hispanohablante que aparece en todos los estudios. Y como se puede apreciar en el estudio del IBEX 35, es la única empresa española del IBEX que menciona ética en su informe anual de gestión. Este no quiere decir que la ética en la inteligencia artificial no sea importante en España o América Latina, pero sí que ninguna otra empresa en este ámbito disputa este liderazgo a Telefónica.

Ética en la IA en España

Existen varias organizaciones in España que se preocupan de la ética en la inteligencia artificial, de las cuales algunas son recientes.

  • OdiseIA es el Observatorio del impacto social y ético de la inteligencia artificial constituido como una asociación independiente por un conjunto de profesionales. Organiza su trabajo a través de una perspectiva sectorial y una perspectiva de desafío (futuro de trabajo, explicabilidad, impacto en comportamiento, etc.)
  • We the Humans es un “think tank” sobre el impacto de la inteligencia artificial en la vida real. Reflexiona sobre los retos de las tecnologías para buscar soluciones viables que lleven a un mundo donde las máquinas no sean una amenaza, sino una oportunidad para una sociedad mejor.
  • Digital Future Society es una iniciativa impulsada por el Ministerio de Economía y Empresa de España y Mobile World Capital Barcelona, con el objetivo de construir un futuro más justo e inclusivo en la era digital para mejorar el impacto de la tecnología en la sociedad.
  • La Mutualidad de la Abogacía considera que la inteligencia artificial nos pone inevitablemente frente a un desafío que no podemos ignorar: el impacto ético de la aplicación de la tecnología en la toma de decisiones.

Para mantenerte al día con LUCA, visita nuestra página web,  suscríbete a LUCA Data Speaks o síguenos en TwitterLinkedIn YouTube.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *