Lo que necesita la Inteligencia Artificial para generar confianza (podcast)

El el episodio 10 de nuestro podcast Latencia Cero, “ConfIA en la IA”, tuvimos la oportunidad de contar con la participación de Lucía Ortiz de Zárate, investigadora en Ética y Gobernanza de la Inteligencia Artificial en la Universidad Autónoma de Madrid.

Con ella abordamos una cuestión fundamental en el desarrollo y aplicación de la Inteligencia Artificial: la confianza.

En su conversación, Ortiz de Zárate destaca que para generar en el público confianza hacia esta tecnología es necesario que la Inteligencia Artificial respete los derechos y libertades de los usuarios.

Para lograrlo, la Inteligencia Artificial debe cumplir algunos requisitos esenciales:

1. Los datos deben ser representativos y éticos

En cuanto a los datos que utiliza la Inteligencia Artificial, es fundamental que, además de pertinentes y de calidad, sean diversos y representativos de la sociedad. Deben dar cabida también a las comunidades, colectivos y minorías que la forman. De lo contrario se producirán sesgos y discriminaciones que van en contra de nuestros valores y derechos.»

Para que los datos sean representativos de una sociedad deben estar adaptados a su cultura y contexto, y ser tan variados y diversos como los individuos que la forman

Un ejemplo sería el reconocimiento facial, que puede discriminar por raza o género si los datos no son representativos de la sociedad en su conjunto.

2. Los algoritmos deben ser transparentes y comprensibles para los usuarios

En cuanto a los algoritmos que procesan esos datos, Ortiz de Zárate destaca la importancia de la explicabilidad. La explicabilidad se refiere a la capacidad de entender cómo y por qué un algoritmo toma una decisión y no otra.

La explicabilidad, “un tema apasionante” para la investigadora, es fundamental para generar confianza en esta tecnología, que actualmente goza de cierto beneficio de la duda en cuanto a sus ventajas y posibilidades.

La explicabilidad permite a los usuarios conocer los motivos por los que una Inteligencia Artificial toma ciertas decisiones, y garantiza que se respetan sus derechos y libertades.

Por ejemplo, si una Inteligencia Artificial participa en la decisión sobre una solicitud de acceso a la universidad y la rechaza, el usuario tiene derecho a saber el porqué de su decisión.

3. La Inteligencia Artificial debe adaptarse a cada cultura y contexto social

Ortiz de Zárate también destaca la importancia de adaptar la Inteligencia Artificial a cada cultura y contexto social.

Esto es necesario porque cada sociedad tiene sus propios valores y formas de entender el mundo, y la Inteligencia Artificial debe tenerlos en cuenta para no producir efectos negativos ni tomar decisiones sesgadas y excluyentes.

Iniciativas para fomentar la confianza en la Inteligencia Artificial

En cuanto a la percepción de la sociedad sobre la Inteligencia Artificial, Ortiz de Zárate destaca que en general la gente tiende a confiar en la tecnología, aunque hay un creciente discurso crítico que señala que la tecnología no siempre es sinónimo de progreso y que puede tener efectos negativos en la sociedad.

Para fomentar la confianza en la Inteligencia Artificial, la Unión Europea ha establecido una serie de principios éticos, como la justicia, la explicabilidad, la autonomía y el no daño.

Estos principios buscan generar un marco ético común para la Inteligencia Artificial dentro de la UE y garantizar que se respeten los derechos y libertades de los usuarios. Dentro de ese marco, Telefónica, publicó en 2018 sus Principios éticos sobre el uso de la Inteligencia Artificial.

Lucía Ortiz de Zárate nos invita a reflexionar sobre la importancia de generar confianza en la Inteligencia Artificial garantizando que los datos sean representativos y éticos, que los algoritmos son transparentes y comprensibles, y que la Inteligencia Artificial se adapta a cada cultura y contexto social. Solo así podremos aprovechar las oportunidades que nos ofrece esta tecnología sin poner en riesgo nuestros derechos y libertades.