Gobernanza de IA, una necesidad de las empresas modernas

Aunque los beneficios de la inteligencia artificial sean innegables en términos de productividad, su implementación conlleva una serie de desafíos que van desde aspectos técnicos hasta normativas legales e incluso éticas. La gobernanza de la IA es un imperativo en las organizaciones de nuestros días.

En 2019, Apple, en aquel entonces la empresa más valorada del mercado, se vio envuelta en una polémica sobre acusaciones de discriminación de género que surgieron en torno a la tarjeta de crédito Apple Card. Este incidente sirvió para demostrar cómo los sesgos algorítmicos estaban infiltrados en la tecnología y la importancia de una buena gobernanza de la IA.

De hecho, el incidente llegó al punto de que el cofundador de Apple, Steve Wozniak, denunció que incluso su esposa recibió límites de crédito significativamente más bajos a pesar de tener finanzas conjuntas. Esto desembocó en investigaciones del Departamento de Servicios Financieros de Nueva York (DFS) y la Oficina de Protección Financiera del Consumidor (CFPB) estadounidense.

Pero tal vez la mayor consecuencia de este incidente fue la visibilidad de un problema que podría afectar incluso a gigantes con recursos casi ilimitados: la discriminación algorítmica. Si esto afectó a una empresa del tamaño de Apple, ¿qué pueden hacer otras organizaciones? La respuesta está en los procesos.

Comenzando por la definición

El Carnegie Council for Ethics in International Affairs, una organización independiente fundada por Andrew Carnegie en 1914, define la Gobernanza de la Inteligencia Artificial como «el conjunto de normas, reglamentos, marcos éticos y técnicos y mecanismos similares que guían el desarrollo y despliegue de las tecnologías de inteligencia artificial».

Se trata de una serie de estándares que garantizan que los sistemas y herramientas de IA operen de manera ética con el objetivo de dirigir la investigación, el desarrollo y la aplicación de la IA hacia resultados beneficiosos, con un fuerte énfasis en fomentar la equidad, la transparencia y el respeto por los derechos humanos. En sí, la gobernanza de la IA no es simplemente una preocupación técnica o regulatoria; es un elemento fundamental para generar confianza pública.

¿Por dónde empezar con la gobernanza de la IA?

El primer paso es establecer una base ética y un código de conducta. Esto implica desarrollar un código de ética que describa claramente los valores y principios de IA de la organización. Estos principios deben incluir la equidad y la transparencia.

Luego, se deben diseñar e implementar estructuras de gobernanza de la IA. Las organizaciones deben crear un Comité o Junta de Ética de la IA, un organismo especializado responsable de supervisar las actividades y gobernanza de la IA. Este comité puede incluir una mezcla diversa de partes interesadas con experiencia en IA, derecho y ética, con asesores externos que ofrezcan perspectivas imparciales.

Es fundamental definir roles y responsabilidades. La clara delineación de roles y responsabilidades es esencial para evitar la duplicación, reducir la posibilidad de que los problemas relacionados con la IA pasen desapercibidos y fortalecer la rendición de cuentas.

La ética debe integrarse en todo el ciclo de vida de la IA. Esto implica diseñar sistemas de IA con principios éticos desde cero, asegurando que sean transparentes, explicables y justos. Las prácticas clave incluyen la identificación y mitigación del sesgo en los datos y modelos a través de pruebas y validaciones rigurosas en diversos grupos demográficos.

Finalmente, es crucial el monitoreo, la auditoría y la evaluación continuos. La IA no es una tecnología de «configurar y olvidar». Las auditorías éticas periódicas son una parte fundamental para construir y mantener sistemas de IA confiables.

• Si quieres saber cómo desde Movistar Empresas te podemos ayudar a impulsar la transformación de tu negocio y a hacerlo de manera sostenible ingresa aquí.

Foto de Freepik