Debate Club CDO Spain: Poniendo el “Data” en el “Ethics”

LUCA    28 marzo, 2019

Actualmente, tenemos más preguntas que respuestas. Ante la falta de un marco ético global que sirva de guía, el CDO debe ser consciente no solo del potencial beneficio de los datos, sino de todos los posibles efectos en terceros


Asier Gochicoa, CDO de Grupo Kutxabank, señala un dilema que surge en este sentido:

“No utilizar los datos para discriminar, por ejemplo, es especialmente desafiante en sectores como la banca, donde, para poder prestar un buen servicio con garantías, debemos estudiar muy bien índices de morosidad”.

Como en cualquier otro campo de la actividad humana, debemos tener clara la diferencia entre ley y ética. No todo lo que es legal es moral y viceversa. En este sentido, Gochicoa advierte que

“Es difícil de imaginar que todo el peso de lo que los CDO entendemos como data ethics llegue a las empresas: el GPDR obliga, la ética del dato, no (más allá del nivel personal)”.

 “El principal reto del CDO es cultural: como profesionales del dato, debemos llevar a cabo una gran labor pedagógica”.

En cualquier caso, el análisis de datos y la IA, bien utilizados, conllevan más beneficios que riesgos. Proporcionan un contexto más detallado sobre los clientes. Pero, ¿qué sucede cuando escapan a nuestro control o entendimiento, cuando tratamos con los conocidos como algoritmos “de caja negra”? Según David Martín, CEO de Damavis, este es un claro ejemplo de la labor pedagogía que aún es necesario realizar:

“Realmente, no son cajas negras. Debemos hacer entender que son funciones matemáticas que obedecen directrices lógicas. Su complejidad puede aumentar exponencialmente, pero si las reducimos a sus elementos más básicos, podemos explicar su comportamiento. Es difícil, pero no imposible”.

Tenemos la responsabilidad de entrenar a los modelos de aprendizaje automático para que funcionen cada vez mejor. Puede ser que incurran en decisiones discriminatorias, como denegar el derecho de compra de personas en función de su nacionalidad, porque detecten muchos casos de fraude procedentes de determinado país, pero es una responsabilidad humana enseñar a la máquina a discernir. El modelo hace su trabajo (discriminar en base a datos), pero no debemos pedirle que desempeñe la labor de un humano: pensar de manera crítica.

“Como CDO, hemos de establecer un protocolo que asegure la calidad de nuestros modelos, por ejemplo, poniéndolos a prueba en entornos acotados. Esto podría hacerse proporcionándoles una muestra real, pero sin llevar el resultado a producción. Como profesionales del dato, debemos velar para que los modelos imperfectos no lleguen a producción hasta que tengan determinada calidad”, indica Martín.

Por su parte, Lipúzcoa indica que:

“La abundancia de datos ha puesto de manifiesto que existen más dilemas de los que antes nos planteábamos. Para el CDO, el principal reto es cultural: debemos explicar estos dilemas, por qué existen y por qué debemos abordarlos. Por otro lado, debemos enfrentar la eficacia a la ética y encontrar un equilibrio adecuado entre ambas, definiendo modelos con incentivos y contrapesos”.

Durante el debate, asimismo surgió la idea de que el problema de la ética del dato es, sobre todo, corporativo porque, si no hubiera “data”, ¿habría “ethics”? ¿Reflexionan lo suficiente las compañías sobre el impacto de sus acciones en la sociedad? Ya existían dilemas morales y comportamientos cuestionables. Ahora, simplemente, tenemos más datos y las compañías están más expuestas.

Durante la discusión, Daniel Martínez, CDO de Caja Rural, se preguntó:

“Si los datos son realmente discriminatorios. Los prejuicios humanos juegan un papel importante a la hora de definir un algoritmo de machine learning. Por tanto, debemos enseñar a tomar decisiones a la máquina y procurar que no ‘herede’ prejuicios inútiles y perjudiciales”.

Por su parte, Francisco Escalona, Big Data Manager de Orange, destacó que:

“En ocasiones, el big data también nos ayuda a eliminar viejos dilemas. Por ejemplo, si queremos evitar discriminar por zona residencial, por las posibles implicaciones sobre la renta que pudiera tener, hoy tenemos infinidad de datos de clientes que nos dan una visión más rica y complementaria que si utilizásemos solo el código postal, del que incluso podemos prescindir según qué casos. El big data nos ayuda a acertar más, a conocer mejor los matices del cliente y, por tanto, ser más eficaces a la hora de promocionar nuestra oferta comercial”.

Juan Manuel López, como CDO de CUNEF, se enfrenta a retos muy particulares por el sector al que se dirige y a sus potenciales clientes, tanto alumnos como padres de alumnos.

“Debemos, en cierto modo, discriminar para asegurarnos que aceptamos buenos estudiantes y que nuestra oferta es competitiva, ya que tenemos más demanda que oferta de plazas. Si no discriminásemos, ofreceríamos un mal servicio y una mala experiencia educativa. El análisis de datos y las técnicas de aprendizaje automático nos ayudan, ciertamente, a resolver problemas que ya teníamos, utilizando nuevas técnicas. Ahora, el dilema es ser transparente y explicar razonablemente nuestras decisiones a las personas afectadas, tanto alumnos como padres”.

Las empresas toman muchas decisiones en base a datos diversos y deben ser capaces de explicar la razón de dichas decisiones a sus stakeholders. Por supuesto, el análisis de datos también conlleva nuevos retos que el CDO, como profesional, debe abordar: ¿estamos analizando los correctos? ¿tienen la calidad suficiente?

Sin embargo, durante la discusión también quedó claro que no debemos perder la perspectiva de que, en el conjunto del amplio tejido empresarial español, gran parte compuesto de pymes, la mayor parte de las empresas carece de CDO. En otras palabras, el 90% de las empresas españolas no entiende la importancia de analizar datos, sus matices y terminología, cómo hacerlo y los riesgos e implicaciones asociadas. Sin cultura del dato, existe un gran problema por resolver.

Para Carlos Zorita, director de tecnología de Ediciones Condé Nast:

“La regulación europea ha supuesto un gran empuje para las empresas, para que nos esforcemos en adaptarnos a un nuevo marco y, a la vez, definirlo. En cualquier caso, dado que la ética no es global y depende en gran medida de la educación recibida, me atrevo a aventurar que encontraremos fricciones. Unos países son más laxos con la gestión del dato, en otros, directamente no preocupa y un tercer grupo es más estricto. No en vano, ya se han comenzado a aplicar las primeras grandes multas por incumplimiento del RGPD”.

En opinión de Ángel Galán, responsable de Business Intelligence de Correos:

“Estamos evolucionando como usuarios y entendiendo mejor el valor del consentimiento. En general, hemos tendido a recolectar datos en exceso (de padecer el ‘síndrome de la dispersión del data lake’) a solicitar su recogida para un uso concreto y claramente comunicado, lo que es un gran paso”.

En este sentido, Martín matiza que:

“Es importante defender que efectivamente no todas las empresas hacen un uso incorrecto de los datos. Muchas están haciendo una importante labor divulgativa, que sin duda es la clave. Es esencial comunicar claramente al usuario que, si nos permite X datos, podremos hacer Y con ellos”. 

Por tanto, el usuario también tiene su parte de responsabilidad:

“Debe valorar qué le aporta una oferta comercial y si está dispuesto a proporcionar la contraprestación que supone. Últimamente, se escucha mucho aquello de que, si te ofrecen algo gratis, el servicio eres tú”.

Daniel Martínez incide en este punto:

“El principal reto es pedagógico. Una vez entendemos el impacto del dato en la empresa, sin duda debemos establecer ciertas líneas rojas, pero, en todo lo demás, hemos de fomentar el uso de los datos todo cuanto sea posible, porque sus beneficios son enormes”.

En muchas ocasiones, la empresa percibe la regulación como algo costoso y que ralentiza el desarrollo del negocio. No obstante, puede ayudar a avanzar de manera ordenada. En este contexto, ¿cuál debe ser el papel del CDO? Para Javier Marqués, CDO de Grupo Generali España:

“La respuesta es compleja, pero sin duda, podemos afirmar que es un rol muy cambiante, según la compañía de la que se trate. En algunas tiene más peso la gobernanza, en otras la analítica… No está definido al 100% para todos por igual. Lo que sí está claro es que su papel está muy ligado a la capacidad empresarial para extraer valor de los datos, con garantías y de manera correcta. El CDO no tiene por qué liderar todo el ciclo de vida del dato, puede compartir la carga. Máxime cuando el efecto, beneficios y desafíos asociados a los datos son transversales a todos los departamentos y, por tanto, la decisión ética está cada vez más colegiada”.

¿Estamos preparados para cumplir con la ética del dato? Gochicoa destaca que muchos sectores se han encontrado muchos más dilemas éticos en comparación con la industria del dato. Gil coincide:

“Aún estamos definiendo la ética del dato. Primero debemos identificar y definir los problemas para poder abordarlos”

Tras el debate, como era de esperar, surgieron pocas respuestas categóricas y muchas nuevas preguntas. Nos encontramos en una fase previa de descubrimiento. Por ello, es más importante mantener viva la curiosidad, para poder plantearnos nuevos dilemas que nos permitan avanzar. 

Post escrito por el Club Chief Data Officer Spain

El Club de Chief Data Officer Spain es la comunidad de los CDOs en España y el próximo martes 2 de abril celebrará un nuevo evento en el que tratará acerca de Democratización de Datos y de cómo transicionar de un modelo de gestión y explotación del Data de soluciones artesanales a uno más escalable e industrializable. 

Visita la web del Club en este enlace: http://clubcdo.com/ y puedes contactar para más información en clubcdospain@outlook.es

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *