GenAi en las empresas, descubra los desafíos

La inteligencia artificial generativa o GenAI es la última gran tendencia tecnológica, responsable de la democratización de la tecnología y de múltiples mejoras en eficiencia y experiencia del cliente; sin embargo, como todo, tiene riesgos. Conozca los retos de su implementación.

Según Gartner, para 2027, más del 40% de las violaciones de datos relacionadas con la IA serán causadas por el uso indebido y transfronterizo de la IA generativa (GenAI). Con falta de estándares globales y un mercado criminal creciente, la implementación de la GenAI tiene desafíos en múltiples áreas.

Como muestra, según estadísticas del Banco Mundial, entre el 26% y el 38% de los empleos en América Latina y el Caribe podrían verse afectados por la inteligencia artificial generativa (GenAI). Se trata de un fenómeno global que implica replantearse las estrategias de capacitación (upskilling y reskilling) de numerosas organizaciones.

Esto sin hablar de desafíos simplemente técnicos como la calidad y gestión de los datos, donde la información fragmentada, inconsistente o incompleta puede distorsionar los resultados y comprometer la utilidad de las aplicaciones de IA. Situaciones que obligan a repensar la gobernanza de la inteligencia artificial en las organizaciones.

Desafíos técnicos y legales de la GenAI

A la hora de hablar de inteligencia artificial generativa, el riesgo más común entre las empresas se relaciona directamente con la seguridad y privacidad de los datos o las violaciones a la propiedad intelectual.

Como muestra, recordemos cuando Samsung prohibió el uso de ChatGPT por parte de sus empleados luego de que lo utilizaran para corregir su código propietario. O más radical aún es la prohibición de esta misma plataforma en el sector bancario, donde JPMorgan, Citigroup, Deutsche Bank y Bank of America, entre otros, la han vetado.

Otros retos son ya viejos conocidos en el mundo de la tecnología como son la integración con sistemas existentes de terceros, la escalabilidad y el rendimiento de las plataformas de IA, o incluso el costo de procesamiento. Pero más allá de los desafíos técnicos, otro de los principales retos de la GenAI está relacionado con la ética y la discriminación que puede perpetuar o amplificar prejuicios existentes.

Alucinaciones y la resistencia cultural

Uno de los riesgos más conocidos de la GenAI, sobre todo al inicio de su popularización, se relacionaba con las famosas alucinaciones: información inventada, citas falsas o incluso imágenes distorsionadas creadas por plataformas de inteligencia artificial. Situación que ha destacado la necesidad de usar la IA como una herramienta y la necesidad de verificar sus datos en tareas críticas.

En otras palabras, lo ideal es que la IA no se enfoque en desplazar empleados sino en empoderarlos autorizando tareas. Recordemos que más del 30% de los trabajadores podría ver alteradas al menos el 50% de sus tareas profesionales por la IA generativa, según un estudio de Brookings.

Si quieres saber cómo desde Movistar Empresas te podemos ayudar a impulsar la transformación de tu negocio y a hacerlo de manera sostenible ingresa aquí.

Foto de Freepik