Shadow AI, las IA no autorizadas en su empresa

Aunque la Inteligencia Artificial parece ser la nueva revolución que aumentará la productividad de las empresas, su crecimiento desmedido también tiene un lado oscuro para las empresas. Conozca el mundo del Shadow AI.

¿Recuerda el concepto de Shadow IT descrito por Gartner? Según esta firma, la “TI en la sombra” se refiere a dispositivos, software y servicios fuera de la propiedad o el control de las organizaciones. Esta tendencia también ha llegado al reino de la Inteligencia Artificial.

Y el impacto en el futuro cercano puede ser aún mayor. Según Forrester, el 60% de los trabajadores utilizarán su propia IA para realizar su trabajo, conformando lo que ya algunos denominan BYOAI (bring-your-own-AI).

Y si esto le puede parecer extraño, pregúnteles a sus compañeros de trabajo quiénes han consultado ChatGPT o plataformas similares desde sus equipos de trabajo y teléfonos celulares. La cifra podría sorprenderle y lo que es peor, las GenIA o IA generativas apenas están empezando.

Por ello, no es extraño que ya algunos gigantes como Apple, JPMorgan Chase, Deutsche Bank, Samsung, Amazon y Accenture, entre otros, hayan prohibido a sus empleados el uso de ChatGPT. Pero esto es apenas una muestra.

Los riesgos tras las IA

Aunque casi nadie discute los innumerables beneficios de la Inteligencia Artificial, entre ellos la generativa, lo cierto es que todavía existen varios desafíos por superar que van desde el uso de propiedad intelectual hasta los de protección de la información.

Pero tal vez uno de los riesgos más conocidos es un mal que ha aquejado a las GenAI desde sus inicios y es el de las alucinaciones. Según Vectara, una start-up fundada por antiguos empleados de Google, los chatbots inventan detalles en al menos el 3% de las interacciones, una cifra que puede llegar hasta el 27%.

Otro riesgo aún mayor es el uso de la información; la Shadow AI escapa por debajo de las riendas de la gobernanza de los datos al proporcionar información privada a una plataforma en línea. Recordemos que en abril de 2023, Sam Altman, el CEO de OpenAI, admitió que un error permitió a algunos usuarios de ChatGPT ver las conversaciones de otros.

Heredando males

Al igual que sucede con el Shadow IT, la sombra de la Inteligencia Artificial conlleva riesgos generados por la falta de transparencia para el departamento de tecnología y que no solo pueden traer brechas de seguridad, incluso pueden traer consecuencias legales al compartir información sensible o privada.

Considere además que, según Deloitte, el 91% de las personas dan su consentimiento a los términos y condiciones legales de los servicios en línea sin siquiera leerlos y esto aplica también al uso de las plataformas IA en línea.

¿Pero la solución es prohibirlo todo? …No. Aún estamos al comienzo del camino regulatorio de la IA generativa, pero lo que se puede hacer es, como siempre, educar, decidir qué empleados tienen acceso a qué herramientas y con qué fines y, sobre todo, comunicar a qué se puede hacer y en qué equipos. Pues al final, la idea no es prohibir la tecnología sino aprovecharla.

Si quieres saber cómo desde Movistar Empresas te podemos ayudar a impulsar la transformación de tu negocio y a hacerlo de manera sostenible ingresa aquí.

Foto de vecstock