Shadow AI es el nuevo incidente de seguridad en tu primera línea de defensa

Cualquier herramienta de IA gratuita que se use en tu organización es un incidente de seguridad en potencia. Estas plataformas recopilan información de las indicaciones, la almacenan y entrenan modelos públicos con ella, y tú no tienes ni idea de qué se usa y qué no. Un empleado que sube un documento confidencial a una herramienta gratuita de IA ha sacado esos datos fuera de tu perímetro de seguridad, donde ya no puedes controlar el acceso a ellos.

La magnitud es mayor de lo que la mayoría de los equipos de TI creen. Los investigadores del Proyecto NANDA del MIT, en «The GenAI Divide: State of AI in Business 2025», describen «una próspera “economía paralela de la IA” en la que los empleados usan cuentas personales de ChatGPT, suscripciones a Claude y otras herramientas de consumo para automatizar partes importantes de su trabajo, a menudo sin conocimientos de informática ni autorización del departamento de TI». El informe lo cuantifica así: «Aunque solo el 40 % de las empresas dice haber contratado una suscripción oficial a un modelo de lenguaje grande (LLM), los trabajadores de más del 90 % de las empresas encuestadas afirmaron utilizar habitualmente herramientas personales de IA para tareas laborales». Los investigadores lo interpretaron como una señal de lo que los empleados consideran útil. Desde el punto de vista de la seguridad, también es un mapa de cómo se mueven los datos de la empresa sin supervisión.

¿Por qué la IA en la sombra se escapa de los controles de la TI en la sombra?

Los responsables de TI se han pasado la última década intentando frenar la «TI en la sombra». Los equipos han reforzado la seguridad de las redes, han impuesto la gestión de dispositivos móviles, han bloqueado aplicaciones SaaS no autorizadas y han investigado a los proveedores externos antes de firmar los contratos. Esos controles dependen de que todo el mundo siga el proceso, pero cuando una herramienta gratuita agiliza el trabajo, los incentivos cambian. Los jefes de tienda y el personal de sala están recurriendo a herramientas LLM gratuitas para redactar anuncios de turnos y revisar los informes de incidencias de los clientes. Además del riesgo habitual de fuga de datos, esta práctica de IA «en la sombra» plantea nuevos retos: respuestas inexactas, código fuente inseguro e integraciones que nadie ha aprobado.

El uso de la IA descentralizada también supone un riesgo de incumplimiento de la Ley de IA de la UE, el Top 10 de OWASP, el Marco de Gestión de Riesgos de IA del NIST y la norma ISO 42001. Para las organizaciones que gestionan cientos o miles de sitios web, la respuesta es la misma que la que aplica el departamento de TI a cualquier otro componente de la infraestructura. No usarías un router de casa para proteger las redes de la empresa, así que, ¿por qué ibas a usar un chatbot para consumidores en un flujo de trabajo de primera línea? La alternativa es una IA diseñada para uso empresarial y controlada por tu departamento de TI, que se pueda implementar con precisión justo donde ya trabaja el equipo de primera línea.

IA para consumidores frente a IA empresarial: ¿quién controla los datos?

Un empleado que se da de alta por su cuenta en una plataforma comercial de IA está contratando un servicio ya preparado. Al hacerlo, la empresa pierde visibilidad sobre cómo se almacenan sus datos, por no hablar del control sobre el modelo subyacente.

Un LLM para consumidores viene con sus propias restricciones, funciones, medidas de seguridad, etc., ya configuradas de antemano. Tú no tienes control sobre eso. Sin embargo, cuando compras directamente a través de una API segura, el cliente empresarial puede establecer medidas de seguridad según sus propios estándares.

La cuestión se reduce a quién controla los datos:

• Consumidor / IA en la sombra: Entrena modelos públicos con datos de la empresa y no ofrece ningún registro de auditoría empresarial. Se basa en indicaciones abiertas sin controles organizativos.
• IA empresarial regulada: Ofrece instancias de datos aisladas en las que los datos internos nunca se usan para entrenar modelos externos. Utiliza consultas filtradas por roles para garantizar el cumplimiento de las restricciones internas y los permisos de los usuarios.

Un ejecutivo entrevistado para el estudio del MIT describió un requisito fundamental para cualquier proveedor de IA: «No puedo arriesgarme a que los datos de mis clientes se mezclen con el modelo de otra persona, aunque el proveedor diga que no pasa nada».

Una implementación de API específica soluciona este problema, ya que permite a la empresa configurar su propia política de retención de datos y su propio perímetro de seguridad.

Cómo utiliza WorkJam Gemini a través de una API segura

En WorkJam, nuestra colaboración con Google nos da acceso a Gemini en su nivel básico. Nos conectamos a través de una interfaz API controlable, lo que nos permite crear nuestras propias medidas de seguridad además de las que ofrece Google. El agente de IA funciona dentro de los límites de cada usuario, incluyendo horarios de turnos, normas laborales y convenios sindicales. Además, se ajusta a las políticas de la empresa incluso con grandes volúmenes de transacciones.

Protección de datos mediante una arquitectura de «caja cerrada»

Cuando los responsables de primera línea copian y pegan datos sobre el rendimiento de las tiendas o procedimientos operativos estándar propios en modelos de lenguaje grandes (LLM) públicos, esa información sale de los límites de la empresa. Para resolver el problema de la IA en la sombra hace falta algo más que una simple restricción normativa. Los empleados recurren a estas herramientas porque les resultan útiles, y los investigadores del MIT han descubierto que «este uso en la sombra crea un círculo vicioso: los empleados saben lo que es una IA que funciona bien, lo que les hace menos tolerantes con las herramientas estáticas de la empresa».

«The Fix» es una herramienta segura diseñada específicamente para esta tarea y que se integra en los flujos de trabajo que los equipos de primera línea ya están utilizando.

Cómo funciona el agente de IA de caja cerrada

Hemos diseñado el agente de IA de WorkJam como un sistema cerrado que utiliza los datos y los sistemas empresariales aprobados por el cliente. De esta forma, cada recomendación que hace se puede rastrear y hay una persona que revisa y confirma cada recomendación antes de que se lleve a cabo en las instalaciones o en la planta de producción.

Este diseño funciona según el marco «Insights to Execution». La plataforma genera información a partir de datos operativos y sistemas empresariales. La arquitectura se basa en el «Task Priority Engine», que recalcula la prioridad de forma continua a partir de seis categorías de señales: operaciones en tienda, personal, señales de los clientes, señales comerciales, IA empresarial y datos de tareas de WorkJam. Este motor genera códigos de motivo explicables para demostrar que la IA actúa basándose en la lógica y no en conjeturas. Así, las mejoras a lo largo del tiempo siempre se basan en resultados del mundo real y las indicaciones nunca se guardan. Además, nada de lo que un trabajador escriba en la interfaz se convierte en datos de entrenamiento para modelos externos.

Para los equipos de primera línea, el agente de IA se encarga de ejecutar los flujos de trabajo. Gestiona conversaciones de varias rondas para guiar a los empleados en consultas complejas o procesos paso a paso. Un empleado puede cambiar un turno o completar un paso de formación directamente desde la interfaz, sin tener que abrir otra aplicación.

La arquitectura garantiza que no se guarden las entradas de los mensajes. Cuando un trabajador de primera línea interactúa con el agente de IA, el sistema no guarda las entradas confidenciales para entrenar modelos externos.

Medidas para evitar el trabajo fuera de horario

También limitamos el acceso al agente de IA según el turno, la ubicación y la red, para que un empleado que esté fuera de horario o fuera de las instalaciones no pueda acceder a funciones que generen remuneración. De este modo, el agente puede evitar que las interacciones generen actividades remunerables fuera de horario según la Ley de Normas Laborales Justas (FLSA) y las leyes de programación predictiva. Un registro de auditoría completo y la recuperación de datos para la conservación de pruebas en caso de litigio proporcionan al director jurídico y a los responsables de RR. HH. la documentación que necesitan.

Cumplimiento normativo global y modelos de base certificados

Desarrollamos nuestro agente de IA sobre la base de Gemini de Google porque Google cuenta con la certificación ISO 42001, que ofrece un marco verificado para cumplir con la legislación en materia de IA, incluida la Ley de IA de la UE. Esa certificación nos proporciona un nivel básico de seguridad en el que podemos confiar, y es ahí donde empieza nuestro propio trabajo.

El valor de WorkJam reside en la capa de ejecución que se sitúa sobre el modelo base. Esa capa toma una decisión y la lleva a cabo sobre el terreno mediante las herramientas que ya utilizan los trabajadores de primera línea. Si combinas un modelo base certificado con nuestros controles de ejecución, obtendrás flujos de trabajo autónomos que cumplen con tus obligaciones de cumplimiento normativo.

Cómo probamos nuestros mecanismos de control de la IA

Desde el principio, hicimos nuestras propias pruebas de penetración en los mecanismos de seguridad del proveedor, encontramos formas de reforzarlos y fuimos más allá de lo que recomendaba el proveedor. Seguimos sometiendo a prueba nuestra tecnología de IA, incluidos los mecanismos de seguridad, cada año como parte de nuestras pruebas de penetración.

Integración con el Protocolo de Contexto de Modelos (MCP)

Los directores de sistemas de información (CIO) de las empresas esperan que las nuevas plataformas se integren a la perfección con las inversiones en IA que ya han realizado. WorkJam utiliza el Model Context Protocol (MCP) como interfaz estándar para conectar la ejecución en primera línea directamente con las herramientas de IA existentes de la empresa y las fuentes de datos de terceros.

Esa conectividad es también donde se esconde el próximo riesgo de seguridad. Los servidores MCP y las conexiones entre agentes permiten que un agente de IA llame a otro, y si el segundo agente tiene permisos más amplios, el primero puede heredarlos. Alguien que pone en marcha un servidor MCP sin que el departamento de TI lo sepa es una IA oculta en su forma más reciente, y los equipos de seguridad necesitan herramientas que puedan detectarla y desactivarla. En WorkJam, hemos creado herramientas internas que permiten a nuestro equipo supervisar estas interacciones desde un punto de vista humano, con la capacidad de bloquear una conexión y limitar el alcance de cada interacción, lo que los equipos de seguridad llaman su «radio de impacto».

Autonomía regulada

Cada herramienta de IA para consumidores que no esté supervisada y que se utilice en tu primera línea de trabajo supone un riesgo de incumplimiento normativo. Sustituir estas herramientas no autorizadas por una alternativa segura protege tus datos y reduce el riesgo de exposición.

A eso nos referimos con «autonomía regulada»: una IA que funciona dentro de los límites de la empresa y respeta todos los permisos de los usuarios, sus roles y las normas de restricción por turnos.

Esta arquitectura evita cualquier actividad compensable fuera de sincronización, al tiempo que mantiene a los operadores humanos al mando en todos los niveles.

Preguntas frecuentes sobre Shadow AI

¿Qué es la IA en la sombra?

La IA en la sombra es el uso que hacen los empleados de herramientas de IA no autorizadas —y que suelen ser gratuitas— para hacer su trabajo, fuera del alcance y el control de los departamentos de TI y seguridad. Es la versión de la IA del «TI en la sombra» y hace que los datos de la empresa acaben en sistemas que la organización no puede ver ni controlar.

¿Es muy habitual la IA en la sombra?

El Proyecto NANDA del MIT reveló que los trabajadores de más del 90 % de las empresas encuestadas afirmaron utilizar habitualmente herramientas de IA personales para trabajar, mientras que solo el 40 % de las empresas dijeron haber contratado una suscripción oficial a un modelo de lenguaje grande (LLM).

¿Usar una herramienta de IA gratuita en el trabajo se considera un incidente de seguridad?

Trátalo como si fuera uno. Los modelos de lenguaje grande (LLM) gratuitos para consumidores suelen guardar lo que escribes y pueden usarlo para entrenar modelos públicos, así que si un empleado pega un documento confidencial en uno de ellos, puede que esos datos salgan del control de la empresa antes de que nadie se dé cuenta.

¿Cuál es la diferencia entre la «IA en la sombra» y la «TI en la sombra»?

La «TI en la sombra» es cualquier software o servicio no autorizado. La «IA en la sombra» es el subconjunto centrado en herramientas de IA no autorizadas, y conlleva riesgos que van más allá de la fuga de datos, como resultados inexactos, código inseguro e integraciones poco seguras entre agentes.

¿Cómo pueden las empresas evitar la IA «en la sombra» en primera línea?

Ofrece a los empleados una alternativa segura, diseñada específicamente para el trabajo que querían hacer y gestionada por el departamento de TI, y combínala con un sistema de supervisión capaz de detectar y detener el uso no autorizado de la IA.

¿Qué es la norma ISO 42001 y por qué es importante para la IA?

La norma ISO/IEC 42001 es una norma internacional sobre sistemas de gestión para la inteligencia artificial. Establece una base de referencia para desarrollar una IA segura, responsable y regulada éticamente, y se ajusta a las obligaciones establecidas en leyes como la Ley de IA de la UE.

¿Se aplica la Ley de IA de la UE a las herramientas de IA de uso cotidiano?

Sí, cuando esas herramientas afecten a trabajadores o operaciones de la UE. Al igual que el RGPD, prevé sanciones por incumplimiento y exige medidas de protección, como que siempre haya una persona involucrada en el proceso.