IA privada en Azure: innovar sin renunciar a la seguridad

¿Cómo aprovechar la IA sin perder el control sobre los datos, los accesos y las acciones de los agentes? Cuando se utilizan herramientas públicas sin controles específicos, la empresa puede tener poca visibilidad sobre qué información se comparte y cómo se utiliza.

En este artículo veremos qué es una plataforma de IA privada en Azure, qué componentes permiten gobernar su uso y en qué situaciones puede ser una opción para trabajar con información sensible o procesos críticos.

---

Para muchos responsables de IT, el reto con la inteligencia artificial para empresas no es encontrar un modelo capaz de redactar o analizar documentos. Es decidir a qué datos puede acceder, quién puede utilizarlo, cómo se integra con los sistemas existentes y qué ocurre cuando un agente propone o ejecuta una acción.

Una plataforma de IA privada en Azure permite utilizar modelos generativos con información corporativa dentro de una arquitectura diseñada y gobernada por la propia empresa. Esto incluye decidir qué datos puede consultar la IA, quién puede utilizarla, qué acciones puede realizar y cómo se registran sus interacciones.

Qué es una plataforma de IA privada en Azure

Una plataforma de IA privada en Azure es un entorno de inteligencia artificial diseñado para utilizar modelos generativos con datos corporativos bajo controles específicos de seguridad, acceso, gobierno y cumplimiento.

El término «privada» no significa necesariamente que la solución deba instalarse en los servidores de la empresa. Puede desplegarse en la nube de Azure y seguir estando sometida a las políticas, identidades, redes y reglas de protección de la organización.

Azure OpenAI puede proporcionar la capacidad de procesamiento de lenguaje, pero no constituye por sí solo una plataforma completa de IA empresarial. En la práctica, la solución suele combinar varios componentes:

• Fuentes documentales y bases de datos corporativas.
• Búsqueda semántica y recuperación de información.
• Identidad y autenticación mediante Microsoft Entra ID.
• Control de permisos según usuario, grupo o aplicación.
• Redes privadas y restricciones de conectividad.
• Clasificación de datos, etiquetas de sensibilidad y DLP.
• Registro de actividad y monitorización.
• Aplicaciones, asistentes o agentes conectados a los sistemas internos.

Además, una plataforma de IA privada en Azure puede ofrecer modelos de OpenAI de la misma familia que los utilizados en ChatGPT. Esto permite proporcionar a los empleados una experiencia familiar sin que el modelo sea, por sí mismo, la principal diferencia.

La disponibilidad de cada versión y el plazo para incorporarla dependen del servicio, la región y las decisiones de la organización. Lo que distingue a esta arquitectura es la capacidad de definir qué información puede consultar cada usuario, con qué sistemas se integra la solución, qué acciones están permitidas y cómo se supervisa su funcionamiento.

Qué riesgos aparecen al utilizar IA con datos corporativos sin una política clara

Las herramientas públicas pueden ser útiles para redactar, resumir o traducir información que no sea sensible. El problema aparece cuando los empleados las utilizan para procesar datos de la empresa sin una política clara o sin supervisión de IT.

Un usuario puede copiar en una aplicación externa un contrato, una propuesta comercial, código fuente, información financiera o datos personales sin conocer las condiciones aplicables al servicio.

Aunque la herramienta tenga funcionalidades empresariales, la organización debe comprobar qué modalidad utiliza, cómo se gestionan los datos y qué controles están activados.

Los riesgos de la IA más frecuentes son:

• Compartir información confidencial sin autorización.
• Desconocer dónde se procesa o almacena el contenido.
• No poder reconstruir quién hizo una consulta y con qué información.
• Permitir que una persona acceda a datos que no le corresponden.
• Incumplir políticas internas o requisitos contractuales.
• Generar respuestas incorrectas sin un responsable claramente identificado.
• Crear dependencias de servicios no aprobados por la organización.

Este uso descontrolado de herramientas recibe habitualmente el nombre de Shadow AI. La respuesta no tiene por qué ser una prohibición general. Es preferible combinar formación, una política de uso aceptable, herramientas autorizadas y controles que impidan compartir determinados tipos de información.

Cómo se estructura una solución de IA privada en Azure

No existe una arquitectura única válida para todas las empresas. El diseño depende de las fuentes que se van a consultar, la sensibilidad de los datos, los usuarios, las acciones permitidas y los requisitos de disponibilidad. Una forma sencilla de entender las decisiones principales es dividir la solución en cuatro capas.

1. Capa de datos

Reúne la información que la solución puede utilizar:

• Documentos y repositorios internos.
• Bases de conocimiento.
• Contenidos de Microsoft 365.
• Bases de datos corporativas.
• Aplicaciones empresariales.
• APIs y sistemas de gestión.
• Información estructurada y no estructurada.

Antes de conectar una fuente, hay que identificar quién es su propietario, qué datos contiene, cuánto tiempo deben conservarse y quién puede acceder a ellos.

Los permisos deben respetarse también cuando la solución busca y recupera documentos: la búsqueda semántica no puede convertirse en una vía para mostrar información que el usuario no está autorizado a consultar.

2. Capa de seguridad y gobierno

Establece las reglas de acceso y uso. Según el caso, puede incorporar:

• Autenticación con Microsoft Entra ID.
• Roles y grupos corporativos.
• Permisos de mínimo privilegio.
• Redes privadas y endpoints privados.
• Etiquetas de sensibilidad y políticas DLP.
• Gestión de secretos.
• Registros de actividad, auditoría y políticas de retención.
• Revisión de los proveedores y servicios de los que depende la solución.

Estos controles no quedan activados automáticamente por utilizar Azure.

Hay que decidir dónde se aplican y qué protegen realmente. Por ejemplo, una política DLP o una etiqueta de sensibilidad no cubre necesariamente todos los documentos, consultas, respuestas e integraciones de una aplicación.

Microsoft Purview puede formar parte de este diseño para identificar y proteger información sensible, siempre que sus funciones se configuren para los entornos y flujos correspondientes.

Aunque la presentemos como una capa para facilitar la explicación, la seguridad y el gobierno atraviesan toda la solución: datos, modelos y aplicación.

3. Capa de inteligencia artificial

Gestiona cómo se utilizan los modelos y cómo se construyen las respuestas. Puede incluir:

• Modelos generativos disponibles mediante Azure OpenAI.
• Instrucciones y plantillas para tareas concretas.
• Recuperación de contexto desde fuentes autorizadas.
• Búsqueda semántica.
• Filtros de contenido y límites de uso.
• Evaluación de la calidad de las respuestas.
• Mecanismos para identificar respuestas sin fundamento.
• Revisión humana cuando el impacto de una respuesta lo exige.

Aquí conviene definir qué fuentes puede consultar la solución y qué debe hacer cuando no encuentra información suficiente. Los mecanismos de evaluación ayudan a detectar errores, pero no los eliminan: una respuesta convincente no es necesariamente una respuesta correcta.

4. Capa de aplicación

Es lo que utilizan las personas o los sistemas. Puede adoptar distintas formas:

• Un asistente de chat interno.
• Agentes de IA especializados.
• Un portal corporativo.
• Funciones de IA dentro de aplicaciones de negocio.
• Automatizaciones para soporte, ventas, operaciones o recursos humanos.

La experiencia puede diseñarse para que resulte tan sencilla y familiar como un chat. No es una característica inherente a Azure, sino una decisión de producto e implementación.

También hay que separar tres capacidades: consultar información, proponer una acción y ejecutarla. Un agente que resume una incidencia no necesita los mismos permisos que uno capaz de modificarla en un sistema corporativo. A medida que aumenta su autonomía, deben aumentar también las validaciones, los límites y la supervisión.

Un ejemplo real: la plataforma de IA privada de RBA. Tras realizar pruebas de concepto, RBA necesitaba una plataforma capaz de integrar distintos modelos de IA y crecer de acuerdo con sus requisitos técnicos y de gobierno. En Softeng, diseñamos para ello una arquitectura en Azure apoyada, entre otros servicios, en AI Foundry y Azure Kubernetes Service.

Cuándo tiene sentido invertir en una solución de IA privada

Una arquitectura de IA privada en Azure cobra interés cuando la empresa necesita adaptar la IA a requisitos que una herramienta ya disponible no resuelve suficientemente. Por ejemplo:

• Consultar documentación corporativa respetando permisos específicos.
• Integrarse con aplicaciones o procesos internos.
• Establecer controles de conectividad y tratamiento de datos ajustados a sus políticas.
• Supervisar el uso y conservar evidencias según sus requisitos.
• Desarrollar varios casos de uso de agentes de IA sobre componentes que puedan reutilizarse.
• Delimitar con precisión qué acciones puede realizar cada aplicación o agente.

No hace falta que todos estos requisitos concurran a la vez. Tampoco cualquier tarea con datos corporativos exige construir o contratar una solución de IA privada: las herramientas empresariales existentes pueden ofrecer controles adecuados para muchos escenarios.

IA privada en Azure, Microsoft 365 Copilot y ChatGPT Enterprise

Estas alternativas pueden convivir en una misma organización.

1. Microsoft 365 Copilot está orientado especialmente al trabajo dentro de las aplicaciones y el entorno de Microsoft 365.
2. ChatGPT Enterprise ofrece una experiencia de IA general en una modalidad empresarial cuyos controles y condiciones deben evaluarse para el uso previsto.
3. Una solución construida en Azure permite definir una aplicación y una arquitectura adaptadas a fuentes, procesos e integraciones concretas.

Costes y responsabilidades de la IA privada que conviene prever

El coste de una plataforma de IA privada no se reduce al consumo de los modelos. También hay que tener en cuenta la preparación de los datos, las integraciones, la seguridad, las pruebas, el soporte y la evolución de la solución.

Pero no todo ese trabajo tiene que recaer en el equipo interno de IT.

En Softeng, por ejemplo, ofrecemos a las empresas una plataforma de IA privada en Azure, combinando arquitectura, implantación y acompañamiento.

Esto permite partir de una base tecnológica preparada y adaptarla a los datos, procesos y requisitos de gobierno de cada organización, en lugar de afrontar cada decisión desde cero.

El valor de esta inversión está en disponer de un entorno de IA que los empleados puedan utilizar con facilidad y que IT pueda gobernar: con accesos definidos, fuentes autorizadas e integraciones ajustadas a cada caso de uso.

Como en cualquier solución empresarial, conviene establecer reglas claras para los usuarios y revisar las respuestas antes de utilizarlas en decisiones importantes.

IA y seguridad pueden ir de la mano

La IA privada en Azure no tiene por qué traducirse en una herramienta extraña para los empleados. Puede utilizar modelos de la misma familia que los de ChatGPT y ofrecer una experiencia de conversación igual de familiar. La diferencia es que la empresa puede decidir cómo se accede a ella, qué información consulta y qué controles se aplican.

Esas decisiones requieren conocimiento técnico, pero no tienen por qué convertirse en un proyecto difícil de abordar. Con una plataforma y un acompañamiento adecuados, las empresas pueden empezar por casos de uso concretos y ampliar sus capacidades a medida que comprueban su utilidad.

Así, la IA resulta fácil de usar para las personas sin dejar de ser gobernable para IT.