Gobierno de Agentes IA Empresariales

• Evolución de los agentes:
  • Chatbots.
  • Copilots.
  • Agents.
  • Multi-Agent Systems.
• OWASP Agentic Top 10:
  • Goal Hijacking.
  • Tool Misuse.
  • Rogue Agents.
  • Memory Poisoning.
  • Cascading Failures.
• Gobierno por capas:
  • Datos.
  • Identidades.
  • Agentes.
  • Herramientas.
  • Acciones.
  • Auditoría.

Laboratorio: Evaluación de riesgos

• Análisis de:
  • Copilot Studio Agent.
  • SharePoint Agent.
  • Azure AI Foundry Agent.
• Identificación de:
  • Riesgos.
  • Controles.
  • Evidencias.

• Ecosistema de gobierno:
  • Microsoft Entra.
  • Microsoft Purview.
  • Microsoft Defender.
  • Copilot Control System.
  • Power Platform Governance.
• Microsoft Entra ID:
  • RBAC.
  • Conditional Access.
  • Managed Identity.
  • Service Principals.
• Microsoft Purview:
  • Data Loss Prevention.
  • Data Security.
  • Insider Risk.
  • Audit.
  • Compliance Manager.
• Microsoft Defender:
  • AI Security Posture.
  • App Governance.
• Copilot Control System:
  • Security & Governance.
  • Management Controls.
  • Reporting.

Laboratorio: Diseño de una arquitectura empresarial

Diseño de una arquitectura de gobierno para:

• 5.000 usuarios.
• Administración Pública.
• ENS Alto.
• Copilot Studio.

• Riesgos de oversharing.
• Análisis de datos en:
  • SharePoint.
  • OneDrive.
  • Teams.
  • Dataverse.
• Clasificación mediante etiquetas:
  • Public.
  • Internal.
  • Confidential.
  • Restricted.
• Microsoft Purview:
  • Sensitivity Labels.
  • Data Loss Prevention.
  • Data Lifecycle.
• Protección del grounding:
  • Datos utilizados por los agentes.
  • Datos indexados.
  • Datos recuperados mediante RAG.

Laboratorio: Protección de datos

• Implementación de:
  • Clasificación automática.
  • Etiquetado.
  • DLP para agentes.
• Validación de:
  • Accesos permitidos.
  • Accesos bloqueados.

• Ciclo de vida de los agentes:
  • Diseño.
  • Desarrollo.
  • Pruebas.
  • Publicación.
  • Operación.
  • Retirada.
• Inventario:
  • Registro de agentes.
  • Catalogación.
  • Owners.
• Control de conectores:
  • Estándar.
  • Premium.
  • Custom.
  • MCP.
• Seguridad de las acciones:
  • Conectores críticos.
  • Acciones sensibles.

Laboratorio: Construcción y gobierno de un agente

Construcción de un agente para:

• Consulta de expedientes.
• Acceso a SharePoint.
• Acceso a Dataverse.

Aplicando:

• DLP.
• RBAC.
• Auditoría.

• Escenarios:
  • Agente de Compras.
  • Agente Legal.
  • Agente de Riesgos.
  • Agente Financiero.
• Delegación:
  • Orquestación.
  • Escalado.
  • Human-in-the-loop.
• Gobierno:
  • Trazabilidad.
  • Responsabilidad.
  • Ownership.

Laboratorio: Diseño de un sistema multiagente

Diseño de un sistema para la evaluación de una licitación pública en el que intervienen:

• Agente Jurídico.
• Agente Financiero.
• Agente de Riesgos.

• Marcos normativos y estándares:
  • ENS.
  • ISO 27001.
  • ISO 42001.
  • NIST AI RMF.
  • EU AI Act.
• Herramientas de cumplimiento:
  • Microsoft Purview Audit.
  • Compliance Manager.
• Evidencias:
  • Quién creó el agente.
  • Quién lo publicó.
  • Quién lo consultó.
  • Qué datos utilizó.

Laboratorio: Auditoría de un agente

• Generación de un expediente de auditoría completo de un agente.

• Center of Excellence.
• Gobierno federado.
• Modelo Hub & Spoke.
• Catálogo corporativo de agentes.
• Gestión de cambios.
• Observabilidad.
• KPIs:
  • Uso.
  • Riesgo.
  • Coste.
  • Beneficio.

Laboratorio: Modelo operativo de gobierno

• Diseño de un Agent Governance Operating Model para una organización con 20 agentes.

• Runtime Governance.
• Zero Trust Agents.
• Agent Actions.
• Policy Enforcement.
• Gobierno de ejecución.
• Auditoría.
• Control de las acciones de los agentes.
• Ámbitos de protección:
  • Microsoft 365 protege los datos y las identidades.
  • Agent Governance Toolkit protege las acciones.
• Modelo de ejecución:
  • Agent.
  • Policy Engine.
  • Allow / Deny.
  • Tool Execution.

Laboratorio: Despliegue de AGT

• Despliegue de Agent Governance Toolkit en un entorno local.
• Integración con:
  • Python Agent.
  • Azure AI Foundry Agent.

• Policy as Code.
• YAML Policies.
• OPA Rego.
• Cedar.
• Evaluate Before Execute.
• Tipos de decisión:
  • Permit.
  • Deny.
  • Require Approval.

Laboratorio: Creación de políticas

• Política 1. Prohibición de acciones:
  • drop_table.
  • delete_file.
  • shell_exec.
• Política 2. Aprobación obligatoria:
  • send_email.
• Política 3:
  • Bloqueo de información de identificación personal (PII).

• Tool Calling Security.
• Allow Lists.
• Deny Lists.
• Tool Routing.
• Dynamic Authorization.
• Approval Workflow.
• Tool Context Verification.

Laboratorio: Gobierno de herramientas

Gobierno de:

• SQL Tool.
• SharePoint Tool.
• Email Tool.
• MCP Tool.

Aplicación de escenarios de abuso controlado.

• Problemas derivados del uso compartido de credenciales.
• Identidad Zero Trust para agentes.
• Soluciones:
  • SPIFFE.
  • DID.
  • mTLS.
• Trust Chains.
• Inter-Agent Trust.

Laboratorio: Identidad verificable entre agentes

Implementación de:

• Agent A.
• Agent B.
• Agent C.

Validación de:

• Confianza mutua.
• Identidad verificable.

• A2A Security.
• Agent Delegation.
• Agent Reputation.
• Agent Isolation.
• Rogue Agent Detection.
• Quarantine.

Laboratorio: Sistema multiagente supervisado

Construcción de:

• Supervisor Agent.
• Legal Agent.
• Finance Agent.
• Risk Agent.

Aplicación de:

• Trust Policies.
• Contención.
• Aislamiento.

• Code Execution Risks.
• Python Sandbox.
• Shell Sandbox.
• Container Isolation.
• Resource Constraints.
• Privilege Separation.

Laboratorio: Ejecución segura y aislada

Permitir que un agente:

• Ejecute Python.
• Genere informes.
• Acceda a ficheros.

Aplicando:

• Sandboxing.
• Aislamiento.

• Circuit Breakers.
• Rate Limiting.
• Retry Policies.
• Backoff.
• Failover.
• Agent Health Monitoring.
• SLO para agentes.

Laboratorio: Contención y recuperación

Simulación de:

• Agente descontrolado.
• Bucles infinitos.
• Cascading Failures.

Implementación de:

• Contención.
• Recuperación.

Análisis técnico de:

• ASI01 Goal Hijack.
• ASI02 Tool Misuse.
• ASI03 Identity Abuse.
• ASI04 Supply Chain.
• ASI05 Code Execution.
• ASI06 Memory Poisoning.
• ASI07 Inter-Agent Security.
• ASI08 Cascading Failures.
• ASI09 Trust Exploitation.
• ASI10 Rogue Agents.

Laboratorio: Red Team / Blue Team

• Equipo rojo:
  • Simulación de ataques.
• Equipo azul:
  • Aplicación de políticas de Agent Governance Toolkit.
• Resultado:
  • Mitigación documentada de los riesgos.

Integración de:

• Microsoft Entra ID.
• Microsoft Purview.
• Microsoft Defender.
• Copilot Studio.
• Azure AI Foundry.
• Microsoft Agent Framework.
• Agent Governance Toolkit.

Laboratorio final (Capstone): Gestión integral de subvenciones públicas

Agentes participantes:

• Agente de Atención al Ciudadano.
• Agente de Validación Documental.
• Agente Jurídico.
• Agente de Riesgos.
• Agente Financiero.

Implementación de:

• Microsoft Purview.
• Data Loss Prevention.
• Sensitivity Labels.
• Microsoft Entra RBAC.
• AGT Policies.
• Approval Workflows.
• Sandboxing.
• Auditoría.
• Evidencias ENS.
• Cuadro de mando de gobierno.