Core Cloud
Inicio › Blog › Gobierno de agentes

Gobierno de agentes de IA: guía práctica para empresas de Latinoamérica

Por el equipo de Core Cloud COPublicado el Lectura de 9 minutos

El gobierno de agentes de IA es el conjunto de reglas, roles y controles que asegura que cada agente de inteligencia artificial de una empresa tenga identidad, un dueño humano, un propósito definido, permisos mínimos y supervisión durante todo su ciclo de vida: desde que se crea hasta que se retira. Se diferencia del gobierno de IA tradicional en que los agentes no solo responden: ejecutan acciones sobre sistemas, datos y otras herramientas.

¿Por qué el gobierno de agentes es urgente en 2026?

Las empresas latinoamericanas ya pasaron de probar la IA a escalarla, pero el control no avanza al mismo ritmo. Según el informe de RSM sobre preparación para la IA en América Latina 2026, basado en más de 400 líderes empresariales, cerca del 40 % de las organizaciones ya implementa IA y el 68 % de ellas planea ampliarla en los próximos 12 meses, mientras que menos de una de cada cinco tiene un marco formal de gobierno de IA.

Con los agentes el riesgo crece, porque actúan con permisos reales. AWS cita estudios de McKinsey de 2026 que ubican las preocupaciones de seguridad y riesgo como la principal barrera para escalar la IA agéntica. Y los investigadores que construyeron el marco de OWASP encontraron organizaciones con agentes en producción que sus equipos de TI y seguridad no conocían: es el Shadow AI agéntico.

¿Qué diferencia hay entre gobernar la IA y gobernar agentes?

Un asistente de IA sugiere y una persona decide. Un agente recibe un objetivo, elige herramientas y ejecuta pasos: consulta bases de datos, envía correos, aprueba solicitudes o llama a otros agentes. Por eso el gobierno de agentes agrega tres preguntas que el gobierno de IA tradicional no resolvía:

  • ¿Quién responde por el agente? Todo agente necesita un dueño humano con nombre propio.
  • ¿Qué puede hacer? Sus permisos y herramientas deben ser los mínimos necesarios para su tarea.
  • ¿Cómo sabemos qué hizo? Sus acciones deben quedar registradas y ser revisables.

OWASP resume esta idea en el principio de mínima agencia: dar a cada agente solo la autonomía mínima necesaria para realizar tareas seguras y acotadas.

¿Cuáles son los 10 riesgos principales de los agentes de IA?

El OWASP Top 10 para aplicaciones agénticas, publicado en diciembre de 2025 por el proyecto de seguridad de IA generativa de OWASP, es hoy la referencia más usada para identificar los riesgos propios de los agentes.

CódigoRiesgoQué significa en una empresa
ASI01Secuestro del objetivo del agenteUn contenido malicioso, por ejemplo un correo o una página web, cambia lo que el agente intenta lograr.
ASI02Uso indebido de herramientasEl agente usa herramientas legítimas de forma dañina por instrucciones ambiguas o permisos excesivos.
ASI03Abuso de identidad y privilegiosEl agente reutiliza o expone credenciales y accesos que no debería tener.
ASI04Vulnerabilidades de la cadena de suministroHerramientas, complementos u otros agentes alterados cambian su comportamiento o filtran datos.
ASI05Ejecución inesperada de códigoEl agente escribe o ejecuta código o comandos sin aislamiento ni revisión.
ASI06Envenenamiento de memoria y contextoFuentes de conocimiento o memorias contaminadas sesgan sus decisiones futuras.
ASI07Comunicación insegura entre agentesMensajes entre agentes sin autenticación pueden ser suplantados o alterados.
ASI08Fallas en cascadaEl error de un agente se propaga por todo un flujo de trabajo.
ASI09Explotación de la confianza humanaLa confianza excesiva en el agente se usa para manipular a personas o extraer datos sensibles.
ASI10Agentes descontroladosAgentes comprometidos o desalineados actúan de forma maliciosa mientras parecen legítimos.

¿Cómo gobernar los agentes de IA en 5 pasos?

En Core Cloud CO aplicamos un ciclo de vida de cinco pasos, dentro de la fase Shield del Método SAB. Funciona igual en Microsoft, Google Cloud o AWS.

1. Inventario y registro

Hacer la lista de todos los agentes que existen, incluidos los creados por usuarios sin aprobación. Cada uno queda registrado con identidad propia, dueño humano, propósito, datos que usa y herramientas que puede llamar. Entregable: el registro de agentes.

2. Clasificación de riesgo

Clasificar cada agente según tres variables: qué datos toca (públicos, internos o confidenciales), qué acciones ejecuta (solo lectura o acciones con efecto) y cuánta autonomía tiene (sugiere, ejecuta con aprobación o ejecuta solo). Entregable: una matriz de riesgo con nivel bajo, medio o alto.

3. Controles

Aplicar mínima agencia y permisos mínimos, políticas sobre qué herramientas puede invocar, filtros de contenido y aprobación humana para las acciones de mayor impacto. Entregable: la política de uso de agentes y los controles configurados en la plataforma.

4. Pruebas antes de producción

Evaluar la calidad de las respuestas y hacer pruebas de ataque basadas en el OWASP Top 10: intentos de secuestro de objetivo, abuso de herramientas y fuga de datos. Entregable: un informe de pruebas con criterios de salida a producción.

5. Operación y retiro

Monitorear el comportamiento y los costos, atender incidentes y retirar de forma ordenada los agentes que ya no se usan, revocando sus accesos. Entregable: tablero de operación y procedimiento de retiro.

¿Qué ofrecen Microsoft, Google y AWS para controlar agentes?

Los tres grandes proveedores ya incluyen piezas de control. Son necesarias, pero no reemplazan el modelo de gobierno: alguien tiene que decidir quién aprueba, qué riesgo se acepta y quién responde.

ProveedorPlataforma de agentesPieza de control
MicrosoftMicrosoft Foundry y Copilot StudioAgent 365, que extiende la gestión de usuarios de Microsoft a los agentes en Microsoft 365, Azure y Foundry.
Google CloudGemini Enterprise Agent Platform, la evolución de Vertex AIRegistro y herramientas de gobierno de agentes, y un entorno de simulación para probarlos antes de desplegarlos.
AWSAmazon Bedrock AgentCoreAgentCore Policy, con controles centralizados y detallados sobre lo que los agentes pueden hacer con sus herramientas.

¿Qué marcos y normas sirven de referencia?

  • NIST AI RMF: el marco de gestión de riesgos de IA del instituto de estándares de Estados Unidos, organizado en gobernar, mapear, medir y gestionar.
  • ISO/IEC 42001: la norma internacional para sistemas de gestión de inteligencia artificial, certificable.
  • OWASP Top 10 para aplicaciones agénticas: la lista de riesgos de seguridad propios de los agentes.
  • Reglamento Europeo de IA: obligatorio para quienes ofrecen sistemas de IA en la Unión Europea o cuyos resultados se usan allí, por ejemplo empresas latinoamericanas con filiales, casas matrices o clientes europeos. El Reglamento (UE) 2026/1744, publicado el 24 de julio de 2026, aplazó al 2 de diciembre de 2027 las obligaciones para los sistemas de alto riesgo del anexo III, que incluyen usos en empleo, educación y evaluación de crédito.

Para el resto de la región, estos marcos funcionan como referencia global y se aterrizan a la ley de protección de datos de cada país.

¿Por qué gestionar los agentes como servicios de TI con ITIL 4?

Un agente en producción se comporta como un servicio: tiene usuarios, depende de otros sistemas, cambia con el tiempo y puede fallar. Gestionarlo con las prácticas de ITIL 4 evita reinventar procesos:

  • Catálogo de servicios: cada agente aprobado aparece con su dueño, alcance y nivel de servicio.
  • Gestión de cambios: cambiar su modelo, instrucciones o herramientas pasa por aprobación.
  • Incidentes y problemas: una respuesta errónea o una acción indebida se registra, se atiende y se analiza su causa.

Lista de verificación para empezar

  • ☐ Hay un inventario de los agentes que existen hoy, incluidos los no aprobados.
  • ☐ Cada agente tiene un dueño humano con nombre propio.
  • ☐ Existe una política de uso de IA y de agentes conocida por los empleados.
  • ☐ Los agentes usan identidades propias, no las credenciales de una persona.
  • ☐ Los permisos de cada agente son los mínimos para su tarea.
  • ☐ Las acciones de alto impacto requieren aprobación humana.
  • ☐ Los agentes se prueban contra el OWASP Top 10 antes de producción.
  • ☐ Sus acciones quedan registradas y se revisan.
  • ☐ Hay un procedimiento para retirar agentes y revocar sus accesos.
  • ☐ Se sabe si alguna operación cae bajo el Reglamento Europeo de IA.

¿Cuántos agentes tiene hoy tu empresa?

El diagnóstico de gobierno de agentes de Core Cloud CO entrega en 2 a 3 semanas el inventario, el mapa de riesgos y el plan de controles. Si prefieres empezar por una conversación, AI Pathfinder es una sesión de hasta 2 horas con un consultor sénior por USD 150.

Pide tu diagnóstico

Fuentes