Ponte en Contacto
 Duración 21 horas

Temario del curso

Fundamentos: Modelos de amenazas para IA agéntica

  • Tipos de amenazas agénticas: uso indebido, escalada, fuga de datos y riesgos de cadena de suministro
  • Perfiles de adversarios y capacidades de atacantes específicas para agentes autónomos
  • Mapeo de activos, límites de confianza y puntos de control críticos para agentes

Gobernanza, política y gestión de riesgos

  • Marco de gobernanza para sistemas agénticos (roles, responsabilidades, puntos de aprobación)
  • Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y capacidad de auditoría
  • Consideraciones de cumplimiento y recopilación de evidencia para auditorías

Identidad no humana y autenticación para agentes

  • Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de vida corta
  • Patrones de acceso con menor privilegio y credencialización bajo demanda (just-in-time)
  • Ciclo de vida de la identidad, rotación, delegación y estrategias de revocación

Controles de acceso, secretos y protección de datos

  • Modelos de control de acceso granulares y patrones basados en capacidades para agentes
  • Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
  • Protección de fuentes de conocimiento sensibles y PII frente al acceso no autorizado de agentes

Observabilidad, auditoría y respuesta a incidentes

  • Diseño de telemetría para el comportamiento de agentes: rastreo de intenciones, registros de comandos y procedencia
  • Integración con SIEM, umbrales de alertas y preparación forense
  • Manual de procedimientos (runbooks) y guiones (playbooks) para incidentes relacionados con agentes y su contención

Red teaming de sistemas agénticos

  • Planificación de ejercicios de red team: alcance, reglas de intervención y conmutación segura de emergencia (safe failover)
  • Técnicas adversariales: inyección de prompts, mal uso de herramientas, manipulación de la cadena de pensamiento y abuso de API
  • Ejecución de ataques controlados y medición de exposición e impacto

Endurecimiento y mitigaciones

  • Controles de ingeniería: limitación de respuestas (throttling), control de capacidades y aislamiento (sandboxing)
  • Controles de política y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y puntos de control de gobernanza (governance hooks)
  • Defensas a nivel de modelo y prompt: validación de entrada, normalización y filtros de salida

Operacionalización de despliegues seguros de agentes

  • Patrones de despliegue: preproducción, despliegue gradual (canary) y despliegue progresivo para agentes
  • Control de cambios, pipelines de pruebas y verificaciones de seguridad antes del despliegue
  • Gobernanza interfuncional: guiones de seguridad, legal, producto y operaciones

Proyecto final: Ejercicio de Red Team / Blue Team

  • Ejecutar un ataque de red team simulado contra un entorno de agente aislado (sandbox)
  • Defender, detectar y remediar como equipo blue team utilizando controles y telemetría
  • Presentar hallazgos, plan de remediación y actualizaciones de política

Resumen y próximos pasos

Requerimientos

  • Sólidos conocimientos en ingeniería de seguridad, administración de sistemas u operaciones en la nube.
  • Conocimiento de conceptos de IA/ML y comportamiento de los grandes modelos de lenguaje (LLM).
  • Experiencia en gestión de identidades y acceso (IAM) y diseño de sistemas seguros.

Público objetivo

  • Ingenieros de seguridad y profesionales de red team.
  • Ingenieros de operaciones de IA (MLOps) y de plataformas.
  • Oficiales de cumplimiento y administradores de riesgos.
  • Líderes de ingeniería responsables de despliegues de agentes.

Número de participantes


Precio por participante

Reseñas (1)

Próximos cursos

Categorías Relacionadas