Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Duración 21 horas
Temario del curso
Fundamentos: Modelos de amenazas para IA agéntica
- Tipos de amenazas agénticas: uso indebido, escalada, fuga de datos y riesgos de cadena de suministro
- Perfiles de adversarios y capacidades de atacantes específicas para agentes autónomos
- Mapeo de activos, límites de confianza y puntos de control críticos para agentes
Gobernanza, política y gestión de riesgos
- Marco de gobernanza para sistemas agénticos (roles, responsabilidades, puntos de aprobación)
- Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y capacidad de auditoría
- Consideraciones de cumplimiento y recopilación de evidencia para auditorías
Identidad no humana y autenticación para agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de vida corta
- Patrones de acceso con menor privilegio y credencialización bajo demanda (just-in-time)
- Ciclo de vida de la identidad, rotación, delegación y estrategias de revocación
Controles de acceso, secretos y protección de datos
- Modelos de control de acceso granulares y patrones basados en capacidades para agentes
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
- Protección de fuentes de conocimiento sensibles y PII frente al acceso no autorizado de agentes
Observabilidad, auditoría y respuesta a incidentes
- Diseño de telemetría para el comportamiento de agentes: rastreo de intenciones, registros de comandos y procedencia
- Integración con SIEM, umbrales de alertas y preparación forense
- Manual de procedimientos (runbooks) y guiones (playbooks) para incidentes relacionados con agentes y su contención
Red teaming de sistemas agénticos
- Planificación de ejercicios de red team: alcance, reglas de intervención y conmutación segura de emergencia (safe failover)
- Técnicas adversariales: inyección de prompts, mal uso de herramientas, manipulación de la cadena de pensamiento y abuso de API
- Ejecución de ataques controlados y medición de exposición e impacto
Endurecimiento y mitigaciones
- Controles de ingeniería: limitación de respuestas (throttling), control de capacidades y aislamiento (sandboxing)
- Controles de política y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y puntos de control de gobernanza (governance hooks)
- Defensas a nivel de modelo y prompt: validación de entrada, normalización y filtros de salida
Operacionalización de despliegues seguros de agentes
- Patrones de despliegue: preproducción, despliegue gradual (canary) y despliegue progresivo para agentes
- Control de cambios, pipelines de pruebas y verificaciones de seguridad antes del despliegue
- Gobernanza interfuncional: guiones de seguridad, legal, producto y operaciones
Proyecto final: Ejercicio de Red Team / Blue Team
- Ejecutar un ataque de red team simulado contra un entorno de agente aislado (sandbox)
- Defender, detectar y remediar como equipo blue team utilizando controles y telemetría
- Presentar hallazgos, plan de remediación y actualizaciones de política
Resumen y próximos pasos
Requerimientos
- Sólidos conocimientos en ingeniería de seguridad, administración de sistemas u operaciones en la nube.
- Conocimiento de conceptos de IA/ML y comportamiento de los grandes modelos de lenguaje (LLM).
- Experiencia en gestión de identidades y acceso (IAM) y diseño de sistemas seguros.
Público objetivo
- Ingenieros de seguridad y profesionales de red team.
- Ingenieros de operaciones de IA (MLOps) y de plataformas.
- Oficiales de cumplimiento y administradores de riesgos.
- Líderes de ingeniería responsables de despliegues de agentes.
Reseñas (1)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática