Contacta con nosotros

Temario del curso

Fundamentos: Modelos de Amenaza para IA Agente

  • Tipos de amenazas agente: mal uso, escalación, filtración de datos y riesgos en la cadena de suministro
  • Perfiles de adversarios y capacidades de atacantes específicos para agentes autónomos
  • Mapeo de activos, límites de confianza y puntos de control críticos para agentes

Gobernanza, Política y Gestión de Riesgos

  • Marcos de gobernanza para sistemas agente (roles, responsabilidades, puertas de aprobación)
  • Diseño de políticas: uso aceptable, reglas de escalación, manejo de datos y auditablez
  • Consideraciones de cumplimiento y recopilación de evidencia para auditorías

Identidad No Humana y Autenticación para Agentes

  • Diseño de identidades para agentes: cuentas de servicio, JWTs y credenciales de corta duración
  • Patrones de acceso de mínimo privilegio y concesión de credenciales bajo demanda
  • Ciclo de vida de identidad, rotación, delegación y estrategias de revocación

Controles de Acceso, Secretos y Protección de Datos

  • Modelos de control de acceso granular y patrones basados en capacidades para agentes
  • Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
  • Protección de fuentes de conocimiento sensibles e información personal identificable (PII) contra accesos no autorizados por parte de agentes

Observabilidad, Auditoría y Respuesta a Incidentes

  • Diseño de telemetría para el comportamiento del agente: rastreo de intención, registros de comandos y procedencia
  • Integración con SIEM, umbrales de alerta y preparación forense
  • Manuales y planes de acción para incidentes relacionados con agentes y contención

Pruebas de Estrategia Roja de Sistemas Agente

  • Planificación de ejercicios de prueba de estrategia roja: alcance, reglas de participación y failover seguro
  • Técnicas adversarias: inyección de prompts, mal uso de herramientas, manipulación del pensamiento secuencial y abuso de APIs
  • Realización de ataques controlados y medición de exposición e impacto

endurecimiento y Mitigaciones

  • Controles de ingeniería: limitación de respuesta, gating de capacidades y aislamiento en sandbox
  • Controles de política y orquestación: flujos de aprobación, humanos en el bucle y ganchos de gobernanza
  • Defensas a nivel de modelo y prompt: validación de entrada, canonización y filtros de salida

Puesta en Operación de Despliegues Seguros de Agentes

  • Patrones de despliegue: entorno de staging, implementación canaria y lanzamiento progresivo para agentes
  • Control de cambios, pipelines de pruebas y comprobaciones de seguridad previas al despliegue
  • Gobernanza multidisciplinaria: manuales de acción de seguridad, legal, producto y operaciones

Proyecto Final: Ejercicio de Estrategia Roja / Azul

  • Ejecutar un ataque simulado de prueba de estrategia roja contra un entorno de agente aislado en sandbox
  • Defender, detectar y remediar como equipo azul utilizando controles y telemetría
  • Presentar hallazgos, plan de remediación y actualizaciones de políticas

Resumen y Próximos Pasos

Requerimientos

  • Sólidos conocimientos en ingeniería de seguridad, administración de sistemas u operaciones en la nube
  • Familiaridad con conceptos de IA/ML y comportamiento de modelos de lenguaje grandes (LLM)
  • Experiencia con gestión de identidades y acceso (IAM) y diseño seguro de sistemas

Público Objetivo

  • Ingenieros de seguridad y evaluadores de estrategia roja
  • Ingenieros de operaciones de IA y plataformas
  • Oficiales de cumplimiento y gestores de riesgos
  • Líderes de ingeniería responsables de los despliegues de agentes
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas