Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
El panorama de amenazas de IA
- Por qué la seguridad de IA es diferente: no determinismo, razonamiento opaco y el prompt como superficie de ataque.
- Taxonomía de ataques: entrenamiento en tiempo vs. inferencia vs. cadena de suministro.
- El modelo del adversario de ML: quién ataca los sistemas de IA y por qué.
Las 10 principales de OWASP para Aplicaciones LLM
- Inyección de prompts: vectores de ataque directos e indirectos.
- Manejo inseguro de salidas y falsificación de solicitudes entre plugins (cross-plugin request forgery).
- Envenenamiento de datos de entrenamiento y vulnerabilidades en la cadena de suministro.
- Denegación de servicio del modelo, divulgación de información sensible y agencia excesiva.
- Laboratorio práctico: explotación de cada categoría de OWASP contra una aplicación de prueba.
Pruebas de penetración para inyección de prompts y jailbreak
- Topología de técnicas de inyección: directa, indirecta, multi-turno y multimodal.
- Pruebas de penetración automatizadas con Giskard, Garak y herramientas personalizadas de fuzzing.
- Clasificación de jailbreak y evaluación de defensas.
- Construcción de un harness de red team para pruebas continuas de seguridad en LLM.
Ataques y defensas a nivel de modelo
- Extracción de modelos: robo de pesos y funcionalidad del modelo mediante consultas de API.
- Inferencia de membresía: determinar si los datos estaban en el conjunto de entrenamiento.
- Ejemplos adversarios: perturbaciones que engañan a clasificadores y embeddings.
- Envenenamiento de datos: corrupción de datos de entrenamiento para inducir puertas traseras o degradar el rendimiento.
Controles de seguridad de entrada y salida
- Desinfección de entradas más allá de las defensas web tradicionales.
- Filtrado de salidas: toxicidad, fuga de PII (información personal identificable) y ejecución de código alucinado.
- Guardrails como infraestructura de seguridad: NeMo, Guardrails AI y políticas personalizadas.
- Aplicación de salida estructurada como un límite de seguridad.
Seguridad de la cadena de suministro de IA
- Procedencia del modelo: verificación de la autenticidad e integridad del modelo.
- Análisis de dependencias para marcos de ML y formatos de modelos.
- Servicio seguro de modelos: aislamiento de sandbox, aislamiento de red y acceso de mínimo privilegio.
- Evaluación de modelos finos y comunitarios en busca de malware incrustado.
Seguridad operativa para sistemas de IA
- Control de acceso para puntos finales de modelos, repositorios vectoriales y herramientas de agentes.
- Registro de auditoría para cada interacción y decisión del modelo.
- Respuesta a incidentes para brechas específicas de IA: cuando el propio modelo se ve comprometido.
- Pruebas de seguridad continuas en CI/CD para pipelines de ML.
Construcción de un programa de seguridad de IA
- Modelo y hoja de ruta de madurez de seguridad de IA.
- Integración de la seguridad de IA en programas existentes de AppSec y seguridad en la nube.
- Marcos de gobernanza y regulaciones emergentes para sistemas de IA.
- Creación y mantenimiento de un manual organizacional de seguridad de IA.
Requerimientos
- Experiencia desplegando modelos de ML o aplicaciones LLM en producción.
- Conocimiento de conceptos de seguridad, incluyendo autenticación, autorización y modelado de amenazas.
- Competencia en Python para ejercicios de pruebas adversarias.
Audiencia
- Ingenieros de seguridad que amplían su alcance a superficies de amenaza de IA/ML.
- Ingenieros de ML responsables de la seguridad y robustez del modelo.
- Miembros de equipos de red team que agregan sistemas de IA a su ámbito de pruebas.
14 Horas
