Temario del curso
Fundamentos de la Gobernanza de la Seguridad de la IA
- Principios fundamentales de la gobernanza de la IA
- Marcos de seguridad empresarial para la IA
- Roles y responsabilidades de las partes interesadas
Metodologías de Evaluación de Riesgos de la IA
- Identificación y clasificación de riesgos de seguridad de la IA
- Modelado de amenazas para sistemas habilitados por IA
- Evaluación de impacto y priorización
Diseño Seguro de Sistemas de IA
- Diseño para confidencialidad, integridad y disponibilidad
- Implementación de controles de seguridad en las tuberías de IA
- Consideraciones para la gestión del ciclo de vida del modelo
Protección de Datos y Privacidad en la IA
- Gobernanza de datos para el aprendizaje automático
- Gestión de datos sensibles y regulados
- Tecnologías de mejora de la privacidad
Monitoreo y Seguridad de las Operaciones de IA
- Evaluación continua del comportamiento de la IA
- Detección de deriva, anomalías y uso indebido
- Inteligencia de amenazas operativa para sistemas de IA
Conformidad Regulatoria y Normativa
- Estándares globales que impactan la seguridad de la IA
- Documentación y preparación para auditorías
- Alineación de la gobernanza con las obligaciones legales
Respuesta a Incidentes para Sistemas de IA
- Vectores de ataque e indicadores específicos de la IA
- Flujos de trabajo de respuesta para modelos comprometidos
- Revisión posterior al incidente y remediación
Gestión Estratégica de la Seguridad de la IA
- Construcción de capacidades de seguridad de la IA a largo plazo
- Integración del riesgo de la IA en la estrategia empresarial
- Valoraciones de madurez y mejora continua
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los principios de riesgo de ciberseguridad
- Experiencia con sistemas de IA o basados en datos
- Conocimiento de la gobernanza de seguridad empresarial
Público Objetivo
- Gerentes de seguridad que supervisan iniciativas de IA
- Profesionales de gobernanza y riesgos
- Líderes técnicos responsables de la adopción segura de la IA
Reseñas (3)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática