Temario del curso
La IA en la empresa: perspectivas estratégicas y legales
- Adopción de la IA en las funciones comerciales principales: oportunidades y riesgos
- Responsabilidad ejecutiva en la gobernanza de la IA
- Sistemas de IA de alto riesgo y exposición organizacional
Clasificación de riesgos de la IA y panorama normativo global
- Ley de IA de la UE: niveles de riesgo, requisitos, sanciones
- Orden Ejecutiva de EE. UU. sobre IA y normativas federales/estatales emergentes
- Cumplimiento normativo relacionado con la IA dentro del RGPD, HIPAA y otros marcos
- Descripción general de ISO/IEC 42001, NIST AI RMF, Principios de IA de la OCDE
Seguridad y supervisión de los sistemas de IA
- Postura de seguridad de la IA: amenazas, vulnerabilidades y medidas de protección
- Respuesta ante incidentes y notificación de brechas en flujos de trabajo impulsados por IA
- Auditoría y trazabilidad de las entradas del modelo, decisiones y salidas
Adquisiciones responsables de la IA y riesgo de proveedores
- Due diligence al seleccionar herramientas de IA (incluidas LLMs y APIs)
- Elementos clave de los contratos: propiedad de los datos, explicabilidad del modelo, SLA
- Evaluación de las afirmaciones de los proveedores: mitigación del sesgo, garantías de privacidad, seguridad
Marcos de gobernanza interna y controles organizacionales
- Creación de políticas de uso de IA en toda la empresa
- Comités de ética, juntas de revisión de riesgos y supervisión multifuncional
- Formación, documentación e integración del cumplimiento normativo
Evaluación de casos de uso y escenarios de riesgo
- Evaluación de casos de alto impacto (por ejemplo, selección de personal, puntuación financiera, bots de atención al cliente)
- Herramientas y plantillas para evaluaciones de riesgo de IA
- Escenarios: desalineamiento, deriva, alucinaciones, discriminación
Tendencias emergentes y consideraciones futuras
- Anticipar la evolución regulatoria y la convergencia global
- Riesgos específicos de GenAI y extensiones en la gobernanza
- Escalada responsable de las operaciones de IA en la empresa
Resumen y próximos pasos
Requerimientos
- Comprensión de los marcos de riesgo empresarial, legal o tecnológico
- Experiencia en liderazgo ejecutivo, ciberseguridad o supervisión del cumplimiento normativo
- No se requiere conocimiento técnico previo sobre desarrollo de IA
Público objetivo
- Directores de Seguridad de la Información (CISO)
- Asesores legales y oficiales de cumplimiento normativo
- Directores de Tecnología (CTO)
Testimonios (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática