Temario del curso
Fundamentos del despliegue de IA híbrida
- Comprensión de los modelos de despliegue híbrido, en la nube y periférico (edge)
- Características de las cargas de trabajo de IA y limitaciones de infraestructura
- Elección de la topología de despliegue adecuada
Contenedoresización de cargas de trabajo de IA con Docker
- Construcción de contenedores de inferencia para GPU y CPU
- Gestión de imágenes seguras y registros
- Implementación de entornos reproducibles para IA
Despliegue de servicios de IA en entornos de nube
- Ejecución de inferencias en AWS, Azure y GCP mediante Docker
- Provisionamiento de computación en la nube para el servicio de modelos
- Seguridad de puntos finales (endpoints) de IA basados en la nube
Técnicas de despliegue periférico (edge) e in situ (on-premise)
- Ejecución de IA en dispositivos IoT, pasarelas y microsistemas
- Entornos de ejecución ligeros para entornos periféricos (edge)
- Gestión de conectividad intermitente y persistencia local
Redes híbridas y conectividad segura
- Túneles seguros entre el borde (edge) y la nube
- Certificados, secretos y acceso basado en tokens
- Ajuste de rendimiento para inferencias de baja latencia
Orquestación de despliegues de IA distribuidos
- Uso de K3s, K8s u orquestación ligera para configuraciones híbridas
- Descubrimiento de servicios y programación de cargas de trabajo
- Automatización de estrategias de despliegue multilocalización
Monitoreo y observabilidad en todos los entornos
- Seguimiento del rendimiento de la inferencia en todas las ubicaciones
- Registro centralizado para sistemas de IA híbrida
- Detección de fallos y recuperación automatizada
Escalamiento y optimización de sistemas de IA híbrida
- Escalamiento de clústeres periféricos (edge) y nodos en la nube
- Optimización del uso del ancho de banda y almacenamiento en caché
- Equilibrio de cargas de computación entre la nube y el borde (edge)
Resumen y próximos pasos
Requerimientos
- Comprensión de los conceptos de contenedores
- Experiencia con operaciones en la línea de comandos de Linux
- Familiaridad con flujos de trabajo de despliegue de modelos de IA
Audiencia objetivo
- Arquitectos de infraestructura
- Ingenieros de Fiabilidad del Sitio (SRE)
- Desarrolladores de tecnologías periféricas (edge) e IoT
Reseñas (3)
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
el formador tenía mucho conocimiento y paciencia para compartir con nosotros
Bogdan Olaru
Curso - Introduction to Docker
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática