Temario del curso
Introducción a la inferencia de IA con Docker
- Comprensión de las cargas de trabajo de inferencia de IA.
- Ventajas de la inferencia contenerizada.
- E scenarios y restricciones de implementación.
Construcción de contenedores de inferencia de IA
- Selección de imágenes base y marcos de trabajo.
- Empaquetado de modelos preentrenados.
- Estructuración del código de inferencia para la ejecución en contenedores.
Aseguramiento de servicios de IA contenerizados
- Minimización de la superficie de ataque del contenedor.
- Gestión de secretos y archivos sensibles.
- Estrategias seguras para el acceso a la red y la exposición de API.
Técnicas de implementación portátil
- Optimización de imágenes para la portabilidad.
- Aseguramiento de entornos de ejecución predecibles.
- Gestión de dependencias en múltiples plataformas.
Implementación local y pruebas
- Ejecución de servicios localmente con Docker.
- Depuración de contenedores de inferencia.
- Pruebas de rendimiento y confiabilidad.
Implementación en servidores y máquinas virtuales (VM) en la nube
- Adaptación de contenedores para entornos remotos.
- Configuración del acceso seguro al servidor.
- Despliegue de APIs de inferencia en VMs en la nube.
Uso de Docker Compose para sistemas de IA multi-servicio
- Orquestación de la inferencia con componentes de soporte.
- Gestión de variables de entorno y configuraciones.
- Escalado de microservicios con Compose.
Monitoreo y mantenimiento de servicios de inferencia de IA
- Enfoques de registro y observabilidad.
- Detección de fallas en los pipelines de inferencia.
- Actualización y versionado de modelos en producción.
Resumen y próximos pasos
Requerimientos
- Comprensión de conceptos básicos de aprendizaje automático.
- Experiencia con Python o desarrollo backend.
- Conocimiento de los conceptos fundamentales de contenerización.
Público objetivo
- Desarrolladores.
- Ingenieros de backend.
- Equipos que despliegan servicios de IA.
Reseñas (3)
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
el formador tenía mucho conocimiento y paciencia para compartir con nosotros
Bogdan Olaru
Curso - Introduction to Docker
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática