Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Infraestructura como Código de EXO
- Descripción general de patrones de implementación de EXO: nodos únicos, multi-nodo y clústeres RDMA
- Automatización de la instalación de dependencias (Xcode, uv, Node.js, Rust) con gestión de configuraciones
- Uso de flakes de Nix para builds reproducibles de EXO y entornos de desarrollo
- Escritura de playbooks de Ansible o scripts de shell para aprovisionamiento no supervisado de clústeres
Builds Reproducibles e Integración de CI
- Fijación de dependencias y construcción del dashboard en pipelines de CI
- Ejecución de pruebas de humo de EXO en ejecutores de GitHub Actions o GitLab CI
- Creación de imágenes doradas y flujos de trabajo de reversión basados en capturas de estado (snapshots) para máquinas virtuales macOS y Linux
- Versionado de tarjetas de modelos personalizados junto con el código de la aplicación
Descubrimiento de Clústeres y Automatización de Redes
- Configuración de mDNS y DNS estático para un descubrimiento confiable de nodos libp2p
- Automatización de la creación de perfiles de red y gestión de puentes Thunderbolt en macOS
- Uso de espacios de nombres personalizados (EXO_LIBP2P_NAMESPACE) para separar clústeres de desarrollo, staging y producción
- Reglas de firewall y segmentación de red para entornos multitenant
Gestión del Ciclo de Vida de Modelos y Almacenamiento
- Diseño de estrategias para EXO_MODELS_DIRS y EXO_MODELS_READ_ONLY_DIRS
- Montaje de comparticiones NFS o SAN como repositorios de modelos de solo lectura para un aprovisionamiento rápido
- Colección de basura de cachés obsoletas y políticas de retención de pesos versionados
- Automatización de descargas previas de modelos y comprobaciones de salud antes de actualizaciones en cascada
Monitoreo y Alertas
- Envío de logs de EXO a registros centralizados (ELK, Loki o Splunk)
- Construcción de dashboards de Grafana a partir de la salida de EXO_TRACING_ENABLED
- Alertas sobre cambios en la membresía del clúster, eventos OOM y picos de latencia de inferencia
- Correlación de telemetría de hardware macmon con regresiones en el rendimiento del modelo
Actualización, Reversión y Recuperación ante Desastres
- Aseguramiento de actualizaciones de binarios EXO en un nodo canario antes de una implementación generalizada
- Reversión a nivel de modelo: cambio entre versiones cuantizadas sin volver a descargar
- Copias de seguridad y restauración del estado del clúster, espacios de nombres personalizados y pesos en caché
- Documentación de manuales de recuperación para escenarios de reconstrucción total del clúster
endurecimiento de Seguridad y Cumplimiento
- Aplicación de TLS en la capa de proxy inverso (nginx, traefik) para el dashboard y API
- Implementación de limitación de tasa de API y listas blancas de IP para puntos finales de EXO
- Aislamiento de clústeres con VLANs y políticas de red de confianza cero
- Auditoría de accesos y mantenimiento de un inventario de modelos y versiones desplegados
Requerimientos
- Experiencia con prácticas de DevOps (CI/CD, IaC, orquestación de contenedores)
- Familiaridad con administración de sistemas y gestión de paquetes en macOS o Linux
- Comprensión de conceptos de redes, DNS y almacenamiento
Audiencia Objetivo
- Ingenieros de DevOps
- Arquitectos de infraestructura
- SREs responsables de cargas de trabajo de IA on-premise
21 Horas
Reseñas (2)
El conocimiento y experiencia del consultor ya que se abordan los temas teóricos aplicándolos a la realidad de los procesos. El curso contiene un programa de mucho valor en la gestión de las tecnologías de información.
Luis Castro Gamboa - Cooperativa De Ahorro Y Credito Ande No. 1 R.L.
Curso - Site Reliability Engineering (SRE) Foundation®
Que fue muy claro en cada especificación